Der SV Holstein wurde bereits im Jahr 1902 von Schülern gegründet. Innerhalb weniger Jahre gehörte der FC zu den bedeutendsten Fußballclubs. Ebenfalls bedeutend im Kieler Fußball war der 1. KFV 1900. Im Jahr 1917 entschlossen sich die Vereine schließlich zu fusionieren. Somit entstand der SV Holstein Kiel. Als offizielles Gründungsdatum gilt jedoch der Oktober 1900.
Die größten Erfolge konnte der Verein bereits in der ersten Hälfte des 20. Jahrhunderts feiern. Sowohl vor, als auch nach dem Ersten Weltkrieg dominierte der SV Holstein Kiel den Bezirk.
Nach dem Zweiten Weltkrieg war die Stadt Kiel fast komplett zerstört. Trotzdem spielte Holstein Kiel bereits ab 1945 wieder um die Bezirksmeisterschaft. Im Jahr 1947 stieg die Mannschaft in die Oberliga Nord, der höchsten Spielklasse zu dieser Zeit, auf und schaffte den Klassenerhalt bis zu Einführung der Bundesliga im Jahr 1963. Für die neu geschaffene 1. Bundesliga konnte sich der Verein jedoch nicht qualifizieren und spielte somit in der neuen, zweitklassigen Regionalliga Nord. Als in der Saison 1974/75 die neue zweigleisige 2. Fußball Bundesliga eingeführt wurde, konnten sich sieben Mannschaften der Regionalliga Nord qualifizieren. Holstein Kiel landete auf dem 8. Platz und musste somit in der drittklassigen Oberliga Nord antreten.
In den folgenden Saisonen schrammte der Verein einige Male knapp am Aufstieg in die 2. Bundesliga Nord vorbei. 1978 durfte Holstein Kiel schließlich an der Aufstiegsrunde für die 2. Liga teilnehmen und erreichte am Ende den zweiten Tabellenplatz und somit einen Startplatz in der 2. Bundesliga Nord. In der 2. Bundesliga belegte der Verein jedoch vornehmlich die hinteren Plätze. Als Holstein in der Saison 1980/81 auf dem 19. Platz landete musste der Verein, aufgrund der Zweitliga Reform, in die Drittklassigkeit absteigen. In der Oberliga Nord konnte sich Holstein Kiel bis zur Reform der dritten Liga in der Saison 1994/95 halten.
Holstein Kiel qualifizierte sich nach der Saison 1993/94 für die neue dreigleisige 3. Liga, die Regionalliga Nord. Nach der Saison 1995/96 musste der Verein jedoch als Tabellenletzter absteigen. Zwei Jahre verbrachte Holstein Kiel in der Oberliga Hamburg/Schleswig-Holstein, bevor er 1998 erneut in die Regionalliga Nord aufstieg. Als die Regionalligen im Jahr 2000 auf zwei Staffeln reduziert wurden, musste der Verein ein weiteres Mal in die Oberliga absteigen. Da am Ende der Oberliga Saison einem der Oberliga Meister die Lizenz für den Aufstieg in die Regionalliga nicht erteilt wurde, konnte Holstein in die Regionalliga Nord nachrücken.
In der Saison 2006/07 musste die Mannschaft allerdings ein drittes Mal in die vierte Klasse absteigen. In der Oberliga Nord holte der Verein in der ersten Saison den Meistertitel, durch die Einführung der 3. Liga qualifizierte sich Holstein Kiel für die mittlerweile viertklassige Regionalliga Nord. In der Saison 2008/09 konnte der Verein schließlich den Aufstieg in die 3. Liga feiern. Halten konnte sich Holstein jedoch nur eine Saison lang und spielt seit dem wieder in der Regionalliga Nord.
