В 30-х — 40-х годах XX в. в городе Кёльн базировались несколько футбольных команд примерно равной силы: VfL Köln 1899, VfR Köln 04, SV Mülheim, SpVgg Sülz 07 и Kölner BC 01. Однако все эти союзы были коллективами районного уровня, успешно выступавшими в своём городе и прилежащих деревеньках. Ни одна команда не могла себя серьёзно показать в рамках чемпионата Рейнланда, тем более — в первенстве Германии. С 1934 по 1944 годы VfR Köln смог-таки попасть в высшую лигу, однако конкуренция со стороны команд из Трира, Аахена и Дюрена оказывалась непреодолимой.
Решением жителей города, осознавших необходимость иметь сильную футбольную команду и сумевших повлиять на владельцев союзов, создан один клуб, вобравший всех лучших футболистов Кёльна. Именно так 13 февраля 1948 года была создана футбольная команда 1.FC Köln, базой для которой послужили союзы Kölner BC и Sülz 07.
Главной двигающей силой слияния команд стали Франц Кремер и Франц Больг, которые взялись за построение конкурентоспособной команды на национальной арене. Под свои знамена они сразу пытались призвать сильных игроков, говоря сакраментальную фразу: «Не желаете ли вы стать чемпионами Германии вместе с нами?».
Франц Кремер стал первым президентом новой команды и оставался им вплоть до своей смерти в 1967 году. Он оказался очень умелым руководителем и организатором. За несколько сезонов Кремер серьёзно улучшил инфраструктуру команды, перевел её на профессиональный уровень. Уже в 1949 году клуб смог подняться в Западный дивизион Высшей лиги Германии.
В 1957 году, на вечеринке футбольной команды по окончании сезона, совпавшей с карнавальными празднествами, один из гостей преподнес боссу клуба живого козла. Назвали его в шутку в честь главного тренера Хеннеса Вайсваллера. Козёл так полюбился самому наставнику и всем футболистам, что со временем превратился в талисман клуба, стал изображаться на логотипе команды, а затем и на всей фанатской продукции. В результате за командой закрепилось прозвище «козлы». На 2008 год на поле футбольной арены в Кёльне выходит уже «Хеннес Седьмой».
В 50-х и начале 60-х годов футболисты с берегов Рейна в целом 5 раз становились лучшими в Западной Германии. Это было успехом для клуба, которого совсем недавно не существовало. Успехи на Западе позволяли команде регулярно выступать в финальных матчах за чемпионство, но главный трофей страны покорился «Кёльну» лишь в 1962 году, когда в финале со счётом 4:0 был разбит «Нюрнберг».
В 1963 году была основана футбольная Бундеслига. Энтузиазм Кремера и его команды позволил «Кельну» стать её первым в истории триумфатором, опередив франкфуртский «Айнтрахт» на целых 6 очков. В финальной игре сезона клуб на домашней арене отпраздновал викторию над «Штутгартом» благодаря мячам Ханса Шеферта и Хайнца Хорнига. Тренером чемпионов стал Георг Кнёпфле.
В начале 60-х команда была базовым клубом национальной сборной страны. В тренерском штабе «Кёльна» работал великолепный тренер вратарей Рольф Херингс. Это обстоятельство позволило считать вратарскую школу на берегах Рейна лучшей в стране (её выпускниками стали в разное время Харальд Шумахер и Бодо Иллгнер. Многие представители других больших команд страны посещали тренировочный лагерь «козлов» и пытались понять, за счёт чего же достигаются такие успехи. В 1967 ушёл из жизни Франц Кремер, а спустя год клуб в его память впервые завоевал Кубок Германии.
В 70-х годах в лидеры немецкого футбола вышли «Бавария» и «Боруссия» (Мёнхенгладбах). «Кёльн» же немного сдал свои позиции, но находился среди лидеров чемпионата и регулярно играл в еврокубках. В 1976 клуб вновь возглавил их легендарный тренер Хеннес Вайсваллер, и уже спустя год психология победителей вновь вернулась к «козлам» вместе с завоеванием Кубка страны.
В 1978 году команда в третий (и — на 2009 год — в последний) раз становится чемпионом Германии. За несколько недель до этого успеха была ещё и победа в Кубке над «Фортуной» из Дюссельдорфа, таким образом, клуб сделал золотой дубль. Затем состоялись легендарные матчи полуфинала Кубка чемпионов протии «Ноттингем Форест». Выездная ничья в Англии со счётом 3:3 была прекрасной основой для первого в истории клуба финала такого престижного турнира. Но домашнее поражение 0:1 так и не позволило осуществиться мечте немецких болельщиков.
После сезона 1977/78 сразу несколько именитых игроков закончили профессиональную карьеру. Однако им на смену пришли Пьер Литтбарски и Бернд Шустер (выпускники футбольной школы «Кёльна»). Но сезон 1978/1979 стал разочаровывающим. «Кельн» окончил его на 6-м месте во многом из-за ужасного количества травм, которые сразили ключевых футболистов. После этого чемпионата Хеннес Вайсваллер уезжает работать тренером в «Космос» из Нью-Йорка, а его приемником на посту становится Ринус Михелс.
В 1980 году «Кельн» уступает в финале Кубка «Фортуне» из Дюссельдорфа и без трофеев заканчивает очередной сезон. Годом позже команда и вовсе становится 8-й в чемпионате, но параллельно добирается до полуфинала Кубка УЕФА, в котором вновь терпит осечку от английской команды. На сей раз на пути «козлов» становится Ипсвич Таун.
В 1983 году точный удар Пьера Литтбарски вновь приносит клубу Кубок Германии. Тогда никто не знал, что это будет последний успех в этом турнире команды с берега Рейна — в 1985 из-за конфликта с президентом союза Петером Ваяндом команду покидает её лучший футболист Пьер Литтбарски.
В 1986 команда добирается до финала Кубка УЕФА, где терпит унизительное поражение от мадридского «Реала» 1:5, 2:0. Спустя ещё год новый скандал поразил клуб — за книгу «Стартовый свисток» из команды отчисляется голкипер Харальд Шумахер.
В конце 80-х новым главным тренером был назначен Кристоф Даум. Команда стала показывать неплохой футбол и пару раз становилась вице-чемпионом. Однако в начале 90-х годов Кристофа Даума совершенно неожиданно уволили. Спустя несколько лет тогдашний президент Дитмар Арцингер-Болтен признается, что произошло это из-за наркотиков, которыми стал увлекаться специалист. Кроме того, тем же летом за рекордные 14 млн команду покинул блистательный Томас Хесслер, отправившись выступать за итальянский Ювентус. В 1992 году «Кёльн» в последний раз квалифицируется в Кубок УЕФА.
С середины 90-х команда прочно обосновывается во второй половине турнирной таблицы. Отчасти это можно объяснить неудачным вложением финансовых средств — многие купленные игроки не оправдали заплаченных денег. В 1997 новым президентом «Кёльна» становится бывший топ-менеджер немецкого филиала компании Ford Альберт Касперс. Он начал с укрепления финансов, пригласил опытных менеджеров и талантливых экономистов. Стартует масштабная реконструкция стадиона «Мюргенсдорфер». Кроме того, Касперсу удается добиться материальной поддержки от города, который более заинтересован иметь у себя сильную футбольную команду, чем это было лет десять назад.
Тем не менее, спортивные цели реализовать не удалось и в сезоне 1997/1998 «Кельн» впервые в своей истории покидает главную немецкую футбольную лигу. Однако годом позже при тренере Бернде Шустере клубу удается возвращение в элитную лигу.
В 2002 последовал новый спуск во Вторую Бундеслигу. С тех пор практически каждый сезон команда то поднималась, то опускалась в классе. На Рейн-Энерги Арене успели поработать такие специалисты как Фридхельм Функель и Марсель Коллер. Как раз с именем последнего и связано появление в основном составе двух перспективных игроков второй команды Лукаша Синкевича и Лукаша Подольски.
Ко всем игровым проблемам в 2004 году добавляется новый скандал в руководстве. Президенты, менеджеры и тренеры стали требовать отставки друг друга, обвиняя друг друга во всех неудачах клуба. В результате в июне 2004 новым президентом стал Вольфганг Оверат. Он сразу уволил Марселя Коллера, а новым тренером назначил голландца Хуба Стевенса. В сезоне 2005/2006 «козлы» вновь играли в Первой Бундеслиге. Прошло лишь несколько месяцев, как Стевенс по семейным причинам был вынужден покинуть свою команду. Его место занял Уве Рапольдер, но и он не смог доработать даже до Нового Года. И все же тренерская чехарда не уберегла команду от очередного спуска.
27 ноября 2006 в Кёльн вернулся Кристоф Даум. Однако уже через полгода он чуть не был отправлен в отставку из-за ужасного поражения 0:5 от «Рот-Вайсса» из Эссена. И всё же ситуацию удалось стабилизировать, и сезон 2007/2008 принес «Кёльну» очередное повышение в классе.
По окончании сезона 2009 Даум довольно неожиданно принял приглашение турецкого Фенербахче, и клубу в пожарном порядке пришлось искать нового тренера. Выбор пал на бывшего капитана Штутгарта Звонимира Сольдо.
