В конце 1899 года группа спортсменов-любителей из пригорода Менхенгладбаха Айкен решили организовать спортивное общество. В 1900 году новый футбольный клуб получил название «Fußballklub Borussia 1900 Mönchengladbach» («Футбольный клуб Боруссия 1900 Менхенгладбах»). В том же году клуб заявился для участия в соревнованиях Рейн-Вестфаленского игрового общества.

Долгие десятилетия клуб не мог похвастаться какими-либо серьезными успехами. Настоящий подъем клуба начался только в послевоенные годы. В 1960 году менхенгладбахцы выиграли свой первый трофей – Кубок ФРГ, обыграв в финале «Карлсруэ» со счетом 3:2, а на следующий год клуб получил свое нынешнее название.

В 1965 году «Боруссия» завоевала право выступать в бундеслиге, и с этого момента начинается ее соперничество с другим лидером немецкого футбола – мюнхенской «Баварией». Первый чемпионский титул был добыт в сезоне 1969/70, а на следующий сезон гладбахцы повторили успех, тем самым впервые в бундеслиге защитили чемпионский титул. 70-е годы были воистину «золотыми» для команды: все свои чемпионские титулы (которых было 5) «Боруссия» выиграла именно в это десятилетие. Также клубом были выиграны Кубок ФРГ 1973 года и два Кубка УЕФА (1975, 1979). «Боруссия» вслед за «Баварией» установила «хет-трик» по чемпионским титулам, выиграв их в период с 1975 по 1977 годы.

Золотая эпоха закончилась в 80-е годы, когда клуб из-за финансовых проблем был вынужден продать многих своих лидеров. К тому же команду покинули тренеры Хеннес Вайсвайлер и Удо Латтек, приводившие ее к успехам в 70-е годы. Тем не менее, в первой половине 80-х клуб все еще числился среди лидеров чемпионата, а в 1984 году гладбахцы до последних туров боролись за чемпионский титул, в итоге опередив «Баварию» и набрав одинаковое количество очков с «Гамбургом» и «Штутгартом». Чемпионом все же стал «Штутгарт», имевший лучшую разность мячей. В том же году гладбахцы дошли до финала Кубка ФРГ, где они уступили «Баварии» в серии послематчевых пенальти.

В 90-е годы финансовые проблемы клуба усилились. В 1992 году «Боруссия» снова дошла до финала Кубка Германии, где уступила «Ганноверу-96», выступавшему во второй бундеслиге. Последним титулом на сегодняшний момент стал Кубок Германии 1995 года, когда гладбахцы в финале разгромили «Вольфсбург» со счетом 3:0. Тем не менее, падение усиливалось, и в 1999 году «Боруссия» вылетела во вторую бундеслигу.

Спустя два сезона гладбахцы вернулись в бундеслигу, но их выступление нельзя было назвать успешным. Команда играла невыразительно и в основном вела борьбу за выживание. В 2004 году клуб возглавил голландский специалист Дик Адвокат, который к тому моменту успел вывести сборную Голландии в полуфинал чемпионата Европы 2004 года и добившийся многочисленных успехов с шотландским «Глазго Рейнджерс». Однако дела голландца в клубе не заладились: команда в очередной раз оказалась на грани вылета, а сам Адвокат покинул клуб до окончания сезона. В оставшихся матчах командой руководил Хорст Кеппель, бывший игрок клуба, которому удалось сохранить прописку в бундеслиге на следующий сезон.

.

В 2006 году команду возглавил легендарный игрок клуба Юпп Хайнкес, уже руководивший клубом в 80-е годы. Однако этот сезон сложился крайне неудачно как для клуба, так и для тренера: команда покинула бундеслигу, заняв последнее место, а Хайнкес был уволен в середине сезона.

В сезоне 2007-2008 гладбахцы смогли вернуться в элиту под руководством голландца Йоса Лухукая. Однако после неудачного старта голландец был уволен, и команду принял Ханс Майер, руководящий клубом по сегодняшний день.