Главный тренер команд «Красная Пресня» Москва (1984—1987), «Спартак» (Владикавказ) (1988), «Спартак» Москва (1989—1995, 1997—2003), тренер-консультант «Спартака» (1996, 2009), главный тренер сборной России (август 1994 — июнь 1996, 1998 — июнь 2002). Под руководством Романцева московский «Спартак» становился чемпионом СССР 1989 года, чемпионом России 1992, 1993, 1994, 1997, 1998, 1999, 2000, 2001 годов, выигрывал серебряные медали чемпионата СССР 1991 года, бронзовые медали чемпионата России 1995, 2002 гг., Кубок СССР по футболу 1991/92гг., Кубок России 1993/94, 1997/98, 2002/03 годов, выходил в полуфинал Кубка чемпионов 1990/91, Кубка Кубков 1992/93 и Кубка УЕФА 1997/98. Чемпион России 1996 (как президент клуба, гл.тренер был Ярцев). С середины 90-х до июля 2002 года был президентом и главным акционером ФК «Спартак». В 2001 году «Спартак» в последний на сегодняшний момент раз стал чемпионом России, при этом качество игры было уже не таким высоким, как в предыдущие годы. В Лиге чемпионов-2001/02 команда заняла последнее место в группе, потерпев несколько унизительных поражений. В следующем году Романцев продает контрольный пакет акций "Спартака" ростовскому бизнесмену Андрею Червиченко, продолжая оставаться при этом главным тренером. В том же году "Спартак" уступает чемпионский титул московскому "Локомотиву" и проводит самый провальный свой евросезон, уступив в групповом этапе Лиги чемпионов с общим счетом 1:18. 15 июня 2003 года Олег Романцев покинул пост главного тренера самой титулованной команды России, проработав в ней четырнадцать с половиной лет. С сентября 2003 года по февраль 2004 года — главный тренер команды «Сатурн» (Раменское). С октября 2004 по май 2005 — главный тренер московского «Динамо». С 23 апреля 2009 года занимает должность тренера-консультанта в московском «Спартаке».