ФК «Портсмут» начал свое существование 5 апреля 1898 года. Он был образован руководителями пивоваренного завода «Brickwoods», Джоном Бриквудом, ставшим президентом, и бывшим игроком «Эвертона» Фрэнком Бреттеллом, получившим должность тренера. Тогда же был построен и «Фраттон Парк», где клуб играет и по сей день, а со следующего года «Портсмут» начал выступать в Южной Лиге. В своем первом матче клуб одержал победу с минимальным счетом над «Чатем Таун», 2 сентября 1899 года. А 3 дня спустя клуб провел свою первую домашнюю игру на Fratton Park, Это был товарищеский матч против Саутгемптона. Свой первый сезон клуб закончил неплохо, 20 побед из 28 матчей, благодаря чему одержал победу в лиге. Во время Первой мировой войны чемпионат не проводился, но после нее клуб снова стал чемпионом в Южной Английской лиге.
Добившись там определенных успехов, в сезоне-1920/21 клуб был допущен в третий английский дивизион, а уже в сезоне-1927/28 сумел добраться и до высшей лиги. Дважды проиграв в финалах Кубка страны, в 1939 году «Портсмут» сумел-таки завоевать свой первый значительный трофей.
После перерыва, связанного с войной, «Портсмут» дважды победил в чемпионате Англии в сезонах 1948-1949 и 1949-1950. В числе лидеров английского футбола Портсмут пробыл не долго, покинув элиту в 1959 году. Двадцать восемь лет «Портсмут» курсировал от второго дивизиона к четвертому и обратно, пока наконец не вернулся в элиту в 1987 году только для того, чтобы на следующий год вновь ее покинуть.
В 1993 году «Портсмут» не сумел попасть в премьер-лигу напрямую из-за того, что забил на один гол меньше, чем «Вест Хэм», и в итоге уступил в плей-офф «Суиндону».
Финансовые проблемы Портсмута привели к продаже контрольного пакета акций всего за 1 фунт в 1996 году. Решить финансовые проблемы «Портсмута» получилось в начале 2000-х. Благодаря чему клуб смог удержаться во втором дивизионе, и в сезоне-2002/03 и выиграть этот турнир. Но в элите клуб трижды подряд финишировав во второй половине таблицы. В январе 2006 года «Портсмут» был продан бизнесмену Александру Гайдамаку, что позволило значительно увеличить расходы на трансферы и зарплаты игроков. Не стесненный в средствах Реднапп сумел финишировать сначала девятыми, затем восьмыми. В сезоне-2007/08 «Портсмут» также завоевал Кубок Англии, впервые в своей истории заслужив право на будущий год выступить в еврокубках.
В сезоне 2009/10 клуб занял последнее место в Премьер-лиге и вылетел в Чемпионат Футбольной лиги. По ходу сезона был признан банкротом, став первым клубом-банкротом в истории Премьер-лиги, в связи с финансовой несостоятельностью и введением внешнего управления с клуба было снято 9 очков. По состоянию на начало мая 2010 года долги клуба составляют 135 млн. фунтов стерлингов (по другим данным, 138 млн).
15 мая 2010 года «Портсмут» проиграл со счётом 0:1 действующему победителю Премьер-лиги «Челси» в финале Кубка Англии на «Уэмбли».
17 июня 2010 года кредиторы клуба с Южного Побережья проголосовали в пользу принятия соглашения о добровольном урегулировании долгов компании, официально позволив клубу выйти из внешнего управления.