Отец Марека по национальности македонец, эмигрировавший из Греции в Чехословакию во время гражданской войны, мать — чешка. Один из лучших левых защитников Европы. Начинал карьеру в чешском «Банике». С 2000 года играет в Италии. После нескольких превосходно проведённых сезонов в «Удинезе», Янкуловского приобрёл «Милан», где он быстро вышел на первые роли. В 2007 году стал обладателем лигочемпионского кубка и Суперкубка. В конце сезона 2010/2011 заявил о завершении карьеры игрока.