Начал заниматься футболом с 6 лет. Воспитанник футбольной школы клуба «Прьевидза», в котором играл на позициях защитника и опорного полузащитника. Позднее играл за «Тренчин», откуда в 2004 году перебрался в петербургский «Зенит».

Дебютировал в «Зените» в июле 2004 года в матче на Кубок России против омского «Иртыша» и провёл в клубе 4 сезона. Всего в официальных встречах провел 113 матчей, забил 5 голов (из них в Премьер-лиге — 74 матча, 3 гола). В составе «Зенита» в 2007 году стал чемпионом России.

В начале 2008 года в приобретении Шкртела, по слухам, были заинтересованы европейские клубы «Валенсия», «Ньюкасл», «Тоттенхем», «Эвертон» и «Ливерпуль».[1]

11 января 2008 года перешёл в английский «Ливерпуль». Во время переговоров «Ливерпуля» и «Зенита» на Мартина произвел сильное впечатление главный тренер «Ливерпуля» Рафаэль Бенитес, что впоследствие он назовет решающей причиной выбора именно этого клуба.[2] Предполагаемая сумма трансфера составила 6,5 миллионов фунтов. Рафаэль Бенитес на пресс-конференции, посвящённой подписанию Шкртела, его главными качествами назвал «настойчивость, скорость и хорошую игру в воздухе» и сравнил Мартина с вице-капитаном «Красных», легендарным защитником Джейми Каррагером.

В новой команде Шкртел получил номер 37, который до него носили Яри Литманен и Зак Уитбред. Его полноценный дебют состоялся 26 января 2008 года в матче против любительского клуба «Хавант-энд-Уотерлувилл» в рамках четвертого раунда Кубка Англии. Мартин практически сразу завоевал место в основном составе, за первые три месяца в команде сыграв, в частности, в важнейших играх против «Челси», «Манчестер Юнайтед», «Эвертона» и «Арсенала». По итогам своего первого мерсисайдского дерби Шкртел был признан болельщиками «Ливерпуля» лучшим игроком матча.