Алексей Ягудин начал кататься на коньках в четырехлетнем возрасте. На международном уровне Алексей начал выступать в 1994 году. В 1996 году он выиграл чемпионат мира среди юниоров. Первым его тренером был Александр Майоров.
После отъезда Александра Майорова в Швецию, Алексей с 12 лет занимался у Алексея Мишина. В 1998 году переехал в США для тренировок у Татьяны Тарасовой, с которой работал вплоть до окончания любительской карьеры в 2002 году.
Первый крупный турнир, выигранный Алексеем — чемпионат Европы 1998 года. На этом чемпионате весь пьедестал был занят российскими спортсменами: вторым стал Евгений Плющенко, а третьим Александр Абт. Месяц спустя Алексей стал пятым на Олимпиаде в Нагано, а на последовавшем чемпионате мира выиграл золотую медаль.
На Олимпийских играх в Солт-Лейк-Сити Алексей завоёвывает золотую медаль. Он был первым фигуристом за 50 предыдущих лет, получившим первые места голосами всех судей в обоих видах программы. А также он получил четыре оценки 6.0 за презентацию, что является лучшим результатом среди победителей на всех Олимпийских играх.
На чемпионате мира 2002 года Алексей стал первым фигуристом, получившим шесть оценок 6.0 (пять за презентацию и одну 6.0 за технику, в короткой программе).
Участвовал в проектах Первого канала: в 2006 году в шоу "Звёзды на льду" в паре с телеведущей Оксаной Пушкиной, в 2007 в "Ледниковом периоде" с певицей Викторией Дайнеко, а в 2008 и 2009 годах в паре с актрисой Валерией Ланской. В 2010 году участвовал в проекте Первого канала: "Лёд и пламень" в паре с Марией Кожевниковой. В 2011 году участвовал в шоу "Болеро" в паре с балериной Кристиной Кретовой. В 2012 году был ведущим шоу "Кубок профессионалов" в паре с Ириной Слуцкой. С 2007 года — частый гость в жюри КВН.
В 2008 году сыграл президента РФ в сатирическом спектакле "Каникулы президента", прошедшем на сцене театра Сатиры. Снялся в одной из главных ролей в телесериале о фигурном катании "Жаркий лёд", показанном на Первом канале в 2009 году.