Od počátku 80. let stál v centru famózní první řady sovětské sborné, se kterou vybojoval dva olympijské triumfy, čtyři tituly na mistrovství světa a prvenství na Kanadském poháru 1981. A v dresu Detroit Red Wings se pak třikrát radoval ze zisku Stanleyova poháru.

Je tak členem prestižního Triple Gold Clubu Mezinárodní hokejové federace (IIHF), který sdružuje hráče, kteří získali zlaté medaile na olympiádě, na mistrovství světa a zároveň Stanleyův pohár.

Během své dlouhé a úspěšné kariéry Larionov oblékl mimo jiné dresy Chimiku v rodném Voskresensku, odkud přešel do CSKA Moskva. V zámoří hrál za týmy Vancouver Canucs, Florida Panthers a Detroit Red Wings, svou poslední sezónu (2003/2004) pak strávil v New Jersey Devils.

Inteligentní hráč proslul i tím, že se v 90. letech postavil proti diktátorským metodám trenéra Viktora Tichonova. Například v roce 1996 patřil k vůdcům skupiny, která Tichonova odmítla v realizačním týmu před olympiádou v Naganu.

Přitom to byl právě tento legendární tvrdý kouč sborné, kdo sestavil proslulou formaci hokejových es Fetisov, Kasatonov – Makarov, Larionov, Krutov.

Po konci aktivní kariéry se Larionov věnoval obchodu s vínem, zůstal ale u hokeje jako trenér. Působil u týmu SKA Petrohrad, později byl trenérem ruské reprezentační dvacítky, od roku 2022 je trenérem týmu Torpedo Nižnij Novgorod v KHL.

V roce 2008 byl uveden do Síně slávy Mezinárodní hokejové federace.

Je ženatý, má tři děti.