Choć nieraz wyrażał nadzieję na polepszenie stosunków z Kościołem katolickim, często oskarżał Watykan - zwłaszcza za życia papieża Jana Pawła II - o prozelityzm na terytorium Rosji i prowadzenie przez katolików działalności misyjnej wśród ludności prawosławnej.
Twierdził też, że prawosławni są prześladowani w zachodniej Ukrainie i sprzeciwiał się - jak to określał - ekspansji Kościoła greckokatolickiego na Wschód.
Aleksy II urodził się jako Aleksiej Rydygier 23 lutego 1929 roku w stolicy Estonii - Tallinie, w rodzinie prawosławnego duchownego. Jego ojciec pochodził z Petersburga, skąd uciekł przed bolszewikami.
W 1947 roku Aleksy wstąpił do Leningradzkiego Seminarium Duchownego. Święcenia kapłańskie otrzymał w 1950 roku; został skierowany do parafii w estońskim mieście Johvi. Od 1957 roku był kapłanem w soborze Zaśnięcia Matki Bożej w Tartu. W 1961 roku mianowano go biskupem Tallina i Estonii, a siedem lat później - metropolitą.
Od lat 60. pełnił ważne funkcje w strukturach administracyjnych rosyjskiej Cerkwi prawosławnej
Od lat 60. pełnił ważne funkcje w strukturach administracyjnych rosyjskiej Cerkwi prawosławnej, najpierw przy patriarsze Aleksym I, a potem przy Pimenie.
W 1961 roku został zastępcą wpływowego w Patriarchacie Moskiewskim przewodniczącego Wydziału Stosunków Zewnętrznych, czyli szefa cerkiewnej dyplomacji, a w 1964 roku - przewodniczącym Wydziału Administracyjnego. W tym samym roku został arcybiskupem.
W 1968 i 1978 roku był organizatorem kolejnych rocznic przywrócenia Patriarchatu, a w 1988 roku - 1000-lecia chrztu Rosji. W latach 80. nadzorował też odbudowę zwróconego Cerkwi monastyru św. Daniły w Moskwie. Dał się wówczas poznać jako świetny organizator, dyplomata i człowiek ciężkiej pracy.
W 1986 roku został metropolitą leningradzkim i nowogrodzkim. Uważany był wówczas za osobistość nr 2 przy patriarsze Pimenie (1910-90). Cztery lata później, 3 lipca 1990 roku, po śmierci Pimena, Sobór rosyjskiej Cerkwi prawosławnej wyniósł go na patriarszy tron.
Aleksy II przejdzie do historii Rosji jako człowiek, który odbudował Cerkiew po kilkudziesięciu latach ateizmu i prześladowań ze strony państwa
W 1996 roku w mediach pojawiły się informacje o domniemanych związkach Aleksego z KGB. Jako pierwszy, opierając się na archiwach tallińskiego KGB, napisał o tym estoński dziennik "Postimees", Gazeta utożsamiła go z agentem "Drozdowem", który figurował w notatce radzieckich służb specjalnych z końca lat 50.
Patriarchat Moskiewski kategorycznie odrzucił oskarżenia skierowane pod adresem zwierzchnika Cerkwi.
Aleksy II przejdzie do historii Rosji jako człowiek, który odbudował Cerkiew po kilkudziesięciu latach ateizmu i prześladowań ze strony państwa. To przy nim parlament uchwalił ustawę nadającą prawosławiu status religii uprzywilejowanej. Także przy nim utworzono nowe eparchie, jak również odbudowano bądź zbudowano od podstaw tysiące cerkwi i monastyrów.
Dziełem jego życia było doprowadzenie - w 2007 roku - do połączenia Rosyjskiej Cerkwi Prawosławnej z Rosyjską Cerkwią Prawosławną za Granicą. Wcześniej - w 2000 roku - doprowadził do kanonizacji ostatniego cara Rosji Mikołaja II i jego najbliższych, zamordowanych w 1918 roku przez bolszewików.