W roku 1958 Karol Wojtyła został mianowany biskupem tytularnym Ombrii, a także biskupem pomocniczym Krakowa. Konsekracji biskupiej ks. Karola Wojtyły dokonał 28 września 1958 w katedrze na Wawelu metropolita krakowski i lwowski, arcybiskup Eugeniusz Baziak. Współkonsekratorami byli biskupi Franciszek Jop i Bolesław Kominek. W 1962 roku został krajowym duszpasterzem środowisk twórczych i inteligencji. Na okres biskupstwa Karola Wojtyły przypadły także obrady Soboru Watykańskiego II, w których aktywnie uczestniczył. Już w tym okresie bardzo dużo czasu poświęcał na podróże zagraniczne w celach ewangelizacyjnych i religijnych.

Jako biskup przyjął, zgodnie z obyczajem, hasło przewodnie swej posługi. Brzmiało: Totus Tuus (łac. Cały Twój). Kierował je do Matki Chrystusa. Inspiracją stał się barokowy pisarz ascetyczny, francuski św. Ludwik Maria Grignion de Montfort i jego książka Traktat o prawdziwym nabożeństwie do Najświętszej Maryi Panny, z której Wojtyła przejął koncepcję "niewolnictwa duchowego", rozumianą jako dobrowolne i ufne oddanie się w opiekę Matce Boskiej.

30 grudnia 1963, półtora roku po śmierci swego poprzednika, arcybiskupa Eugeniusza Baziaka, Karol Wojtyła został mianowany arcybiskupem metropolitą krakowskim. Cztery lata później, podczas konsystorza z 26 czerwca 1967 został nominowany kardynałem. 29 czerwca 1967 roku otrzymał w Kaplicy Sykstyńskiej od papieża Pawła VI czerwony biret, a jego kościołem tytularnym stał się kościół św. Cezarego Męczennika na Palatynie.

Jako pasterz diecezji starał się ogarniać swą posługą wszystkich potrzebujących, wiele jeździł poza Kraków. Wizytował parafie, odwiedzał klasztory (w tym bliskie sobie zgromadzenie albertynów, założone przez św. Adama Chmielowskiego, Brata Alberta). W roku 1965 otworzył proces beatyfikacyjny siostry Faustyny Kowalskiej, której Dzienniczek poznał wcześnie, a jej orędzie Miłosierdzia Bożego traktował jako bliskie sobie. Z chęcią jeździł na Podhale i w Tatry (w wolnych chwilach po prostu wędrując po górach). Utrzymywał dobry i ścisły kontakt z inteligencją krakowską, zwłaszcza ze środowiskiem naukowym i artystycznym.

Był to nadal okres owocnej pracy twórczej, pisarskiej. Ogłosił drukiem (pod pseudonimem Andrzej Jawień) dramaty: Przed sklepem jubilera i jak misterium ujęte Promieniowanie ojcostwa, także poematy. W 1969 wydał swą najważniejszą książkę filozoficzną, obszerną monografię z zakresu antropologii Osoba i czyn, która zyskała żywy oddźwięk za granicą, a w 1972 – książkę o II Soborze Watykańskim. Z trudem (ze względu na liczne obowiązki duszpasterskie i ograniczony czas) lecz systematycznie prowadził dalej wykłady na Katolickim Uniwersytecie Lubelskim, kształtując tam swą szkołę badawczą z zakresu etyki.

Zyskał dojrzałość jako myśliciel, sięgając do rozległej tradycji filozoficznej (grecka etyka klasyczna, św. Tomasz z Akwinu, fenomenologia), lecz też do Biblii i do mistyki (zawsze mu bliski święty Jan od Krzyża) i budując harmonijnie koncepcję z pogranicza filozofii oraz teologii: człowieka jako integralnej osoby. Człowiek jest zadomowiony pośród świata jako byt cielesno-duchowy, otwarty na transcendencję, a godność i wolność dał mu Bóg. Tym sposobem Wojtyła stał się wybitnym przedstawicielem personalizmu. Swoje poglądy stosował też i przedstawiał w pracy duszpasterskiej.

Stał się znanym poza Polską autorytetem. Był obok Prymasa Polski kardynała Stefana Wyszyńskiego, najważniejszą postacią Episkopatu Polski. Z "prymasem Tysiąclecia" (bo tak nazywał kard. Wyszyńskiego), ściśle współpracował, okazując szacunek dla jego doświadczenia i mądrości. Jako kardynał odbywał podróże zagraniczne, zapraszany też przez środowiska uniwersyteckie. Wiosną 1976 papież Papież Paweł VI zaprosił go do Watykanu, by głosił tam rekolekcje wielkopostne (wydane później w publikacji książkowej).

Na zwołanym po śmierci Jana Pawła I drugim konklawe w roku 1978 Wojtyła został wybrany na papieża i przybrał imię Jana Pawła II. Wynik wyboru ogłoszono 16 października o 16:16.