Rudolf nejprve vyrůstal ve Vídni obklopen stále početnější hordou sourozenců. Poté byl v roce 1563, ve svých jedenácti letech, poslán ke svému strýci králi Filipovi II. na španělský dvůr. V té době bylo Španělsko světovou velmocí a španělský dvůr udával tón v otázkách životního stylu a kultury. Skrytým motivem však bylo vymanit mladého arcivévodu z vlivu jeho otce, který byl znám svými extrémně tolerantními názory v náboženských otázkách. Rudolf měl být vychováván v prostředí katolické ortodoxie, chráněn před protestantskými proudy, které se ve střední Evropě stále více prosazovaly. Mladý arcivévoda měl být budoucím nejvyšším panovníkem Svaté říše římské a v očích Španělska, hlavní linie dynastie, bylo nezbytné, aby byl vychováván a vzděláván v souladu s koncepcí univerzální habsburské moci pod praporem katolicismu, která byla posláním dynastie od vlády Karla V.
Po výchově v tomto duchu se Rudolf vrátil do střední Evropy jako sebevědomý princ dynastie. Jeho španělská výchova ho přivedla do kontaktu s tradičním středomořským katolicismem, který nebyl ovlivněn myšlenkami reformace. V popředí jeho myšlení však stála politická složka náboženství, neboť katolicismus chápal především jako nástroj k podepření panovnické moci. Jako jednotlivec se přílišnou zbožností nijak zvlášť nevyznačoval.
V roce 1572 byl stavy zvolen za nástupce svého otce na uherském trůně a v roce 1575 uznán za českého krále. Téhož roku byl Rudolf potvrzen kurfiřty v Regensburgu jako nástupce svého otce v říši. Jen o několik měsíců později v roce 1576 Maxmilián II. náhle zemřel. Čtyřiadvacetiletý Rudolf byl nyní panovníkem, který svou roli chápal jako prostředníka mezi extrémy, a to jak v říši, tak i na svých patrimoniálních panstvích.
V roce 1583 byl císařský dvůr přenesen z Vídně do Prahy, která měla být nyní rozšířena jako velkolepá rezidence. Mladý císař byl považován za velmi kultivovaného, talentovaného a nadějného, ale také zcela prodchnutého pojetím císařské důstojnosti, což bylo nejzřetelnějším projevem jeho socializace na španělském dvoře. V prvních desetiletích své vlády Rudolf obratně usiloval o systematické rozšiřování svých panovnických práv.
Brzy se však projevily i temné stránky jeho povahy. Císař byl občas nedůsledný a postrádal přesvědčivost svých rozhodnutí. Fáze manické aktivity střídala období naprosté apatie.