I rapporti di Federico II con i papi furono difficili innanzitutto perché egli non mantenne l’impegno, preso con il suo tutore Innocenzo III, di tenere separata la corona del regno di Sicilia da quella imperiale, ed a malincuore il papa Onorio III acconsentì alla sua incoronazione imperiale, purché Federico II si impegnasse ad organizzare una Crociata.
Castello di Barletta (Barletta-Andria-Trani) dimora di Federico II di Svevia durante la dominazione nel Sud Italia
Egli stava venendo meno anche a quest’altro impegno e ritardava la partenza per partecipare alla quinta Crociata, quando il papa lo scomunicò. Egli allora partì, sebbene in ritardo, per i luoghi santi, ma invece di combattere i musulmani, nel 1229 concluse un trattato con il sultano d’Egitto, dal quale ottenne il possesso di Gerusalemme per dieci anni. A questo punto si incoronò da sè re di Gerusalemme, non trovando nessuno che volesse incoronare uno scomunicato.
Il modo in cui aveva condotto la Crociata, se da un lato rappresentava il trionfo del buon senso sul fanatismo, dall’altro scontentava l’intransigenza religiosa di quanti si rifiutavano di trattare con gli infedeli.
Federico II combattè le eresie, ma non tanto per motivi religiosi, quanto, piuttosto, perchè rappresentavano una disobbedienza perturbatrice dell’ordine sociale. Egli istituì a Palermo il tribunale dell’Inquisizione, contro valdesi, ebrei ed altre sette eretiche.
In Sicilia perseguitò i musulmani solo perchè ribelli, infatti egli intrattenne rapporti commerciali con i musulmani del Nord-Africa e si circondò di paggi saraceni e di danzatori orientali. Nel suo esercito c’era un nucleo musulmano e musulmani facevano parte anche del corteo che lo accompagnò in Terra santa. I papi lo consideravano un "Sultano battezzato", anche per il suo temperamento razionalista e per nulla incline al misticismo e in più occasioni fu scomunicato.
Federico non ebbe pretese cesaropapiste, come il normanno Ruggero ma non tollerò interferenze del papa nel potere temporale, sicchè respinse categoricamente la pretesa del papa di considerare la Sicilia feudo papale.
Non fu generoso di donativi nei confronti di monasteri ed alti prelati e sottopose gli ecclesiastici al pagamento delle imposte.