Dopo il discorso di Papa Urbano, iniziarono i preparativi sia in Oriente che in Occidente. L’imperatore Alessio, che aveva senza dubbio anticipato la raccolta di qualche tipo di forza ausiliaria, a quanto pare si rese conto ben presto che avrebbe dovuto provvedere e sorvegliare un afflusso molto più grande di guerrieri. In Occidente, quando i capi cominciarono a radunare i loro eserciti, coloro che presero la croce cercarono di raccogliere denaro, spesso vendendo o ipotecando proprietà, sia per l’acquisto immediato dell’equipaggiamento che per le necessità a lungo termine del viaggio.
Mentre erano in corso i preparativi, diverse bande meno organizzate di cavalieri e contadini, comunemente note come “crociate popolari”, partirono per l’Europa. La più famosa di queste, riunita da un notevole predicatore popolare, Pietro l’Eremita, e il suo socio Walter Sansavoir, raggiunse Costantinopoli dopo aver causato un notevole disordine in Ungheria e Bulgaria. Alessio ricevette Pietro cordialmente e gli consigliò di aspettare l’arrivo della forza principale della crociata. Ma la truppa divenne indisciplinata, e il 6 agosto 1096 fu traghettata attraverso il Bosforo. Mentre Pietro si trovava a Costantinopoli per chiedere ulteriori aiuti, il suo esercito cadde in un’imboscata a Cibotus (chiamato Civetot dai crociati) e fu quasi annientato dai turchi.
La predicazione di Pietro l’Eremita in Germania ispirò altri gruppi di crociati, che pure non riuscirono a raggiungere Gerusalemme. Uno di questi gruppi era guidato dal famigerato conte Emicho e fu responsabile di una serie di pogrom, o massacri, di ebrei in diverse città renane nel 1096. Tradizionalmente riconosciuti come un importante punto di svolta nelle relazioni tra ebrei e cristiani nel Medioevo – infatti, è spesso citato come un momento cruciale nella storia dell’antisemitismo – questi attacchi si verificarono prima a Spira e poi con crescente ferocia a Worms, Magonza e Colonia. Gli ebrei di queste città spesso cercavano, e talvolta ricevevano, la protezione del vescovo o si rifugiavano inutilmente nelle case e nei templi locali. Costretti dai crociati a convertirsi o a morire, molti ebrei scelsero la morte. Ci sono resoconti di ebrei che si sono suicidati e hanno persino ucciso i loro figli piuttosto che convertirsi o sottoporsi all’esecuzione da parte dei crociati. Sebbene lo zelo di questa natura non sia unico per il cristianesimo, questi massacri non passarono inosservati nemmeno ai compagni cristiani. Infatti, alcuni resoconti cristiani contemporanei attribuirono loro la sconfitta della Crociata Popolare. Dopo i massacri, i crociati si spostarono in Ungheria, dove furono sbaragliati dal re ungherese e subirono pesanti perdite. Emicho, che potrebbe non aver partecipato a tutti i pogrom, fuggì e tornò in patria in disgrazia.
La principale forza crociata, che partì nell’agosto del 1096 come stabilito da Urbano, era composta da quattro contingenti principali. Una quinta forza più piccola, guidata da Ugo di Vermandois, fratello del re Filippo I di Francia, partì prima delle altre ma fu ridotta da un naufragio mentre attraversava l’Adriatico da Bari a Dyrrhachium (oggi Durazzo, Albania). Goffredo di Buglione, capo del primo grande esercito a partire e duca della Bassa Lorena dal 1087, fu l’unico grande principe del regno tedesco coinvolto nella crociata, anche se lui e i suoi soci parlavano in gran parte francese. Unito ai suoi fratelli, Eustachio e Baldovino, e a un parente, Baldovino di Le Bourcq, Godfrey prese la via di terra e attraversò l’Ungheria senza incidenti. I mercati e le provviste furono riforniti in territorio bizantino e, a parte qualche saccheggio, l’esercito raggiunse Costantinopoli senza gravi problemi il 23 dicembre 1096.
Una seconda forza fu organizzata da Boemondo, un normanno del sud Italia. Figlio di Roberto il Guiscardo, Boemondo era su un terreno familiare oltre l’Adriatico, dove aveva combattuto con suo padre ed era comprensibilmente temuto dai bizantini. Tuttavia, aveva 40 anni quando arrivò a Costantinopoli il 9 aprile 1097, ed era determinato a venire a patti vantaggiosi con il suo ex nemico.
Il terzo e più grande esercito fu riunito da Raymond di Saint-Gilles, conte di Tolosa. All’età di 55 anni, era il più vecchio e il più importante dei principi della crociata, e aspirava e forse si aspettava di diventare il capo dell’intera spedizione. Era accompagnato da Adhémar, vescovo di Le Puy, che il papa aveva nominato come legato per la crociata. Raimondo condusse i suoi seguaci, compreso un certo numero di pellegrini non combattenti che egli sostenne a proprie spese, attraverso l’Italia settentrionale, intorno alla testa del mare Adriatico, e poi verso sud nel territorio bizantino. Questo grande corpo causò notevoli problemi in Dalmazia e si scontrò con le truppe bizantine mentre si avvicinava alla capitale, dove Raimondo arrivò il 21 aprile.
Nel frattempo, il quarto esercito, sotto Roberto di Fiandra, aveva attraversato l’Adriatico da Brindisi. Ad accompagnare Roberto c’erano suo cugino Roberto di Normandia (fratello del re Guglielmo II d’Inghilterra) e Stefano di Blois (genero di Guglielmo il Conquistatore). Nessun re prese parte alla Prima Crociata, e i partecipanti, prevalentemente di lingua francese, vennero conosciuti dai musulmani come Franchi.
La presenza vicino a Costantinopoli di massicce forze militari, che contavano forse 4.000 cavalieri a cavallo e 25.000 fanterie, costituì un serio problema per Alessio, e ci furono occasionali disordini. Costretto a considerare gli interessi imperiali, che, divenne presto evidente, erano diversi dall’obiettivo dei crociati, l’imperatore richiese ad ogni capo crociato di promettere sotto giuramento di restituirgli qualsiasi territorio conquistato che fosse appartenuto all’impero prima delle invasioni turche e di giurare fedeltà a lui finché i crociati fossero rimasti nel suo dominio. Poiché non c’era mai stato alcun piano per la Crociata di andare oltre i lontani confini del vecchio Impero Romano, questo avrebbe effettivamente dato tutte le conquiste all’imperatore. Solo Boemondo fece volontariamente il giuramento dell’imperatore. Gli altri lo fecero sotto costrizione, e Raimondo fece solo un tiepido giuramento di rispettare la proprietà e la persona dell’imperatore. Nonostante questo, Raimondo e Alessio divennero buoni amici, e Raimondo rimase il più forte difensore dei diritti dell’imperatore per tutta la crociata.