I forlængelse af pave Urbans tale begyndte forberedelserne i både øst og vest. Kejser Alexius, som utvivlsomt havde forudset, at der skulle samles en slags hjælpestyrke, indså tilsyneladende snart, at han skulle sørge for og overvåge en langt større tilstrømning af krigere. I Vesten forsøgte de, der tog korset, i takt med at lederne begyndte at samle deres hære, at skaffe penge, ofte ved at sælge eller pantsætte ejendom, både til det umiddelbare køb af udstyr og til rejsens langsigtede behov.
Da forberedelserne var i gang, drog flere mindre organiserede grupper af riddere og bønder, almindeligvis kendt som “Folkekorset”, af sted tværs over Europa. Den mest berømte af dem, der blev samlet af en bemærkelsesværdig folkelig prædikant, Peter eremitten, og hans medarbejder Walter Sansavoir, nåede Konstantinopel efter at have skabt betydelig uro i Ungarn og Bulgarien. Alexius modtog Peter hjerteligt og rådede ham til at afvente ankomsten af den største korstogsstyrke. Men de blev ustyrlige, og den 6. august 1096 blev de ført over Bosporus med færge. Mens Peter var i Konstantinopel for at anmode om yderligere hjælp, blev hans hær lagt i baghold ved Cibotus (kaldet Civetot af korsfarerne) og næsten udslettet af tyrkerne.
Peter eremittens prædiken i Tyskland inspirerede andre grupper af korsfarere, som heller ikke nåede frem til Jerusalem. En af disse grupper blev ledet af den berygtede grev Emicho og var ansvarlig for en række pogromer, eller massakrer, på jøder i flere byer i Rhenland i 1096. Traditionelt anerkendt som et vigtigt vendepunkt i de jødiske og kristne relationer i middelalderen – faktisk nævnes det ofte som et afgørende øjeblik i antisemitismens historie – fandt disse angreb først sted i Speyer og derefter med stigende voldsomhed i Worms, Mainz og Köln. Jøderne i disse byer søgte og fik ofte beskyttelse fra biskoppen eller søgte forgæves tilflugt i lokale hjem og templer. Korsfarerne tvang korsfarerne til at konvertere eller dø, og mange jøder valgte døden. Der er beretninger om jøder, der begik selvmord og endog dræbte deres børn i stedet for at konvertere eller lade sig henrette af korsfarerne. Selv om denne form for fanatisme ikke er enestående for kristendommen, gik disse massakrer ikke ubemærket hen, selv ikke af andre kristne. Faktisk tilskrev nogle samtidige kristne beretninger dem nederlaget for Folkekorset. Efter massakrerne drog korsfarerne videre til Ungarn, hvor de blev slået ihjel af den ungarske konge og led store tab. Emicho, som måske ikke deltog i alle pogromerne, undslap og vendte hjem i vanære.
Den vigtigste korsfarerstyrke, som drog af sted i august 1096 som Urban havde anvist, bestod af fire store kontingenter. En mindre, femte styrke, ledet af Hugh af Vermandois, bror til kong Philip I af Frankrig, tog af sted før de andre, men blev reduceret ved skibbrud under overfarten over Adriaterhavet fra Bari til Dyrrhachium (nu Durrës i Albanien). Godfrey af Bouillon, leder af den første store hær, der tog af sted, og hertug af Nedre Lorraine siden 1087, var den eneste store prins fra det tyske kongerige, der deltog i korstoget, selv om han og hans ledsagere stort set talte fransk. Sammen med sine brødre, Eustace og Baldwin, og en slægtning, Baldwin af Le Bourcq, tog Godfrey landvejen og krydsede Ungarn uden problemer. Markeder og forsyninger blev forsynet på byzantinsk område, og bortset fra nogle plyndringer nåede hæren Konstantinopel uden alvorlige problemer den 23. december 1096.
En anden styrke blev organiseret af Bohemond, en normanner fra Syditalien. Bohemond var søn af Robert Guiscard og befandt sig på velkendt grund på den anden side af Adriaterhavet, hvor han havde kæmpet sammen med sin far og var forståeligt nok frygtet af byzantinerne. Han var imidlertid 40 år gammel, da han ankom til Konstantinopel den 9. april 1097, og han var fast besluttet på at indgå en fordelagtig aftale med sin tidligere fjende.
Den tredje og største hær blev samlet af Raymond af Saint-Gilles, greve af Toulouse. Med sine 55 år var han den ældste og mest fremtrædende af prinserne på korstoget, og han stræbte efter og forventede måske at blive leder af hele ekspeditionen. Han blev ledsaget af Adhémar, biskop af Le Puy, som paven havde udnævnt som legat for korstoget. Raymond førte sine tilhængere, herunder et antal pilgrimme uden kamp, som han støttede for egen regning, gennem Norditalien, rundt om Adriaterhavet og derefter sydpå ind i byzantinsk område. Denne store gruppe skabte betydelige problemer i Dalmatien og stødte sammen med byzantinske tropper, da den nærmede sig hovedstaden, hvor Raymond ankom den 21. april.
I mellemtiden havde den fjerde hær under Robert af Flandern krydset Adriaterhavet fra Brindisi. Robert blev ledsaget af sin fætter Robert af Normandiet (bror til kong Vilhelm II af England) og Stefan af Blois (svigersøn til Vilhelm Erobreren). Ingen konge deltog i det første korstog, og de overvejende fransktalende deltagere kom til at blive kendt af muslimerne som Frankerne.
Forsekomsten nær Konstantinopel af massive militære styrker, der måske talte 4.000 riddere til hest og 25.000 infanterister, udgjorde et alvorligt problem for Alexius, og der var lejlighedsvis uorden. Tvunget til at tage hensyn til kejserlige interesser, som, det blev snart klart, var forskellige fra korsfarernes mål, krævede kejseren, at hver korsfarerleder under ed skulle love at tilbagegive ham alle erobrede områder, som havde tilhørt riget før de tyrkiske invasioner, og at sværge ham loyalitet, så længe korsfarerne opholdt sig i hans domæne. Da der aldrig var nogen plan om, at korstogene skulle gå ud over det gamle romerske riges fjerne grænser, ville dette reelt give alle erobringer til kejseren. Kun Bohemond tog frivilligt kejserens ed. De andre gjorde det under tvang, og Raymond svor kun en lunkent ed om at respektere kejserens ejendom og person. På trods af dette blev Raymond og Alexius gode venner, og Raymond forblev den stærkeste forsvarer af kejserens rettigheder under hele korstoget.