Seguir o discurso do Papa Urbano, os preparativos começaram tanto no Oriente como no Ocidente. O Imperador Aleixo, que sem dúvida havia antecipado a reunião de algum tipo de força auxiliar, percebeu logo que teria que prover e policiar um influxo muito maior de guerreiros. No Ocidente, quando os líderes começaram a montar seus exércitos, aqueles que tomaram a cruz procuraram levantar dinheiro, muitas vezes vendendo ou hipotecando propriedades, tanto para a compra imediata de equipamentos como para as necessidades de longo prazo da viagem.
Como os preparativos estavam em andamento, várias bandas menos organizadas de cavaleiros e camponeses, comumente conhecidas como a “Cruzada do Povo”, estabelecidas em toda a Europa. O mais famoso deles, reunido por um notável pregador popular, Pedro o Eremita, e seu associado Walter Sansavoir, chegou a Constantinopla depois de ter causado considerável desordem na Hungria e na Bulgária. Alexius recebeu Pedro cordialmente e aconselhou-o a aguardar a chegada da força principal da Cruzada. Mas a patente e o arquivo cresceram desordenadamente e, em 6 de agosto de 1096, eles foram transportados através do Bósforo. Enquanto Pedro estava em Constantinopla pedindo ajuda adicional, seu exército foi emboscado em Cibotus (chamado Civetot pelos Cruzados) e aniquilado pelos turcos.
Peter a pregação do Eremita na Alemanha inspirou outros grupos de Cruzados, que também não conseguiram chegar a Jerusalém. Um desses grupos foi liderado pelo famoso Conde Emicho e foi responsável por uma série de pogroms, ou massacres, de judeus em várias cidades renascentistas em 1096. Tradicionalmente reconhecido como um importante ponto de viragem nas relações judaicas e cristãs na Idade Média – de facto, é frequentemente citado como um momento crucial na história do anti-semitismo – estes ataques ocorreram primeiro em Speyer e depois com a crescente ferocidade em Worms, Mainz e Colónia. Os judeus dessas cidades frequentemente procuravam, e às vezes recebiam, a proteção do bispo ou se refugiavam futilmente nas casas e templos locais. Forçados pelos Cruzados a se converterem ou morrerem, muitos judeus escolheram a morte. Há relatos de judeus cometendo suicídio e até matando seus filhos, em vez de se converterem ou se submeterem à execução pelos cruzados. Embora o fanatismo desta natureza não seja exclusivo do cristianismo, estes massacres não passaram despercebidos nem mesmo pelos companheiros cristãos. De fato, alguns relatos cristãos contemporâneos atribuíram a eles a derrota da Cruzada do Povo. Depois dos massacres, os Cruzados seguiram para a Hungria, onde foram encaminhados pelo rei húngaro e sofreram pesadas perdas. Emicho, que pode não ter participado de todos os pogroms, escapou e voltou para casa em desgraça.
A principal força Cruzada, que partiu em agosto de 1096 como Urban dirigiu, consistia em quatro grandes contingentes. Uma força menor, a quinta, liderada por Hugh de Vermandois, irmão do rei Filipe I da França, partiu antes dos outros, mas foi reduzida por um naufrágio ao atravessar o Adriático de Bari para Dyrrhachium (agora Durrës, Albânia). Godfrey de Bouillon, líder do primeiro grande exército a partir e duque da Baixa Lorena desde 1087, foi o único príncipe maior do reino alemão envolvido na Cruzada, embora ele e seus associados falassem em grande parte francês. Juntamente com os seus irmãos, Eustáquio e Baldwin, e um parente, Baldwin de Le Bourcq, Godfrey tomou a rota terrestre e atravessou a Hungria sem incidentes. Mercados e provisões foram fornecidos em território bizantino e, exceto por algumas pilhagens, o exército chegou a Constantinopla sem problemas sérios em 23 de dezembro de 1096.
Uma segunda força foi organizada por Bohemond, um normando do sul da Itália. Filho de Robert Guiscard, Bohemond estava em terreno familiar através do Adriático, onde tinha lutado com seu pai e era compreensivelmente temido pelos bizantinos. Entretanto, ele tinha 40 anos quando chegou a Constantinopla, em 9 de abril de 1097, e determinado a chegar a termos lucrativos com seu antigo inimigo.
>
O terceiro e maior exército foi montado por Raymond de Saint-Gilles, o conde de Toulouse. Aos 55 anos, ele era o mais velho e proeminente dos príncipes da Cruzada, e aspirava e talvez esperasse tornar-se o líder de toda a expedição. Ele era acompanhado por Adhémar, bispo de Le Puy, a quem o papa havia nomeado como legatário da Cruzada. Raymond liderou seus seguidores, incluindo um número de peregrinos não combatentes que ele apoiou às suas próprias custas, através do norte da Itália, em torno da cabeça do Mar Adriático, e depois para o sul, em território bizantino. Este grande corpo causou problemas consideráveis na Dalmácia e colidiu com as tropas bizantinas quando se aproximava da capital, onde Raymond chegou em 21.
Meanwhile, the fourth army, under Robert of Flanders, had crossed the Adriatic from Brindisi. Acompanhavam-no seu primo Robert da Normandia (irmão do rei Guilherme II da Inglaterra) e Estevão de Blois (genro de Guilherme, o Conquistador). Nenhum rei participou da Primeira Cruzada, e os participantes predominantemente de língua francesa passaram a ser conhecidos pelos muçulmanos como Francos.
A presença perto de Constantinopla de forças militares maciças, com talvez 4.000 cavaleiros montados e 25.000 infantaria, representava um sério problema para Alexius, e havia desordens ocasionais. Forçado a considerar os interesses imperiais, que, logo se tornou evidente, eram diferentes do objetivo dos Cruzados, o imperador exigia que cada líder da Cruzada prometesse sob juramento restaurar a ele qualquer território conquistado que tivesse pertencido ao império antes das invasões turcas e jurar lealdade a ele enquanto os Cruzados permanecessem em seu domínio. Como nunca houve nenhum plano para a Cruzada ir além das fronteiras distantes do antigo império romano, isto daria efetivamente todas as conquistas ao imperador. Apenas Bohemond de boa vontade fez o juramento do Imperador. Os outros o fizeram sob coação, e Raymond jurou apenas um juramento morno de respeitar a propriedade e a pessoa do imperador. Apesar disso, Raymond e Alexius tornaram-se bons amigos, e Raymond permaneceu o mais forte defensor dos direitos do imperador durante toda a Cruzada.