Første bosættelse og middelalderlig vækst
Efter Julius Cæsar udryddede Eburonerne i 53 fvt. koloniserede den romerske general Agrippa området med en anden stamme kaldet Ubii, som kom fra den højre side af Rhinen. En befæstet bosættelse blev etableret på stedet omkring 38 fvt. Dette var fødestedet for Julia Agrippina, som var kejser Claudius’ hustru, og det var på hendes anmodning, at byen fik titlen romersk koloni i 50 ce. Den fik navnet Colonia Claudia Ara Agrippinensium, forkortet til Colonia; senere blev den gjort til hovedkvarter for guvernøren i Niedertyskland. Efter 258 ce var den i en periode hovedstad i et splitterimperium, der blev styret af Postumus og omfattede Gallien, Britannien og Spanien. I 310 byggede kejser Konstantin den Store en borg og en permanent bro til den over Rhinen. Der blev fremstillet keramik og glas i Köln i romersk tid. Omkring 456 blev den erobret af frankerne, og den blev snart residens for kongerne af den ripuariske del af det frankiske kongerige.
Et kristent samfund eksisterede i Köln sandsynligvis allerede i det 2. århundrede, og byen nævnes første gang som bispedømme i 313. Karl den Store gjorde byen til ærkebispedømme i slutningen af det 8. århundrede; i det 10. århundrede dominerede ærkebiskoppen byen og modtog en lang række toldafgifter, told og andre betalinger. Byens industri og handel voksede i middelalderen, især fra omkring det 10. århundrede, og der opstod stadig mere bitre konflikter mellem de velhavende købmænd og ærkebiskoppen. Førstnævnte stræbte efter kommerciel og politisk frihed, sidstnævnte efter at bevare sin verdslige magt, som blev styrket fra det 13. århundrede, da ærkebiskoppen blev en af de kurfyrster, der havde ret til at vælge den tyske konge. Det var først i slaget ved Worringen i 1288, at ærkebiskoppen endelig blev besejret, og at byen Köln sikrede sig fuld selvstyre. Fra den tid var Köln faktisk en fri rigsby, selv om den først blev officielt anerkendt som sådan i 1475.
Til slutningen af det 14. århundrede var byens regering i hænderne på de velhavende patricier, men i 1396, efter en ublodig revolution, blev der indført en ny kommunal forfatning, hvor de 22 gildegrene blev regeringsgrundlaget, for de valgte et råd, der havde magt over alle indre og ydre anliggender.
Denne middelalderlige periode var en strålende periode for Köln. Den var et fremtrædende medlem af den merkantile Hanseforening, og dens købmænd havde sandsynligvis de mest omfattende forbindelser og den mest varierede handel af alle de tyske byer. Håndværk omfattede tekstilfremstilling, bogfremstilling, læderarbejde, emaljering og metalforarbejdning, hvor Kölns guldsmede udførte et særligt godt arbejde. Kunst og religion blomstrede også her. Tre af de største romersk-katolske lærde og teologer fra middelalderens skolastik – Albertus Magnus, Thomas Aquinas og John Duns Scotus – underviste alle i Køln’s skoler. Efter Trediveårskrigen (1618-48) gik det dog ned ad bakke for byen. Så sent som i 1794, da franskmændene besatte Köln, var offentlige protestantiske gudstjenester stadig forbudt, og byen er fortsat overvejende romersk-katolsk. Det jødiske samfund, som havde eksisteret fra Konstantin den Stores tid, blev fordrevet i 1424, og indtil 1794 var det forbudt for jøder at overnatte i byen.