Varhainen asutus ja keskiaikainen kasvu
Kun Julius Caesar oli tuhonnut eburonit vuonna 53 eaa., roomalainen kenraali Agrippa asutteli alueelle toisen, Reinin oikealta rannalta kotoisin olevan heimon nimeltä Ubii. Paikalle perustettiin linnoitettu asutus noin vuonna 38 eaa. Tämä oli keisari Claudiuksen vaimon Julia Agrippinan syntymäpaikka, ja hänen pyynnöstään kaupungille myönnettiin roomalaisen siirtokunnan nimi vuonna 50 eaa. Sen nimi oli Colonia Claudia Ara Agrippinensium, joka lyhennettiin Coloniaksi; myöhemmin siitä tehtiin Ala-Saksan kuvernöörin päämaja. Vuoden 258 eaa. jälkeen se oli jonkin aikaa Postumuksen hallitseman, Gallian, Britannian ja Espanjan käsittäneen hajanaisen valtakunnan pääkaupunki. Vuonna 310 keisari Konstantinus Suuri rakennutti sinne linnan ja pysyvän sillan Reinin yli. Kölnissä valmistettiin roomalaisaikana keramiikkaa ja lasia. Noin vuonna 456 frankit valloittivat sen, ja siitä tuli pian frankkien valtakunnan Ripurilaisen osan kuninkaiden asuinpaikka.
Kölnissä oli kristillinen yhteisö luultavasti jo 2. vuosisadalla, ja kaupunki mainitaan ensimmäisen kerran piispanistuimena vuonna 313. Kaarle Suuri teki siitä arkkipiispakunnan 8. vuosisadan lopulla. 10. vuosisadalla arkkipiispa hallitsi kaupunkia ja sai monenlaisia tullimaksuja, tullimaksuja ja muita maksuja. Kaupungin teollisuus ja kauppa kasvoivat keskiajalla, erityisesti noin 10. vuosisadasta alkaen, ja varakkaiden kauppiaiden ja arkkipiispan välille kehittyi yhä katkerampia konflikteja. Kauppiaat tavoittelivat kaupallista ja poliittista vapautta, ja arkkipiispa pyrki säilyttämään maallisen valtansa, joka kasvoi 1200-luvulta lähtien, kun arkkipiispasta tuli yksi niistä valitsijoista, joilla oli etuoikeus valita Saksan kuningas. Vasta Worringenin taistelussa vuonna 1288 arkkipiispa kukistui lopullisesti, ja Kölnin kaupunki sai täyden itsehallinnon. Siitä lähtien Köln oli itse asiassa vapaa keisarillinen kaupunki, vaikka se tunnustettiin virallisesti sellaiseksi vasta vuonna 1475.
1400-luvun loppuun asti kaupungin hallinto oli varakkaiden patriisien käsissä, mutta vuonna 1396 verettömän vallankumouksen jälkeen luotiin uusi kunnallisvaltiosääntö, jonka mukaan kiltojen 22 haaraosastosta tuli hallituksen perusta, sillä ne valitsivat valtuuston, jolla oli valtaa kaikissa sisäisissä ja ulkoisissa asioissa.
Tämä keskiajanjakso oli Kölnille loistokas. Se oli merkantilistisen Hansaliiton merkittävä jäsen, ja sen kauppiailla oli luultavasti kaikista saksalaisista kaupungeista laajimmat yhteydet ja monipuolisin kauppa. Käsityötaitoihin kuuluivat tekstiilien valmistus, kirjansitominen, nahkateollisuus, emalointi ja metalliteollisuus, ja Kölnin kultasepät tekivät erityisen hienoa työtä. Myös taide ja uskonto kukoistivat siellä. Kolme keskiaikaisen skolastiikan suurimmista roomalaiskatolisista oppineista ja teologeista – Albertus Magnus, Tuomas Akvinolainen ja John Duns Scotus – opettivat kaikki Kölnin kouluissa. Kolmikymmenvuotisen sodan (1618-48) jälkeen kaupunki kuitenkin taantui. Vielä vuonna 1794, kun ranskalaiset miehittivät Kölnin, julkiset protestanttiset jumalanpalvelukset olivat kiellettyjä, ja kaupunki on pysynyt pääosin roomalaiskatolisena. Juutalaisyhteisö, joka oli ollut olemassa Konstantinus Suuren ajoista lähtien, karkotettiin vuonna 1424, ja vuoteen 1794 asti juutalaisilta kiellettiin yöpyminen kaupungissa.
Juutalaiset eivät saaneet yöpyä kaupungissa.