Assentamento precoce e crescimento medieval
Depois de Júlio César ter destruído os Eburones em 53 bce, o general romano Agripa colonizou a área com outra tribo chamada Ubii, que veio da margem direita do Reno. Um povoado fortificado foi estabelecido no local cerca de 38 a.C.C. Este foi o local de nascimento de Julia Agrippina, que era a esposa do imperador Cláudio, e foi a seu pedido que o título de colônia romana foi conferido à cidade em 50 ce. Foi denominada Colonia Claudia Ara Agrippinensium, abreviada para Colonia; mais tarde, foi transformada na sede do governador da Baixa Alemanha. Depois de 258 ce foi por um tempo o capital de um império da farpa governado por Postumus e compreendendo a Gália, a Inglaterra, e a Espanha. Em 310 o imperador Constantino o Grande construiu um castelo e uma ponte permanente para ele através do Reno. Cerâmica e vidro foram fabricados em Colónia, na época romana. Cerca de 456 foi conquistada pelos francos, e logo se tornou a residência dos reis da parte ribeirinha do reino franciscano.
Uma comunidade cristã existia em Colônia provavelmente já no século II, e a cidade é mencionada pela primeira vez como um bispado em 313. Carlos Magno fez dela um arcebispado no final do século VIII; no século X o arcebispo dominou a cidade, recebendo uma grande variedade de portagens, direitos alfandegários e outros pagamentos. A indústria e o comércio da cidade cresceram durante a Idade Média, especialmente a partir do século X, e conflitos cada vez mais amargos se desenvolveram entre os mercadores ricos e o arcebispo. O primeiro procurou a liberdade comercial e política, o segundo a preservação do seu poder temporal, que foi aumentado a partir do século XIII, quando o arcebispo se tornou um dos eleitores privilegiados a escolher o rei alemão. Foi só na Batalha de Worringen, em 1288, que o arcebispo foi finalmente derrotado, e a cidade de Colónia assegurou o pleno autogoverno. Desde essa época, Colónia foi de facto uma cidade imperial livre, embora só tenha sido oficialmente reconhecida como tal em 1475.
Até o final do século XIV, o governo da cidade estava nas mãos dos patrícios ricos, mas em 1396, após uma revolução sem derramamento de sangue, foi estabelecida uma nova constituição municipal sob a qual os 22 ramos das corporações se tornaram a base do governo, pois eles elegeram um conselho que tinha poder sobre todos os assuntos internos e externos.
Este período medieval foi esplêndido para Colônia. Era um membro proeminente da mercantil Liga Hanseática, e seus mercadores tinham provavelmente as mais extensas ligações e o mais variado comércio de todas as cidades alemãs. O artesanato incluía a fabricação de têxteis, a confecção de livros, o trabalho de couro, esmaltação e metalurgia, sendo o trabalho dos ourives de Colónia particularmente fino. As artes e a religião também floresceram lá. Três dos maiores estudiosos e teólogos católicos romanos do escolasticismo medieval – Albertus Magnus, Thomas Aquinas e John Duns Scotus – todos ensinaram nas escolas de Colónia. Após a Guerra dos Trinta Anos (1618-48), no entanto, a cidade declinou. Já em 1794, quando os franceses ocuparam Colônia, os serviços públicos protestantes ainda eram proibidos, e a cidade tem permanecido predominantemente católica romana. A comunidade judaica, que existia desde o tempo de Constantino, o Grande, foi expulsa em 1424, e até 1794 os judeus foram proibidos de permanecer na cidade de um dia para o outro.