Colonización temprana y crecimiento medieval
Después de que Julio César destruyera a los eburones en el año 53 a.C., el general romano Agripa colonizó la zona con otra tribu llamada Ubii, procedente de la orilla derecha del Rin. Hacia el año 38 a.C. se estableció en el lugar un asentamiento fortificado. Fue el lugar de nacimiento de Julia Agripina, esposa del emperador Claudio, y fue a petición suya que se confirió a la ciudad el título de colonia romana en el año 50 a.C. Se le dio el nombre de Colonia Claudia Ara Agrippinensium, abreviado como Colonia; más tarde se convirtió en la sede del gobernador de la Baja Alemania. Después del año 258 d.C., fue durante un tiempo la capital de un imperio dividido gobernado por Póstumo y que comprendía la Galia, Gran Bretaña y España. En el año 310, el emperador Constantino el Grande construyó un castillo y un puente permanente sobre el Rin. En tiempos de los romanos se fabricaba cerámica y vidrio en Colonia. Hacia el año 456 fue conquistada por los francos, y pronto se convirtió en la residencia de los reyes de la parte ripense del reino franco.
Una comunidad cristiana existía en Colonia probablemente ya en el siglo II, y la ciudad se menciona por primera vez como obispado en el año 313. Carlomagno la convirtió en arzobispado a finales del siglo VIII; en el siglo X el arzobispo dominaba la ciudad, recibiendo una amplia gama de peajes, derechos de aduana y otros pagos. La industria y el comercio de la ciudad crecieron durante la Edad Media, sobre todo a partir del siglo X, y se desarrollaron conflictos cada vez más enconados entre los ricos comerciantes y el arzobispo. El primero buscaba la libertad comercial y política, el segundo la conservación de su poder temporal, que se vio incrementado a partir del siglo XIII, cuando el arzobispo se convirtió en uno de los electores privilegiados para elegir al rey alemán. No fue hasta la batalla de Worringen, en 1288, cuando el arzobispo fue finalmente derrotado, y la ciudad de Colonia se aseguró el pleno autogobierno. A partir de ese momento, Colonia fue de hecho una ciudad imperial libre, aunque sólo fue reconocida oficialmente como tal en 1475.
Hasta finales del siglo XIV, el gobierno de la ciudad estaba en manos de los ricos patricios, pero en 1396, tras una revolución incruenta, se estableció una nueva constitución municipal bajo la cual las 22 ramas de los gremios se convirtieron en la base del gobierno, pues eligieron un consejo que tenía poder sobre todos los asuntos internos y externos.
Este periodo medieval fue espléndido para Colonia. Era un miembro destacado de la Liga Hanseática mercantil, y sus mercaderes tenían probablemente las conexiones más extensas y el comercio más variado de todas las ciudades alemanas. La artesanía incluía la fabricación de textiles, la fabricación de libros, la marroquinería, el esmaltado y la metalurgia, siendo el trabajo de los orfebres de Colonia especialmente bueno. También florecieron las artes y la religión. Tres de los más grandes eruditos y teólogos católicos romanos del escolasticismo medieval -Alberto Magno, Tomás de Aquino y Juan Duns Escoto- enseñaron en las escuelas de Colonia. Sin embargo, tras la Guerra de los Treinta Años (1618-48), la ciudad decayó. Hasta 1794, cuando los franceses ocuparon Colonia, los servicios públicos protestantes seguían estando prohibidos, y la ciudad ha seguido siendo predominantemente católica. La comunidad judía, que existía desde la época de Constantino el Grande, fue expulsada en 1424, y hasta 1794 los judíos tenían prohibido pernoctar en la ciudad.