Die Pfarrei St. Kolumba gehörte in frühmittelalterlicher Zeit vermutlich zu den vier ältesten Pfarreien der Stadt. Um 1300 war sie die bedeutendste und größte (Fläche und Mitglieder) Pfarrei unter den damals schon 19 Kölner Pfarreien. Die ältesten in den 1970er Jahren ergrabenen Reste von Sakralbauten an dieser Stelle stammen aus dem 8. Jh. Zahlreiche Um- und Neubauten folgten. Die seit dem 16. Jh. fünfschiffige Kirche war Grablege zahlreicher Kölner Adeliger und auch von 38 Bürgermeistern. Dank großzügiger Stiftungen bedeutender Kölner Familien hatte die Kirche im Lauf der Jahrhunderte eine reiche Ausstattung auf hohem künstlerischem Niveau erhalten. Im Zuge der Säkularisation wurde die meiste Ausstattung verkauft. Während des Krieges gab es mehrfach Beschädigungen der Kirche, kurz vor Kriegsende stürzte beim letzten großen Bombenangriff am 2. März 1945 der Kirchturm ein und zerstörte die gesamte Kirche. Mitten in den Trümmerbergen war an einem Pfeilerrest eine fast unversehrte spätgotische Madonna stehen geblieben. Die Kölner sahen das als Wunder und als Hoffnungszeichen und tauften sie auf „Madonna in den Trümmern“.
1947 war Gottfried Böhm in das Büro seines Vaters eingetreten und erhielt im gleichen Jahr mit dem Auftrag für eine Kapelle in den Trümmern von St. Kolumba seinen ersten eigenen Auftrag. Seit 1933 war Joseph Geller Pfarrer von Kolumba. Er hatte sich 1911 als Pfarrer in Neuss mit der Bistumsleitung angelegt, weil er mit Fenstern des expressionistischen Glaskünstlers Jan Thorn Prikker unerwünscht moderne Kunst in die Neusser Dreikönigenkirche gelassen hatte. Nach 1945 war Gellers Wunsch, den Glauben auch mit zeitgenössischer Kunst sprechen zu lassen, weiterhin lebendig. Geller führte Gespräche mit Rudolf Schwarz und Dominikus Böhm und beauftragte nach deren Absage Gottfried Böhm. Mit dem jungen, nach neuen Ausdrucksformen der Architektur suchenden Architekten Gottfried Böhm konnte so ein architektonisches und künstlerisches Kleinod entstehen, dass bis heute täglich viele Betende und Ruhesuchende anzieht.
Im Dezember 1950 wurde die Kapelle geweiht, 1957 auch die nördlich angefügte Sakramentskapelle in Nutzung genommen.
Gottfried Böhm zeichnete immer wieder Pläne für den Wiederaufbau der Kolumbakirche, in die er die Kapelle einbezog. 1973 stellte er Pläne für ein „Kolumba-Institut“, eine Tagungs- und Begegnungsstätte des Erzbistums vor. In den 1970er Jahren fanden umfangreiche Ausgrabungen auf dem Gelände statt, und es wurde deutlich, dass diese bedeutenden Funde erhalten und zugänglich gemacht werden sollten, was die Bebauung für lange Jahre verzögerte und die Bauaufgabe sehr viel schwieriger machte.
1997 gewann der Schweizer Architekt Peter Zumthor den Wettbewerb für einen Neubau des Kölner Diözesanmuseums auf dem Gelände der ehemaligen Kolumba-Kirche. Es folgten intensive Jahre der Planung, um ein außergewöhnliches Museum an diesem Ort entstehen zu lassen, wozu auch kontroverse Diskussionen um die Überbauung der Kapelle gehörten. 2003 wurde der Grundstein gelegt und am 14.9.2007 konnte der Neubau eingeweiht und eröffnet werden.
Kapelle und auch das spätere KOLUMBA-Museum stehen unmittelbar nordöstlich der Kreuzung Kolumbastraße / Brückenstraße. Gegenüberliegend setzt das Dischhaus einen weiteren architektonischen Akzent.
Die Kapelle entstand über dem westlichen Bereich des Mittelschiffs der alten Kolumbakirche. Der Bau Böhms zeigte vor der Überbauung durch das Museum nach außen die massiv wirkenden Werksteinmauern von Vorhalle und Turmerdgeschoss der spätmittelalterlichen Kirche. Nach oben waren sie abgeschlossen durch ein in den Flächen leicht nach unten hängendes, flaches, metallgedecktes Satteldach. Östlich schließt auf 10-seitigem Grundriss ein moderner kleiner Zentralbau unter flachem Zeltdach an. Reste der Außenmauern der spätgotischen Kolumbakirche sind entlang der Brückenstraße erhalten geblieben. „Der kleine Neubau … nistete sich in den zerstörten Bestand ein.“ (Pehnt, 1999)
Der Museumsneubau hat die Kapelle vollständig überbaut. Zur Straße sichtbar sind nur noch das Westfenster der Vorhalle mit dem schwingenden Ortgang des Böhmschen Daches und die nördlich anschließende Basaltmauer der Sakramentskapelle. An der Südseite führt ein offenes Portal zum alten Zugang, über dem immer noch der von Böhm entworfene Bär wacht und auf die Legende der Kirchenpatronin verweist.
Der Zugang erfolgt auch nach der Überbauung des Museums von Süden in den kleinen Vorraum. Geradeaus gelangt der Besucher in die bis 1957 angebaute, dunkel gehaltene Sakramentskapelle mit mächtigem Sakramentsaltar (G. Böhm, Tabernakel Elisabeth Treskow, Kreuzweg in der Basaltwand Rudolf Peer). Nach rechts leitet der Blick durch die dunkle Halle des ehemaligen Turmerdgeschosses mit wenigen Kirchenbänken in den lichten Zentralbau mit mittig über drei Stufen erhöhtem Altar. Hier steht vor der geschlossenen Ostseite die erhaltene Marienfigur. Zu beiden Seiten sind je zwei Seiten des Dekagons über einem niedrigen Sockel raumhoch in jeweils vierbahnige Fenster geöffnet, deren Bahnen durch sehr schlanke, nach außen und innen vorstehende Stützen untergliedert sind. Die Wandstücke zwischen den Fenstern sind nur wenig kräftiger, aber analog ausgebildet, sie ragen jedoch nach innen und insbesondere nach außen weiter vor. Außen tragen diese weiter vorstehenden Stützen das deutlich überstehende, flache Zeltdach. Im Inneren hat Böhm die alten Rabitzdeckenkonstruktionen seines Vaters neu aufleben lassen: Der zentrale Kapellenraum wird von einer leicht wirkenden, im Zentrum gerafften Gewebedecke überfangen.
Bedeutsam sind die schon bei Fertigstellung integrierten Ausstattungsstücke auf höchstem künstlerischen Niveau, die durch Pfarrer Geller in die Kirche kamen. Das Katharinafenster im Westen stammt von Georg Meistermann (1948), das runde Fenster im Turmbereich wurde schon 1911 von Jan Thorn Prikker für Neuss geschaffen und die Antoniusstatue schuf Ewald Mataré in den letzten Kriegsjahren für die Kolumbakirche. Die großen, eindrücklichen Engelfenster des Zentralraums schließlich wurden von Ludwig Gies erst 1954 speziell für diesen Ort geschaffen. Durch die Überbauung des Grabungsbereiches rund um den Böhmschen Kapellenbau muss der ursprüngliche Lichteinfall für die großen Kapellenfenster durch künstliches Licht erzeugt werden, was leider lange nicht an das ursprüngliche natürliche Licht herankommt.
Gottfried Böhm erhielt hier die erste Gelegenheit zu einem eigenständigen Entwurf während er parallel auch viel gemeinsam mit seinem Vater arbeitete. Realisiert wurde eine kleine Kapelle, die aus der Not der Nachkriegszeit das Beste macht: Übernahme einiger erhaltener Bauteile und eine moderne Konstruktion für die wichtige, die Madonna aufnehmende Kapelle. Schlanke Betonraster lassen viel Licht in den Raum, besondere Deckenkonstruktionen scheinen wie leichte Tücher den Raum nach oben abzuschließen.
Der Fußboden besteht aus zahlreichen Fragmenten der zerstörten Kirche und bildet zusammen mit den alten massiven Mauern eine Erinnerung an die lange Tradition der Kolumba-Kirche und an die massiven Kriegszerstörungen. Zusammen mit den durch die guten Beziehungen Pfarrer Gellers zu zeitgenössischen Künstlern vorhandenen, oder für den Neubau ermöglichten Kunstwerken, ist so ein architektonisches und künstlerisches Kleinod in der City entstanden.