Die erste Kirche wurde der Mutter Maria und dem Heiligen Georg geweiht. Die romanische Basilika war 25 Meter lang und 16 Meter breit, hat im Osten zwei Absidentürme, die etwa 30 Meter hoch sind. Außer diesen sind vom Ursprungsbau noch zwei romanische Portale erhalten. Das größte stellt Johannes, Maria, Christus, Petrus und Georg da. 1323 bekam die Kirche eine Reliquie des Heiligen Leonard. Nach 1425 entstand der spätgotische Chor, der zu den schönsten des Mittelrheinischen Gebietes gotischer Zeit zählt. 1508 ließ sich die Familie Holzhausen ein Chörlein an die Kirche bauen, dass später in vielen Reiseführern seines hängenden Gewölbes wegen Erwähnung fand.
Die Geschichte von St. Leonhard ist eng mit der der Kirche des ehemaligen Karmeliterklosters (um 1250 bis 1803), heute Hauptstandort des Archäologischen Museums Frankfurt, verbunden. Die zwei mittelalterlichen Kirchen im Westen der einstigen Frankfurter Altstadt, gut 100 m voneinander entfernt, verbindet mehr als nur die räumliche Nähe und ihre Baugeschichte, die bis in das 13. Jahrhundert zurückreicht. Nach Auflösung des Klosters im Jahr 1803 wurden Teile seines Inventars nach St. Leonhard überführt. Die Pfarrgemeinde nutzt bis heute das liturgische Gerät, zwei Beichtstühle sowie das Kirchengestühl aus der Karmeliterkirche.
In den Jahren 1927–1928 und 2009–2017 wurden die mittelalterliche Ausstattung und einzigartige Funde innerhalb der Leonhardskirche wiederentdeckt. Im Zuge der Ausgrabungen kamen u.a. herausragende Beispiele spätmittelalterlicher Plastiken im Verfüllschutt des frühen 19. Jahrhunderts zum Vorschein.
