Die Kirche steht in der Nähe des ehemaligen Römerkastells Lindenhof und reicht in ihren Anfängen in die Zeit der Römer zurück. König Ludwig der Deutsche schenkte sie 857 seinen Töchtern Hildegard und Berta, den ersten Äbtissinnen des Fraumünsters, zur Begründung dieser Abtei. 1345 erwarb Rudolf Brun, Schöpfer der Zürcher Zunftverfassung und erster Bürgermeister Zürichs, Pflichten und Rechte an St. Peter. Rudolf Brun wurde 1360 im Chor der Kirche bestattet.

Die heutige Kirche hat vier Vorgängerbauten: Vorromanisch im 9. Jahrhundert – die Grundmauern sind unter dem heutigen Chor noch sichtbar –, frühromanisch im 10. Jahrhundert, spätromanisch etwa 1230 (Turm und Chor erhalten), spätgotisch um 1450. Während der Reformation wurden 1523 im Zuge der gestalterischen Veränderungen die Altäre im St. Peter zerstört. 1705 entstand das heutige Kirchenschiff, ein barocker Emporensaal.