Pirmoji bažnyčia, manoma, buvo pastatyta XIII amžiuje saloje greta pilies. XVI amžiuje viduryje ji perkelta į tuometinį miesto salos pakraštį ir pastatyta šalia Dangės upės, Turgaus g. 37. Čia ji stovėjo iki 1706 metų.
1696 metais jau buvo pradėta statyti Vokiečių bažnyčia naujoje vietoje – dabartiniame Turgaus g. 24 žemės sklype. Senoji bažnyčia prie Dangės buvo nuardyta, o ant jos suformuotas miesto gynybinių įtvirtinimų pylimas. Į naująjį sklypą buvo perkeltos kilnojamosios bažnyčios vertybės ir dalis palaidojimų. Pastatas buvo statomas ir įrenginėjamas dešimt metų, o bokšto statybos užsitęsė dar ilgiau. Sumenkus Klaipėdos kaip tvirtovės reikšmei ir nykstant pilies svarbai bei nuardžius jos bokštus, Vokiečių bažnyčios vertikalėėmė dominuoti miesto siluete. Aukščiausias miesto pastatas tarnavo miesto laikrodžiu, apžvalgos, stebėjimo bokštu ir navigaciniu orientyru laivams. 1854 m. bažnyčia smarkiai nukentėjo per Didįjį Klaipėdos gaisrą: apdegė sienos, nudegė stogas ir nuvirto bokšto viršūnė.
Po gaisro 1856–1858 metais Vokiečių bažnyčia pervadinama į Šv. Jono bažnyčią ir skubiai atstatoma pagal modernesnį projektą. Bažnyčia paaugo, pakito jos išvaizda, o bokštas buvo iškeltas į 75 metrų aukštį. Darbai buvo baigti 1864 m. Šv. Jono bažnyčios viduje išliko senosios kolonos ir skliautai.
Būtent šioje vietoje, Turgaus gatvė 24, pogaisrinės išvaizdos ir planuojama ją atstatyti.