Dans le cadre du projet de la place Louis XV, actuelle place de la Concorde, une église devait être construite dans l'axe de la rue Royale.Les plans de Constant d'Ivry furent approuvés en 1761, et l'on posa la première pierre le 13 août 1764. La mort de l'architecte, la modification des plans par son successeur, Guillaume Martin Couture, puis la Révolution entravèrent le déroulement des travaux.

En 1806, à l'emplacement de l'église à peine ébauchée, Napoléon 1er décide la construction temple de la Gloire, dédié aux soldats de la Grande Armée. C'est Pierre Alexandre Vignon qui se voit confier ce projet. A sa mort en 1828, il est enterré sous le portail du bâtiment. C'est son associé, Jean-Jacques Huvé, qui achève la construction de l'édifice qui, remis au clergé catholique par la loi du 3 mars 1842, devient l'église de la Madeleine.