Un mercier de La Cité, Pierre Parissot, établit quai aux Fleurs le 6 octobre 1824, un commerce de vêtements confectionnés, vendus à prix fixe. L'invention, par Barthélemy Thimonnier, de la machine à coudre permet à Parissot de développer considérablement ses affaires.

Le magasin s'agrandit peu à peu et occupe un vaste quadrilatère situé entre la rue de la Cité, la rue du Haut-Moulin et la rue des Marmousets. En 1856, le capital atteint déjà 3 millions de francs. En 1864, l'enseigne est expropriée de son premier magasin de la Cité, qui est détruit trois ans plus tard pour construire l'Hôtel-Dieu.

Un nouveau magasin est alors construit quai de la Mégisserie par l'architecte Henri Blondel, entre le 29 mai 1866 et décembre 1867. Partiellement inauguré en avril 1867, le bâtiment est agrandi en 1878.

En 1869, Adolphe, neveu de Parissot, entre dans le capital : il est de 196 millions de francs en 1930, date de la transformation de l'entreprise en société anonyme. Marie Marguerite Lescot, petite-fille d'Adolphe, épousera Albert Bouclier qui en deviendra le PDG. La maison ne modifie jamais son objet initial, étant le seul grand magasin parisien à n'avoir conservé qu'une activité bien déterminée.

Le concept de magasin proposant de la confection finie et en série, à un prix adapté à la nouvelle clientèle des classes moyennes, connaît un grand succès et le petit magasin de 1824 est à l'origine d'une des premières chaînes fonctionnant en franchise. L'enseigne regroupe 190 points de vente en 1840 et 322 en 1860. Des établissements scolaires y font faire leurs uniformes, comme le Collège Stanislas de Paris. Pendant la Première Guerre mondiale, La Belle Jardinière vend des vêtements militaires aux officiers français et alliés.

La Belle Jardinière cesse son activité en 1972, après que M. Bricard, président-directeur général, l'eut cédée aux frères Willot (groupe Agache-Willot) qui ont, dans ce rachat, un objectif de plus-value immobilière. L'enseigne Conforama, alors propriété du groupe Agache, remplace rapidement la Belle Jardinière. Par la suite, après les démêlés financiers et judiciaires des nouveaux propriétaires, les bâtiments de la rue du Pont-Neuf, qui ont abrité le grand magasin des quais de Seine, sont rachetés par le groupe LVMH Moët Hennessy Louis Vuitton, déjà propriétaire de La Samaritaine, et sont toujours en partie occupés par Conforama ainsi que par les enseignes Darty et Habitat.