La construction du pont en pierre fut décidée en 1353 par le parlement de Paris après accord avec le chapitre de la cathédrale Notre-Dame de Paris, le prévôt de Paris, ainsi que les bourgeois de la ville. Son emplacement fut fixé en aval du Petit-Pont, dans l'axe de la rue Saint-Denis, du Grand-Pont sur la rive droite et de la rue de la Harpe sur la rive gauche, ceci permettant une traversée directe de l'île de la Cité.

Le 31 janvier 1408, le pont St Michel est emporté par une violente crue de la Seine. Les maisons qui le couvraient aussi et ce sont des victimes qu'il faudra déplorer.

En raison des difficultés connues par le royaume de France pendant la guerre de Cent Ans, le pont fut immédiatement reconstruit en bois. Ce matériau étant bien moins résistant que la pierre du pont précédent, le parlement de Paris décida d'allouer en 1444 les recettes d'amendes à la réfection du pont.

Ce n'est pas le seul drame qu'il aura à subir, puisque le 9 décembre 1547, il sera heurté par un bateau à la dérive, lors d'une autre crue. Le pont Saint-Michel fut alors reconstruit rapidement ...en bois.

Enfin, le 30 janvier 1616, c'est une autre crue qui l'emportera. Ce pont, rebâti en pierres, fut loti de 32 maisons qui ne disparurent au début du xixe siècle à la suite d'un décret impérial de 1807. Ce fut le dernier pont avant l'ouvrage actuel.