Reliant les importantes rues de la Harpe et St Jacques, longeant l'église St Séverin, cette rue fut l'une des plus célèbres du Quartier Latin. Dès le XIIIè siècle, les écrivains publics et les copistes de manuscrits l'habitaient, d'où son nom d'alors de rue des Ecrivains.

En 1387, elle prit le nom de rue des Parcheminiers, étant celle des marchands de parchemins, commerce très prospère puisque ce ne fut qu'au milieu du XVè siècle que le parchemin commença à faire place au papier venu de Chine.

Depuis le VIIè siècle, le parchemin employé par les copistes était épais, grossier, rugueux, ce qui nécessitait une large écriture; aussi, un livre de très grand format ne contenait-il que peu de texte. Vers 1380, on fit un parchemin au grain plus serré et d'épaisseur moindre, de plus l'emploi de lunettes permit d'écrire en très petits caractères. C'est ainsi que tout le texte de la Bible entra dans un volume de petit format.

Ces nouveaux parchemins étaient très répandus et c'est dans cette rue que les collèges et les étudiants venaient s'en approvisionner. Au XVIIè siècle, on y allait encore se fournir en livres.

Ce fut dans cette rue que Corneille, alors dans la misère et âgé, entra, en 1679, dans une boutique de cordonnier où il attendit, assis sur une planche, que soient recousues ses chaussures, les seules qu'il possédât. Plus tard, Diderot eut dans cette même rue son premier logement parisien.