Au lendemain de la Révolution de 1789, la France se trouve dans une situation très difficile et manque cruellement d'ingénieurs et de cadres supérieurs, dont beaucoup, issus de la noblesse, ont été massacrés par les révolutionnaires : de nombreux officiers ont déserté ou ont subi les purges de la Terreur, toutes les universités ont été fermées à la suite d'un décret de la Convention nationale et le réseau de transports du pays, négligé durant de nombreuses années, nécessite d'importantes remises à niveau et améliorations mais également la construction de nouvelles infrastructures.
À l'instigation de quelques savants, ralliés aux idées nouvelles, parmi lesquels on trouve le géomètre Monge et le chimiste Fourcroy, le Comité de salut public crée une commission des travaux publics, par décret du 21 ventôse an II (11 mars 1794), afin d'essayer d'enrayer la catastrophe.
Jacques-Élie Lamblardie, Gaspard Monge et Lazare Carnot, pères fondateurs de l'École, se voient confier la mission d'organiser une nouvelle « École centrale des travaux publics ». Le 7 vendémiaire an III (28 septembre 1794) est créée officiellement cette École centrale des travaux publics, future École polytechnique.
L'École, installée dans les dépendances du Palais Bourbon, est inaugurée le 1er nivôse an III (21 décembre 1794) devant 272 élèves déjà enrôlés et de nombreuses personnalités dont Antoine-François Fourcroy et Joseph-Louis Lagrange. Pour que les élèves de la nouvelle école ne soient pas gênés par des problèmes pécuniaires, ils reçoivent pour se rendre à Paris les frais de route d'un canonnier de première classe, soit 15 sous par jour, et perçoivent un salaire annuel de 900 francs.
Les élèves sont externes et logés chez de « bons citoyens », appelés les « pères sensibles », recommandés par les sections des comités proches du Palais-Bourbon et chargés de veiller sur leurs pensionnaires comme sur leurs propres enfants. Le directeur des études Gardeur-Lebrun, souvent accompagné du médecin de l'École Chaussier, visite régulièrement les familles d'accueil. Après une deuxième session d'examen, la première promotion de 400 élèves doit suivre une instruction en mathématiques, physique et chimie. Les trois premiers mois de cours, appelés « cours révolutionnaires », permettent de répartir les élèves en trois catégories : ceux qui doivent suivre deux ans de cours avant de rentrer dans les services publics de l'État, ceux qui n'ont besoin que d'un an et ceux qui peuvent rentrer immédiatement. Seulement, l'établissement rencontre de nombreuses difficultés : les laboratoires ne sont pas prêts, certains professeurs s'avèrent médiocres et les premiers cours ne se font parfois que devant une trentaine d'élèves.
Claude Prieur décide alors de réformer l'École. Celle-ci, renommée « École polytechnique » par la loi du 15 fructidor an III (1er septembre 1795), est transférée à l'hôtel de Lassay. Sa mission est alors clairement définie : donner une formation scientifique aux élèves pour les préparer à entrer dans les écoles spéciales des services publics, comme l'École d'application de l'artillerie et du génie, l'École des Mines ou celle des Ponts et Chaussées. L'adjectif « polytechnique », apparu pour la première fois dans un document publié par lui-même Programmes de l'enseignement polytechnique de l'École centrale des travaux publics en pluviôse an III (janvier/février 1795)6, a été choisi afin de symboliser la pluralité des techniques enseignées. L'École acquiert une grande renommée en sciences dans l'Europe, ainsi en 1803, la République helvétique obtient - en échange du maintien de quatre régiments au service de France - de pouvoir envoyer à l'École vingt jeunes gens.
En 1804, et pour reprendre en main des élèves souvent très indisciplinés à l'extérieur, Napoléon Ier, qui avait emmené avec lui en Égypte deux enseignants (Monge et Berthollet) et 42 élèves en cours de scolarité ou tout juste sortis de l'École8, donne à Polytechnique un statut militaire et caserne les élèves.
Il installe alors l'École sur la montagne Sainte-Geneviève à Paris, dans les anciens locaux des collèges de Navarre, Tournai et Boncourt, aujourd'hui ministère de l'Enseignement supérieur et de la Recherche. Considérant qu'« il est dangereux de donner une scolarité avancée à des gens qui ne sont pas issus de familles riches » il met fin à la gratuité des études en imposant des frais annuels très élevés et ajoute une épreuve de version latine au concours d'entrée afin de rendre indispensable le passage par les lycées, payants, réservés de fait aux enfants de la bourgeoisie. Il dote ainsi l'école d'un modèle militaire-aristocratique.
C'est aussi à Napoléon que Polytechnique doit son drapeau et sa devise : « Pour la patrie, les sciences et la gloire »8, cette dernière ayant été proposée par le Maréchal Berthier, Ministre de la Guerre, sous la forme « Patrie, Sciences, Gloire ».
En 1814 les troupes étrangères sont aux portes de Paris. Les élèves, qui n'ont suivi que quelques cours d'artillerie et ne se sont jamais vraiment ralliés à la cause de l'Empire, demandent à Napoléon de participer à la défense de Paris. Ce dernier aurait alors déclaré : « Je n'en suis pas réduit à tuer ma poule aux œufs d'or ».
C'est le début d'une longue et brillante tradition militaire et de contribution au renouvellement des élites tecghniques et scientifiques, qui aura largement accompagné le développement économique de la France.