Charles-François Gounod est né le 17 juin 1818 place Saint-André-des-Arts à Paris. Il est le fils du peintre François-Louis Gounod, et de Victoire Lemachois (parents mariés à Rouen le 24 novembre 1806) qui fut son premier professeur de piano.
Après avoir fait ses classes au lycée Saint-Louis, il étudie l'harmonie avec Antoine Reicha puis, au Conservatoire de Paris, avec Jacques Fromental Halévy et la composition avec Jean-François Lesueur. En 1839, il remporte le Grand Prix de Rome pour sa cantate Fernand. Il profite de son séjour à la Villa Médicis pour étudier notamment la musique religieuse, surtout celle de Palestrina. De cette époque (1841) date son premier portrait peint connu, par son condisciple Charles Octave Blanchard. En 1842, il découvre Die Zauberflöte (la Flûte enchantée de Mozart) à Vienne, où est exécutée sa deuxième messe avec orchestre.
En 1843, de retour à Paris, il accepte le poste d'organiste et de maître de chapelle de l'église des Missions étrangères. En 1847, l'archevêque de Paris l'autorise à porter l'habit ecclésiastique. Il s'inscrit au cours de théologie de Saint-Sulpice et va écouter les sermons de Lacordaire à Notre-Dame. En 1848, après les journées révolutionnaires, il renonce à sa vocation sacerdotale et quitte son poste des Missions étrangères.
En 1849, grâce à l'appui de Pauline Viardot, il obtient le livret de Sapho, opéra en trois actes sur un livret d'Émile Augier, qui est créé à l'Opéra le 16 avril 1851, sans grand succès. Il compose ensuite une musique de scène pour Ulysse de François Ponsard. En 1852, il épouse Anna Zimmerman, fille de Pierre-Joseph-Guillaume Zimmerman.
Il présida les Orphéons de la Ville de Paris, de 1852 à 1860. Il a alors écrit de nombreux chœurs, comme le Vin des Gaulois. En tant que compositeur de la musique sacrée, il assista en 1860 au Congrès pour la restauration du plain-chant et de la musique de l'Église.
Il compose Le Médecin malgré lui, opéra-comique en 3 actes d'après Molière, sur un livret de Jules Barbier et Michel Carré, avec qui il collaborera souvent. L'œuvre est créée au Théâtre-Lyrique le 15 janvier 1858, jour anniversaire de la naissance de Molière.
L'œuvre de Goethe exerça très tôt une véritable fascination sur Gounod : « J'avais lu Faust en 1838, » écrit-il dans son Autobiographie, « à l'âge de vingt ans, et lorsqu'en 1839 je partis pour Rome comme grand prix de composition musicale, et pensionnaire de l'Académie de France, j'avais emporté le Faust de Goethe qui ne me quittait pas ». Il affirme que les premières inspirations musicales lui vinrent lors de promenades nocturnes à Capri et dans les environs de Naples. Dès 1842, un journal affirme que le jeune compositeur travaille sur un opéra tiré de Faust. Néanmoins, le projet ne dut prendre véritablement corps qu'à partir de 1845, lorsque Gounod rencontra fortuitement le librettiste Jules Barbier et sous l'influence de Léon Carvalho, directeur du théâtre Lyrique.
C'est Jules Barbier qui est le véritable auteur du livret. La contribution de Michel Carré, auteur d'une pièce intitulée Faust et Marguerite jouée au théâtre du Gymnase, se limita à l'air du Roi de Thulé et à la ronde du veau d'or. L'ouvrage subit toutefois de nombreux remaniements dans le cours des répétitions, qui furent émaillées de diverses péripéties. La partition initiale était beaucoup plus volumineuse et Gounod dut accepter de supprimer plusieurs passages, notamment la remarquable scène du Harz, qui allongeait excessivement l'opéra, le duo entre Marguerite et Valentin au début de l'acte II dans lequel Marguerite donnait à son frère la médaille dont il se sépare malencontreusement à l'acte IV. En revanche, le chœur des soldats Gloire immortelle de nos aïeux... fut rajouté à l'acte IV sur les instances de Carvalho et Ingres : composé initialement pour un Ivan le Terrible, il prit la place d'une chanson dans laquelle Valentin vantait la beauté de sa sœur.
L'opéra fut créé le 19 mars 1859 sur la scène du théâtre Lyrique. Il comportait encore des dialogues parlés qui furent remplacés par des récitatifs lors des représentations de Strasbourg en avril 1860. Par la suite, Gounod inséra encore à l'acte II l'air de Valentin Avant de quitter ces lieux... à l'occasion des représentations au Her Majesty's Theatre en 1863 et, en 1869 à l'Opéra Le Peletier (Paris), le ballet de la nuit de Walpurgis, d'ailleurs très réussi.
À Paris, Faust fut représenté 314 fois sur les différentes scènes du Théâtre-Lyrique jusqu'en avril 1869, puis 166 fois de 1869 à 1875 à l'Opéra (Salles Le Peletier et Ventadour). L'ouvrage connut une longue carrière internationale et fut immensément populaire : il fut représenté quelque 2 358 fois au Palais Garnier et fut le premier opéra présenté au Metropolitan Opera de New York, ainsi qu'à l'inauguration du Théâtre national du Costa Rica, à San José. Si sa popularité a quelque peu décliné, il continue d'être régulièrement joué sur tous les théâtres lyriques du monde. Le 5 août 2008, l'opéra fut interprété aux Chorégies d'Orange par Roberto Alagna (Faust), René Pape (Méphistophélès) et Inva Mula (Marguerite), sous la direction de Michel Plasson et retransmis en direct sur France 2. Et septembre et octobre 2011, l'opéra est programmé à l'opéra Bastille, avec Roberto Alagna dans le rôle de Faust, Paul Gay dans le rôle de Méphistophélès et Inva Mula en Marguerite, dans une mise en scène de Jean-Louis Martinoty et sous la direction de Alain Altinoglu.. Cette production est reprogrammée à l'opéra Bastille en mars 2015 sous la direction de Michel Plasson.
Dans la dernière partie de sa vie, Gounod compose beaucoup de musique religieuse, notamment un grand nombre de messes et deux oratorios La Rédemption (1882) et Mors et Vita (1885).
Il meurt le 18 octobre 1893 à Saint-Cloud. Ses obsèques ont lieu dix jours plus tard à l'église de la Madeleine, avec le concours de Camille Saint-Saëns à l'orgue et de Gabriel Fauré à la tête de la maîtrise. Il est inhumé à Paris, au cimetière d'Auteuil.