À Paris, le 23 juin 1894, en clôture du premier congrès olympique, le baron Pierre de Coubertin fonde le Comité international olympique afin de faire revivre les anciens Jeux olympiques après une absence de plus de 1500 ans3. Il veut ainsi contribuer à bâtir un monde pacifique au moyen du sport en promouvant la communication, le fair-play et l'entente entre les peuples. Le CIO est une organisation dont le but est de localiser l'administration et l'autorité pour les jeux, ainsi que de fournir une seule entité légale qui détient tous les droits et les marques. Par exemple le logo olympique, le drapeau, la devise et l'hymne olympique sont tous administrés et possédés par le CIO. Le président du Comité olympique représente le CIO dans son ensemble, et les membres du CIO le représentent dans leurs pays respectifs.
Le CIO est composé de 115 membres qui se réunissent au moins une fois par an, et élisent un président pour une durée de 8 ans. Les membres sont tous des personnes physiques. Le CIO comprend notamment parmi ses membres, des athlètes actifs, d'anciens athlètes, ainsi que des présidents ou dirigeants au plus haut niveau de fédérations internationales de sports, d'organisations internationales reconnues par le CIO. Le CIO recrute et élit ses membres parmi les personnalités qu'il juge qualifiées. Les moyens financiers proviennent d'une part des droits de retransmission télévisée et d'autre part des partenariats avec des sociétés multinationales. La présidence de Juan Antonio Samaranch (1980 à 2001) a vu une explosion des droits télévisés et de parrainage des Jeux.
En décembre 1998, éclate le scandale de corruption qui a entouré la désignation de Salt Lake City comme ville organisatrice des Jeux olympiques d'hiver de 2002.
Le CIO, autorité suprême du mouvement olympique, désigne lors de sa session annuelle les villes hôtes pour les Jeux olympiques d'été comme d'hiver. L'élection de la ville hôte requiert la majorité absolue des suffrages exprimés. Si à un tour donné, aucune ville n'obtient la majorité absolue des suffrages exprimés, un nouveau tour est effectué en éliminant la ville ayant reçu le moins de voix. Lors du dernier tour s'il y a lieu, les deux finalistes sont convoqués pour assister au résultat final du vote. Le vote est secret et n'ont pas le droit de vote les membres du CIO ayant la même nationalité qu'une ville encore en lice. Le CIO se réunit également en congrès exceptionnels.
Chargé d'organiser les Jeux olympiques, il en délègue l'organisation matérielle à un comité local d'organisation des jeux olympiques (COJO) et l'organisation technique des épreuves retenues au programme de chaque olympiade aux fédérations internationales compétentes. Il gère les Jeux olympiques d'été depuis 1896, ceux d'hiver depuis 1924 et depuis 2010 les Jeux olympiques de la jeunesse organisés pour la première fois à Singapour. Ses membres sont également impliqués dans l'organisation des Jeux régionaux ou continentaux, reconnus par le CIO et gérés par des comités olympiques ad hoc : jeux asiatiques, jeux africains, jeux panaméricains, jeux méditerranéens, jeux du Pacifique.
Depuis 2001, le CIO dispose du Service olympique de radiotélévision (Olympic Broadcasting Service), une agence capable de retransmettre les diffusions des épreuves, sans forcément passer par un diffuseur partenaire. Son siège est situé à Madrid. Pour les Jeux Olympiques de 2020, le CIO souhaite prolonger le mouvement en créant une chaîne olympique (qui sera plus un catalogue de contenus à la demande).