A világ sport fejlődése attól függ, hogy ki fogja vezetni a Nemzetközi Olimpiai Bizottságot. Végül is az Olimpiai Bizottság vezetője nemcsak tisztviselő, hanem egy olyan személy, aki hatalmas reményekkel bír, nehéz feladatokkal néz szembe. Ezért egy véletlenszerű személy nem lehet ilyen helyen.
A Nemzetközi Olimpiai Bizottság vezetője az elnöke. Ez a poszt választható. A bizottság vezetőjét egy speciálisan szervezett ülésen, titkos szavazással választják meg. A NOB vezetőjének hivatali ideje 8 év, de négyévente további 8 évvel meghosszabbítható. A bizottság elnöke közönség lehet, aki ismert és híres beszédeiről, jótékonysági tevékenységeiről és egyéb dolgairól, amelyeket hazája és az egész világ fejlődése érdekében tesznek.
Az első elnököt 1894-ben választották meg, az Olimpiai Bizottság kialakulásával együtt. Demetrius Vikelas nevű görög költő és közszereplő volt. Helyettesét kinevezték korunk első olimpiai játékának ideológiai ihletébe, Pierre de Coubertin báróba. Azonban csak két évvel az első játékok győzelme után megtették, ugyanaz a báró de Coubertin Wickelast váltotta a NOB elnökévé. 1925-ig maradt ezen a poszton.
Mivel a hatáskörök meghosszabbíthatók, mindössze 8 elnök látogatta meg a Nemzetközi Sportbizottság vezetője posztját 100 évig.
De Coubertint helyette Henri de Bole-Latour töltötte be, aki 17 évig volt az elnöke. A következő Siegfried Edstrom volt - 1946 és 1952 között volt az elnök. Az USA-ból Avery Brandage váltotta fel. 1972-ig 20 évig vezette a NOB-t. Utódja, Michael Morris Killanin, ír, egy megbízatást töltött a bizottság vezetőjének. Aztán 21 évig Juan Antonio Samaranch került a vezetésbe. 2001-től napjainkig a Nemzetközi Olimpiai Bizottság elnöke a belga Jacques Rogge.
Az elnök azonban önmagában nem tudta irányítani a bizottságot. Ezért vannak olyan igazgatói asszisztensek is, mint 4 alelnök és a bizottság 10 rendes tagja, akiket szintén titkos szavazással választanak meg. Hivatali idejük 4 év. Ezen felül az irányítóbizottság 25 olyan személyt foglal magában, akiket „tiszteletnek” neveznek - azokat, akik korábban a bizottság tagjai voltak. A NOB-ban olyan tisztelt tagok is vannak, akik nem voltak az Olimpiai Bizottság tagjai, ám felbecsülhetetlen szolgáltatásokat nyújtottak a mozgalom számára.
A bizottság összetételében 70 tagország 110 tagja van. A munka alapelve a következő: azok, akik a Nemzetközi Olimpiai Bizottság tagjai, nem az országuk képviselői abban, hanem éppen ellenkezőleg, hazájuk szabályozó testületét képviselik.