Az 1881-ben létrejött Magyar Szent Korona Országainak Vöröskeresztes Egylete után a magyar Olimpiai Bizottság a második legidősebb hazai társadalmi egyesület, amely a Francia, a Görög, az Amerikai, a Német és az Ausztrál Olimpiai Bizottság után hatodiknak alakult meg.
Az Olimpiai Játékokat Előkészítő Magyar Bizottság megalakulásában Kemény Ferenc, egri reáliskolai igazgató örökké elévülhetetlen érdemeket szerzett. A nyolcvanas években, Párizsban a Sorbonne egyetemen folytatta tanulmányait. Ekkor került kapcsolatba, majd szoros barátságba Pierre de Coubertin báróval. Nézeteik megegyeztek az olimpiai gondolat felelevenítésének szükségességéről és a nevelés eszközeként való felhasználásáról. Amikor Coubertin 1894 júniusában zászlót bontva, meghirdette az ókori játékok felújítását, s megalakította a Nemzetközi Olimpiai Bizottságot, természetes volt, hogy a távolmaradásra kényszerült magyar barátját, harcostársát is felkéri a közreműködésre. Így Kemény Ferenc személyén keresztül a magyar sport az ötkarikás mozgalom alapítóinak egyike.
A kiegyezés előtt, 1863-ban alapított és alapszabályát elsőként magyar nyelven megfogalmazó Nemzeti Torna Egylet, amelynek Kemény Ferenc is tagja volt, Berzeviczy Albert az elnök, a későbbi kultuszminiszter vállalta az előkészítés feladatait. A tekintélyes Magyar Atlétikai Club vezetői kezdeti tartózkodás után végül csatlakoztak az alakuló bizottsághoz. A két említett, meghatározó szerepet betöltő egyesület mellett a Budapesti (Budai) Torna Egylet, a híres BBTE, továbbá az MTK, a Nemzeti Hajós Egylet, a III. ker. TVE, a BTC és a Neptun Evezős Egylet küldöttei kerültek a testületbe, amelynek elnöke Berzeviczy Albert, társelnöke dr. Gerendai György, a MAC képviselője lett. A MOB első elnöke tehát Berzeviczy volt.