Ensimmäisten Ateenan olympialaisten menestyksen jälkeen Pierre de Coubertinin johtama olympiakomitea päätti tehdä kilpailusta säännöllisen. Seuraava eri maiden urheilijoiden kokous pidettiin vuonna 1900 Pariisissa.
Toiset olympialaiset päätettiin pitää samanaikaisesti Pariisin maailmannäyttelyn kanssa houkutellakseen lisää katsojia. Nämä kilpailut olivat kuitenkin hyvin erilaisia kuin nykyaikaiset. Pelit järjestettiin useiden kuukausien ajan, ja historioitsijat keskustelevat edelleen tämän olympialaisten voittajien ja kilpailujen täsmällisestä luettelosta. Näiden pelien organisaatiotasoa ei voida myöskään verrata myöhempiin aikoihin. Ulkomaalaisille urheilijoille ei järjestetty erityisiä ratkaisuja, kuten myös pelien avaus- ja päätösjuhlia.
Kilpailuun osallistui urheilijoita 24 maasta. Pelissä oli ensimmäistä kertaa edustettuna 12 valtiota, muun muassa Venäjän imperiumi. Mutta kilpailu ei ollut Afrikan ja Aasian maiden urheilijoita. Poikkeuksena oli urheilija Intiasta, joka oli tuolloin osa Britannian valtakuntaa.
Mestaruuskilpailuja järjestettiin 20 urheilulajilla. Heidän joukossa oli niitä, jotka myöhemmin suljettiin kilpailun ulkopuolelle peleissä, esimerkiksi Baskimaan pelota.
Naiset osallistuivat ensimmäistä kertaa peleihin, mikä oli järjestäjien tuolloin rohkea päätös. Erityisesti järjestettiin erillinen naisten golf-turnaus. Kriketissä he esiintyivät tasa-arvoisesti miesten kanssa, ja tennissä kilpailivat sekä yksinäiset naiset että sekalaiset parit.
Ensimmäisen sijan mitalien lukumäärässä otti Ranska - urheilun rakastajatar. Menestyneimpiä olivat ranskalaiset soutajat, ampurit ja miekkailijat. Toinen oli Yhdysvaltojen joukkue, joka noina päivinä oli saanut urheiluvoiman aseman. Eniten mitaleita saivat maan urheilijat. Myös miesten ja naisten golfarit esiintyivät menestyksekkäästi.
Venäjän valtakunnan urheilijat olivat edustettuina vain kahdella tieteenalalla, miekkailu ja hevosurheilu, eivätkä he voineet mitalia.