Ateenassa vuonna 1896 pidetyt olympialaiset olivat ensimmäiset moderniin olympialiikkeeseen liittyvät pelit. Ne eroavat monin tavoin aikamme järjestämistä urheilukilpailuista, koska olympialaisten pääperinteitä ei tuolloin ollut vielä muodostettu.
Kysymystä olympialaisten elvyttämisestä keskusteltiin toistuvasti eri maissa, mutta tämä ajatus toteutettiin vain ranskalaisen Pierre de Coubertinin ponnistelujen avulla, joka perusti KOK: n vuonna 1984. Alun perin oli tarkoitus järjestää tapahtuma vuonna 1900, mutta järjestäjät pelkäsivät, että kuuden vuoden odotusten jälkeen kiinnostus peleihin katoaisi ja niiden järjestäminen olisi turhaa. Kun valittiin olympialaisten tapahtumapaikkaa, otettiin huomioon useita kaupunkeja, mutta lopulta Ateena valittiin korostamaan modernin liikkeen yhteyttä muinaiseen.
Avajaiset pidettiin 6. huhtikuuta. Hän, kuten aikamme, sisälsi valtionpäämiehen lyhyen puheen, jossa pelejä pidettiin, sekä olympialaulun esiintymisen. Mutta eroja on: etenkin vuonna 1896 urheilijoiden valaa ei vieläkään annettu. 241 ihmisen sai osallistua olympialaisiin, ja heidän joukossaan ei ollut naisurheilijoita. Kilpailu järjestettiin 9 urheilulajissa: yleisurheilu, ammunta, voimistelu, kreikkalais-roomalainen paini, uinti, pyöräily, painonnosto, tennis ja miekkailu.
Ateenan olympialaisissa urheilijat eivät ole vielä päättäneet jakaa kansallisuutensa mukaan, joten ROK: n jäsenten oli selvitettävä, mikä neljätoista osallistuvasta maasta voitti mitalit tietyllä urheilulajilla monta vuotta myöhemmin. Ongelmana oli myös sekajoukkueiden osallistuminen tenniskilpailuihin. Lisäksi joillakin urheilijoilla oli yhden maan kansalaisuus, mutta he asuivat tosiaan toisessa. Siitä huolimatta oli osittain mahdollista päästä sopimukseen ja jakaa mitaleita, vaikka kiistanalaiset kysymykset ovat edelleen olemassa.
Kreikkalaisten suurelle kurjuudelle vuoden 1896 olympialaisissa ensimmäiset paikat miehitettiin pääasiassa ulkomaalaisilta. Amerikkalaiset voittivat kultaa kolmio- ja diskanheittokilpailuissa, samoin kuin 100 ja 400 metrin kilpailussa. Ranskalainen Paul Masson voitti sprinttijuoksun ja 2000 ja 10000 metrin pyöräilykilpailun. Raskaiden urheilijoiden joukosta englantilainen Launceston Elliot ja Dane osoittautuivat parhaimmaksi. Viggo Jensen. Saksalaiset tekivät maalin paini- ja voimistelukilpailuissa, ja unkari Alfred Hayosh voitti uimakilpailuissa. Kreikkalaiset voittivat mitalit voitosta juoksemisessa, ampumisessa revolverista ja armeijan kiväärestä sekä folio-miekkailuissa. Tenniskilpailut voitti sekalainen englantilais-saksalainen joukkue.