De Grieken zelf vertelden over de oorsprong van de Spelen allerlei verhalen die al dan niet een historische kern bevatten. Zo zou de legendarische Pelops grondlegger zijn van de Olympische Spelen en ook de held Herakles zou verantwoordelijk zijn geweest voor de instelling of in ere herstelling van de Spelen. Omdat deze helden niet in werkelijkheid hebben bestaan, zoals wij nu weten, kunnen zij geen aanspraak maken op de titel van stichter van de Spelen.
Een andere traditie beweert dat koning Ifitos van Elis, uit de negende eeuw voor Christus, politieke stabiliteit wilde bevorderen door het instellen van de Olympische Spelen. De Spartaanse koning Lykourgos werkte hier aan mee, zoals blijkt uit een inscriptie op een bronzen discus in Olympia, waarvan Aristoteles de historiciteit heeft bevestigd. Vanwege de rol van Elis is ook dit verhaal in twijfel te trekken, maar het geeft wel aan dat de oorsprong van de Olympische Spelen een historisch in plaats van een mythologisch fundament heeft.
Hoe en waarom de Olympische Spelen exact ontstonden zal nooit duidelijk zijn. In ieder geval waren de Olympische Spelen voornamelijk een religieus gebeuren en waren de sportonderdelen meer bijzaak dan hoofdzaak. Ook weten we dat het ontstaan in 776 voor Christus van de Olympische Spelen algemeen is geaccepteerd. Dit jaar is tevens – en dat zegt iets over de rol die de Olympische Spelen voor de Grieken speelden – het begin van de jaartelling.