构成希腊神话故事的主线是奥林匹斯神族，其主神是宙斯，他是大神母瑞亚之子。这个神族居住在奥林匹斯山上，山虽不在奥林匹亚，但这个神族的许多成员都与古奥运会的起源有关。涉及宙斯、赫拉克勒斯和珀罗普斯的故事流传最广。奥林匹斯角斗主神宙斯推翻一心要吞食自己的父王克洛诺斯，并战胜了提坦诸神的反抗，是得到希腊人崇拜的行动。大多数神话认为，奥林匹亚是宙斯的主要圣地，于是希腊人在那里建造起宙斯神庙，定斯奉祀宙斯的祭典，便是古代奥运会的起源。
另一则神话说，曾经保护瑞亚在克里特岛生下宙斯的5位祭司，来到奥林匹亚进行赛跑，却被宙斯之子赫拉克勒斯抢先取胜。赫拉克勒斯获胜后约定，从此每隔4年举行一次比赛，并命名为“奥林匹克赛会”。
关于伊利斯国王举行奥林匹克赛会的传说，至少在地理上更符合历史事实。据传说，在赫拉克勒斯之后，伊利斯第一位国王埃特里俄斯(Aethlius)为纪念赫拉克勒斯而开创了男子竞跑赛会。根据罗马历史学家优西比乌斯(公元4世纪人，著有《基督教会史》)考证，拉丁文“运动员”(athletes)和 “比赛项目”(athla)二词就来源于埃特里俄斯的名字。在神话传说中，伊利斯后来的几代国王，包括埃特里俄斯之子恩底弥昂和恩底弥昂之子厄珀俄斯，以及厄珀俄斯的外甥厄琉斯，都继承了埃特里俄斯的传统，定期举行奥林匹克赛会。优西比乌斯还提到另一些与奥运会起源有关的神话人物：如马格内西亚国王埃俄罗斯的孙子珀苏斯、美女希波达弥亚的父亲俄诺玛俄斯，还有阿密塔翁、珀利阿斯、涅琉斯等，这些神话人物都与定居在伯罗奔尼撒半岛的多利安人的后代有关。