相传古代奥运是希腊众神的竞技活动，直到公元前900年才有正式的历史记载，但据说在之前的400年即已有奥运活动，而有关于古代奥运的正确日期记载，始于公元前776年，四年竞技一次。
最初的比赛项目只有一项，是192.27公尺的短跑，这个距离刚好是大力士哈洛克脚长的60倍长。13届奥运之后也就是公元前724年，才增加了另一个项目4.5公里的长跑。公元前708年又增加了全能十项，包含了跑、跳、投、掷、摔、拳等动作。优胜选手可获橄榄枝叶编织的王冠，第二名选手可获桂冠。
随后的六世纪，奥运会的项目愈来愈多，参与的国家也逐届增加，考古学家估计，当时的奥林匹亚体育场可以容纳两万观众。值得一提的是，选手们都是穿短裤、上身赤膊比赛，但从公元前720年起，改为裸体比赛，女性不得参赛或观戏。
古代奥运的风云人物是李奥尼达斯，他在公元前164至152的四届当中，赢了12面金牌。奥运会受到各国重视，金牌运动员被视为国家民族英雄，财富伴着桂冠而来。但是，奥运也渐渐地盛极而衰。
为了争夺冠军，雇用职业运动员、贿赂裁判、歪风高涨，奥运会不再纯净。公元67年，罗马皇帝尼禄参加了马车比赛，虽然没有其他选手、虽然他没有赛完全程，但他依然得到了王冠。谁敢出来指责他们呢？只有在后来的历史中，将之列为笑话一笔。
公元393年，罗马皇帝塞奥多希斯下令禁止奥运活动，数个年代之后，天灾、人祸不断，奥运会的光荣史绩渐渐地就被淡忘了。
1896年奥运会恢复，为示区别，以前的称为古代奥运，现在的称为现代奥运
英国、德国都曾尝试恢复奥运，多位考古学家也发现古代奥运的遗迹，考证出古代奥运的热门程度，这是当时唯一能结合各国民众、促进友谊的大型活动，值得恢复举行。
直到1889年，法国男爵古伯丁（barondecoubertin）积极奔走，为现代奥运催生，并得到多国支持，1894年共有12个国家参加会议，并有21个国家以书面报告表达支持意愿，会中决定，遵循古代奥运模式，每四年举行一次奥运，国际奥会也于此时正式成立。
现代奥运之父――法国男爵古伯丁
古伯丁男爵原本建议，首届奥运1900年在法国举行，以迎接20世纪的来到，但是其他国家等不及了，匈牙利甚至争取立即在布达佩斯举行，不过，各国代表多认为，首届奥运在奥运发源地雅典举行较有意义，最后，众人敲定，1896年在希腊举行首届奥运。
1896第一届希腊奥运
第一届奥运在希腊独立75周年纪念日同一天举行，虽然希腊政府在财政方面仍不安稳，但一般民众都非常投入，中断了1500年的奥运终于要恢复了。
旅居埃及的希腊富商阿维罗夫捐赠了约七万美金，重建了潘纳西尼恩体育馆，这个体育馆建于公元前330年，经历过数次战乱几成废墟，1870年才被挖掘出土整建。新的跑道长333.33公尺，弯道角度太直，以至于200公尺不得不取消，选手们以顺时钟方向跑步。
首届奥运有13个国家331位选手参加，其中230位是希腊人，外国选手多是自己报名参加，英国驻希腊两位外交人员及正在希腊旅行的旅客就近报名组成英国队，其中布兰德还赢了网球单打，并和德国选手搭档赢了双打冠军。
最出锋头的是德国选手舒曼，赢了三面体操金牌，还捞过界赢了角力金牌，其他另有两位选手也都跨项赢了两项冠军。
第一届奥运的第一个项目是100公尺预赛，美国普林斯顿大学的连恩以12.5秒拿第一，他在历史上留了大名，但是第一面金牌却是三级跳，由美国的康纳利获得。
美国队大多由大学及俱乐部成员组队，他们花了十七天坐船到法国，再换火车到希腊，比赛前一天才到达会场，虽然舟车劳顿，但他们还是大赢家，11金7银，比地主队的10金风光得多。
铁饼、马拉松是新设项目，是地主队志在必得的传统项目，但是，前者却被美国选手加略特夺去，因为他老兄以前练习的铁饼又大又重，正式比赛丢“小饼”，当然轻而易举拿金牌了。
希腊牧羊人路意斯在首届奥运会获得马拉松金牌，成为民族英雄，他特别穿上希腊传统服装，留下珍贵的照片。田径赛至最后一天，希腊仍无斩获，因此马拉松奖落谁家也就格外引人注意，还好，希腊牧羊人路意斯不负众望，当他率先跑进体育馆时，康士坦丁王子、乔治王子都从看台上冲下来伴随他跑完最后一段金牌路程，场面热烈感人。
奥林匹克格言“更快、更高、更强”（faster,higher,stronger）,是鼓励运动员要继续不断地参加运动,努力求进步，与追求自我的突破。原文为古拉丁语“s,altius,fortius”,由一位古柏丁的好友，巴黎阿尔克依学院（arcueilcollege）的教师迪登(henrididon,多明尼加神父)于1890年左右首先使用，他为了使全班学生第一次到室外运动场上去参加运动，出了这种口号来鼓励学生。这三个字给了古柏丁极大的影响，并为国际奥运会所采用，且于1920年第七届奥运会在安特卫浦举行时与五环旗同时正式出现奥运会中。
另一个奥林匹克格言，也有人称之为信仰（creed），是1908年第四届奥运会在伦敦举行期间，于七月九日在伦敦圣保罗大教堂举行奥运会的宗教仪式时，由美国宾夕凡尼亚州大主教主持讲道，他使用了一句话：“奥林匹克运动会最主要的意义重在参加，而非获胜，正如人生的真蹄，不是在乎征服他人，而在乎自我的努力及奋斗有方。”（themostimporhheolympesisbkepart,essentialthingishaveconqueredbuttohavefoughtwell.），使当时在座的古柏丁非常感动与欣赏这句名言。几天后，古柏丁在一次讲演中引用宾夕凡尼亚州大主教的这句话，演变成现在的格言，且开始在奥林匹克活动中流行。1948年十四届奥运会在伦敦举行时，首次在大会场记录牌上出现，此后每届奥运会在开幕典礼中这几句格言均出现在电动记分牌上。
五环为奥林匹克之会徽。原始的五环旗于1913年时由古柏丁设计，长三公尺，宽二公尺，制作挂于瑞士洛桑的国际奥会总部大厅中。当时古柏坦说明设计的用意：五色的环圈，蓝、黄、黑、绿、红，代表全世界的五大洲，现在已连结一起，属于奥林匹克活动的部分，共同为接受运动竞赛良好的结果继续努力，它代表着奥林匹克友谊的精神及全世界运动员之间的平等。而六种颜色（包括白底），则代表全世界各国国旗的颜色，可说是一个国际性的标志。
白底的五环旗是1914年国际奥运会庆祝成立廿周年纪念，第十六届委员大会在巴黎召开时，由近代奥运会创始人古柏坦献赠大会通过为奥林匹克会旗。并于1920年第七届奥运会在比利时安特卫浦举行时正式出现在奥运会大会场中,从此就沿用迄今。