第一届奥运会克服重重困难，终于在1896年4月6日开幕了。这是历届奥运会举行月份最早的一次。东道主之所以将开幕式选在这一天，是为了纪念希腊反抗土耳其统治起义75周年。
    4月6日下午3时，希腊国王乔治一世宣布了大会开幕。维凯拉斯、顾拜旦等国际奥委会官员出席了开幕式。在开幕典礼中，演奏了一曲庄严的古典弦乐，1958年国际奥委会将它定为奥运会会歌，会歌作曲者为希腊人萨马拉斯，作词者为帕拉马斯。希腊人对这次大会表现了极大的热情，出席开幕式的观众达8万人，这一数字直到1932年洛杉机奥运会才被突破。