На летните олимпийски игри спортистите се състезават в много спортове, включително художествена гимнастика. Тази дисциплина присъства в състезателната програма от първата Олимпиада през 1896 г. в Атина.
Художествената гимнастика е един от спортовете, който може да донесе много медали на определен спортист и национален отбор. Съвременната програма на Олимпийските игри предвижда връчването на 14 комплекта награди. Мъжете се състезават за получаване на награди в абсолютното първенство, отборно състезание, упражнения на пода, свод, успоредки, пръстени, упражнения за кон и напречна греда. При жените последните 4 черупки заместват неравномерните пръти и труп.
На първите Олимпийски игри през 1896 г. се провеждат състезания за мъже само по художествена гимнастика. Повечето отличия - 10 - бяха получени от спортисти от Германската империя. Отборите на Гърция и Швейцария също се представиха добре.
През 1908 г. гимнастички от Руската империя за първи път се представят на Олимпийските игри. Това бяха спортисти от Финландия и те се представиха под името на своята държава, макар и под руското знаме. Финландският отбор спечели бронз в отборната надпревара.
За първи път жените успяха да участват в състезания по художествена гимнастика като част от Олимпиадата през 1928 г. в Амстердам. Тогава те бяха допуснати само до отборното състезание. Сред женските отбори националният отбор на Холандия зае първо място.
През 1952 г. състезателната програма се разширява значително. По-специално започна да се провежда абсолютен шампионат сред жените, както и състезания на индивидуални апарати. Олимпиадата в Хелзинки беше триумф за съветските гимнастички. Това беше първият им път на олимпийски игри. В резултат на това спортистите от СССР спечелиха 22 медала, включително злато в мъжкия и женския отбор и абсолютни първенства.
На следващите игри успехът на съветските спортисти се повтори. Като част от съветския отбор Лариса Латинина, гимнастичка, която получи най-много олимпийски медали в цялата спортна история, започна своите изяви.
От 60-те години програмата на състезанията по гимнастика практически не се е променила. Въведени са обаче нови изисквания за спортисти. От 90-те години насам момичетата на възраст под 16 години нямат право да се състезават, въпреки че има случаи на медали на възраст от четиринадесет години.
Успехите на Русия в сравнение със Съветския съюз в този спорт станаха по-скромни. Все пак има надежда ситуацията да се изравни с идването на ново поколение млади спортисти в големия спорт.