旧中国参加历程：
1924年5月，法国巴黎第八界奥运会
中国有3名自行去参赛的网球选手，参加了这届奥运会的网球表演比赛，尽管他们在预赛时即被淘汰。但这却是中国人首次出现在奥运会的赛场上。
1928年5月，荷兰阿姆斯特丹第九界奥运会
中国这次派了观察员宋如海出席。当时正在美国斯普林菲尔德学院留学的宋如海受中华体育协进会的指派，由美国乘船前往荷兰，出席了赛会。这是中国首次正式派人参与奥运会。
1932年7月，美国洛杉矶第十界奥运会
中国代表团共6人，分别为刘长春、沈嗣良、宋君复、刘雪松、申国权、托平，但运动员仅刘长春一人。刘长春原拟参加3个短跑项目，因旅途劳顿，放弃了400米跑，在100、200米预赛中，分列第五、六名，遭淘汰。此次参赛开创了中国参加奥运会比赛的历史，对中国体育的发展影响深远。
1936年8月，德国柏林第十一界奥运会
中国共派出69名运动员（男67人，女2人）参加了田径、游泳、举重、拳击、自行车、篮球和足球6个大项的比赛，除符保卢一人通过撑杆跳高及格赛（决赛中也被淘汰）外，其余均在预赛中遭淘汰。另外还派了一个武术表演队（男6人，女3人）和一个体育考察团（男35人，女2人）。这个考察团曾赴包括德国在内的一些欧洲国家考察。中国运动员尽管在正式竞赛项目中战绩不佳，但武术表演令西方人看得发呆，特别是双人对练深受观众欢迎。
第十二界、第十三界因世界大战取消。
1948年7月，英国伦敦第十四界奥运会
中国派出了33名男运动员参加了篮球（10人）、足球（18人）、田径（3人）、游泳（1人）和自行车（1人）共5个项目的比赛，未能取得名次。其中足球比赛参赛的共有16队，中国队首轮便以0－4负于土耳其队而早淘汰。篮球队在预赛中3胜2负，在落选赛中2胜1负，在全部23队中名列第18。游泳选手、印尼华侨吴传玉在100米自由泳比赛中落选。荷兰华侨、自行车选手何浩华在1000米争先赛中因摔伤而落选。
新中国参加历程：
1952年，芬兰赫尔辛基第十五界奥运会
新中国成立之后，原中华全国体育协进会改为中华全国体育总会，并行使中国奥委会的权利。但在本届奥运会之前，新的中国奥委会未得到国际奥委会的承认。由于已与新中国建立外交关系的芬兰政府及其他友好国家的努力，新中国在本届奥运会开幕前的国际奥委会第48届年会上终于取得了参加本届奥运会的资格。新中国代表团一行40人赶到赫尔辛基时，大会已进行了10天，故而只赶上男子游泳的1项比赛和最后的闭幕式。当时大概没有人意识到，这支迟到的队伍日后将会成为奥运舞台上的劲旅。
1956年11月，澳大利亚墨尔本第十六界奥运会
1954年国际奥委会雅典年会中以23:21的票数承认了中华全国体育总会为中国奥委会，但同时却保留了台湾的所谓“中华民国奥委会”，开了在一个国家中承认两个国家奥委会的先例。国际奥委会后来又作出允许这两个奥委会同时参加第16届奥运会的决定，并规定两个代表团使用的名称一个是“台湾中国”，一个是“北京中国”。
新中国奥委会始终坚持一个中国的政治立场，坚决反对国际奥委会搞“两个中国”的阴谋，在得知国际奥委会允许台湾参加这届奥运会时，立即致电国际奥委会表示抗议，并明确表示：如果允许台湾参加，新中国将拒绝参加本届奥运会。11月17日，国际奥委会执委会讨论中国问题，后来统一了意见，即：以政治为理由的抗议，都不予理会。有的委员甚至建议中国应像民主德国、联邦德国一样能联合组队。结果可想而知，台湾体育组织被邀请参加比赛，中华全国体育总会于1956年1月发表声明，强烈抗议国际奥委会分裂中国的做法，并宣布拒绝参加第16届奥运会。
1960年8月，意大利罗马第十七界奥运会
鉴于国际奥委会的少数人坚持“两个中国”的政策，中国奥委会于1958年8月19日宣布退出国际奥委会，故自本届奥运会起，中国中断了对奥运会的参与。
1964年10月，日本东京第十八界奥运会
中国继续拒绝参与奥运会。