东京奥运一共有个代表团参加，绝大部分是代表自己的国家，或者是地区，但其中也有极少数几个代表团，因为各种不同原因而不能使用自己国家或地区的名字参加比赛。国际奥林匹克委员会（InternationalOlympicCommittee）在世界各地一共有个受到承认的国家奥林匹克委员会（NationalOlympicCommittee），负责在一个国家或地区开展奥林匹克运动。
这个国家奥委会包括个联合国成员国，1个联合国观察员（巴勒斯坦），2个非联合国成员国或地区（科索沃和台湾），再加上4个美国海外属地，3个英国海外属地，1个中国特别行政区，1个荷兰王国自治国和1个与新西兰维持自由联合的自治国。本届奥运的参赛队伍当中，上述个国家奥委会除了朝鲜因为新冠疫情而决定不参加本届奥运之外，其余的个国家或地区都参加，另外再加上一个奥林匹克难民代表团，代表团总数仍为个。
一、俄罗斯奥委会
因为俄罗斯此前违反药检规定而遭到国际奥委会制裁。在本届的东京奥运会上，俄罗斯选手只能以“ROC”（俄罗斯奥委会，RussianOlympicCommittee）为名参赛，也只能使用俄罗斯奥委会的旗帜。如果有俄罗斯运动员取得金牌，颁奖典礼期间也不能按惯例播放俄罗斯国歌，而是使用俄国作曲家柴可夫斯基的《第一钢琴协奏曲》代替。国际奥委会还规定，俄罗斯选手比赛服装可以使用俄罗斯国旗的红、蓝、白三种颜色，但不能出现俄罗斯国旗或俄罗斯名字，也不能使用俄罗斯奥委会全名，而只能使用缩写“ROC”。
二、难民代表团
另一个无法以自己名字参赛的队伍就是奥林匹克难民代表团。奥林匹克难民代表团在年正式成立，“象征全世界所有难民的希望，并让全世界人民更加了解难民危机”。上届里约奥运，一共有10名运动员以难民代表团参赛，包括埃塞俄比亚，南苏丹，叙利亚等多个国家。本届东京奥运，一共有29名运动员以难民代表团身份参赛，包括来自于叙利亚、伊朗、南苏丹、阿富汗等11个国家的运动员。这29名来自11个国家的难民运动员，分别在13个避难国家进行训练，他们获得国际奥委会的奥林匹克难民运动员奖学金（OlympicScholarshipsforRefugeeAthletes）赞助经费。