中国此次派出了包括407名运动员的代表团，其中女运动员269名，男运动员138名。他们参加了除棒球和马术外的其他所有26个大项的比赛，取得了空前出色的战绩，以金牌32枚、奖牌总数63枚的优异成绩一举登上了奖牌榜的第二位，其中奖牌总数列第三位，金牌数和奖牌总数两项指标都创下了中国自参加奥运会以来的单届最高纪录，均超过了在四年前悉尼奥运会上创造的历史最好成绩。而且夺金牌面也达到了历史新高，获得金牌的项目增加至13个大项。

雅典奥运会中国代表团取得了参加历届奥运会以来最好的开局，大会开幕后的第一天，便一举夺下四枚金牌，为整个代表团取得了开门红。杜丽更是在射击女子10米气步枪项目中摘得本届奥运会决出的第一块金牌。这也是中国运动员自1984年洛杉矶奥运会以后，再次获得当届奥运会首枚金牌。随后，从1984年起参加了历届夏季奥运会的老将王义夫又在射击男子10米气手枪比赛中再夺冠军。44岁的他也成为迄今中国夺得奥运会冠军年龄最大的选手和中国第一位相隔12年后还能重夺奥运冠军的运动员。射击队的两枚金牌不仅使中国射击项目在单届奥运会中创纪录地夺取了4枚金牌，而且这两项冠军都是杜丽、王义夫后来居上，从俄罗斯选手手中夺下的，为中国代表团最终在金牌总数上战胜俄罗斯起到了至关重要的作用。

跳水项目是中国在历届奥运会上获取金牌总数最多的项目，本届中国获金牌最多的也仍然是这个项目，取得了6金2银1铜的好成绩，再次捍卫了跳水“梦之队”的荣誉。尤其可喜的是，8位金牌得主中有5位皆是首次参加奥运会的新手，预示着中国在跳水项目上继续保持优势地位的巨大潜力。

举重是中国在历届奥运会上获金牌总数仅次于跳水的又一大优势项目，本届也是如此。中国此次获5金3银共8枚奖牌，金牌数追平了历史最高的上届，奖牌总数则超过了上届。人才济济的中国女队本届派出了与上届完全不同的阵容，但实力依然强大，在所报名的四个项目中斩获3金1银。

中国另两个传统优势项目乒乓球和羽毛球本届虽然遭受了其他代表团选手的有力冲击，但仍然各获3枚金牌，继续保持着领先地位。在乒乓球女子项目中，中国还拥有一定优势，其中张怡宁在女子单打项目中的获胜还使中国奥委会派出的中国体育代表团在历届夏季奥运会上获得的金牌总数达到了100枚。但在男子项目中则已无优势可言，特别是男子单打决赛的失利也使中国自1996年以来，丢失了近三届奥运会以来的第一枚乒乓球金牌。