1971年7月,叶剑英受毛泽东、周恩来委托,主持接待秘密来华访问的美国总统国家安全事务助理基辛格。1972年参加接待先后来华访问的美国总统尼克松和日本国总理大臣田中角荣。1973年,又协助周恩来接待第二次来访的基辛格。他为建立中美、中日外交关系作出了重要贡献。1973年8月,在党的十届一中全会上,他当选为党中央副主席。1974年1月,叶剑英受毛泽东、周恩来委托,同邓小平一起指挥西沙自卫还击作战,收回了被侵占的岛屿。
1975年1月,在四届人大第一次会议上,他被任命为国防部长。6、7月间,叶剑英和邓小平一起,主持召开了具有重要历史意义的军委扩大会议。他在会上就国际形势、压缩军队定额、调整编制体制、安排超编干部等问题作了重要讲话。会议前后,他同许多高级干部谈话,向他们通气,讲了毛泽东对“四人帮”的严厉批评,揭露江青等人背著中央,插手军队的阴谋活动。在他主持下,对全军二十几个大单位的领导班子进行了调整配备。这些为后来粉碎江青反革命集团,稳定军队与全国形势,创造了重要条件。1976年,在所谓“反击右倾翻案风”运动中,叶剑英再次被中止了领导工作。1976年,周恩来、朱德、毛泽东相继逝世,江青反革命集团加紧进行篡夺党和国家最高领导权的阴谋活动。10月,在党和国家面临危险的紧急时刻,叶剑英和党中央政治局其他同志一道,根据政治局多数同志的意见,代表党和人民的意志,毅然粉碎了江青反革命集团,从危难中挽救了党。在这场关系著党和国家命运的斗争中,叶剑英起了决定性的作用。
粉碎江青反革命集团之后,叶剑英高瞻远瞩,排除阻力,力主请邓小平、陈云等久经考验的老一辈革命家立即出来担任党和国家的领导工作,主张明确肯定“天安门事件”为革命运动,尽快平反一切冤假错案。1977年3月,叶剑英再次主持军委日常工作。他以极大的魄力,领导全军清除林彪、江青反革命集团的流毒和影响。7月31日,他在中共中央、国务院、中央军委召开的庆祝建军五十周年大会上发表重要讲话,回顾了我军五十年的光辉历史,全面系统地论述了毛泽东军事思想,提出了我军在新的历史时期的任务。8月,在党的十一届一中全会上当选为中央副主席。1978年3月5日,在五届人大第一次会议上,当选为人大常委会委员长。他在这次会议的解放军代