不久，黄永胜一伙又制造了“广东地下党”冤案，受到诬陷迫害的人达7200多。其中包括我党早期著名农动领袖彭湃烈士的母亲、儿子以及烈士的侄儿、堂弟、堂侄等。
黄永胜进京不久，就主持总参党委扩大会议，在会上说：“总参出了不少坏人，有黄克诚、罗瑞卿、张爱萍、王尚荣，现在又出了杨成武”。12月25日，他在听取总政军管小组汇报时说：“你们要交待政策，利用矛盾，分化瓦解，各个击破”，“总政是水浅王八多”。
在此期间，黄永胜以总参谋长和军委办事组组长的身份，秉承林彪旨意，成立材料组，罗织罪名，并且停发军委几位副主席的文件，收缴中央军委的全部印章。他在总政制造冤案792起，受诬陷迫害的达839人，其中军以上干部52人。
与此同时，黄永胜在林彪的指使下，歪曲历史事实，诬陷聂荣臻是“华北山头主义”后台，11月又说：“每一个大转折总有些人出来反对主席的正确路线……聂荣臻这一辈子也没有干什么好事。这些人是不会死心的，一有适当的气候就会起来搞名堂。”
1968年5月，黄永胜在对贺龙专案组人员讲话时，大肆鼓动说：“贺案很重要，他是大土匪，大军阀，大阴谋家。这案很大，面很宽，有很多人，要在这个基础上继续努力。搞案子本身就是一场阶级斗争，要把埋在身边的定时炸弹挖出来，要猛打穷追，要团结一致，共同对敌……”并扣压了贺龙元帅写的8封申诉信。
最惨无人道的是1968年8月，黄永胜与吴法宪召集罗瑞卿专案组开会，传达林彪诬陷“罗瑞卿是罪大恶极的反革命分子，十分狡猾，可恶至极”。他还在原罗瑞卿专案组写的一个关于推迟罗瑞卿手术治疗的报告上批示“同意”，赞同对罗瑞卿进行不间断的审讯和斗争，待秋后再动手术。这使将军的左腿失去了安装假肢的可能，在精神上和肉体上受到了极大的摧残。在处理彭德怀一案中，黄永胜也起到了推波助澜的作用……
[歪批一句]看来常发同志的那些旧军队恶习多多少少也是他上面这位风流大将军给“惯”出来的。
