1931年4月云丰申庄倒闭后，聂耳考入明月歌舞团当乐队练习生。歌舞团负责人黎锦晖让团里的乐队首席王人艺帮助聂耳提高声乐和琴艺。8月底，王人艺离开歌舞团后，经人介绍：聂耳得以直接向王人艺的老师、奥地利籍小提琴家普杜什卡学琴。由于工资低，还要交学费，他有时不免要靠当掉衣物来应付。一次，聂耳由于衣衫单薄而受寒患了重症感冒，朋友们都劝他暂停练琴，好好休息，但他仍坚持清晨6时起床，在进行所谓“体育疗法”，锻炼得一身大汗后接着练习，一天也没有停止。这段时间，聂耳还十分勤奋地学习各种音乐理论知识，研究各地的民歌、戏曲，钻研和声学、作曲法，研究汉语声韵学，同时开始学习音乐创作。
在坚持刻苦自学的同时，聂耳也一直渴望进入音乐院校学习深造。1932年8月，他辞去工作到北平报考了国立北平大学艺术学院，但未被录取。不过，经朋友介绍，他找到曾经是冼星海老师的俄籍小提琴教授托诺夫学习了一个月的小提琴。1934年，他又报考上海国立音专，再次被拒之门外。他只得继续坚持自学。这年8月起，经贺绿汀介绍，他又开始向国立音专的俄籍教授阿萨科夫学习钢琴和作曲。
聂耳最终没有能够进入音乐学府深造，他依靠自己的勤学苦练和不懈的追求，终于成为一位自学成材的音乐巨人。
投身左翼文化运动，开创新兴音乐道路
聂耳到上海云丰申庄后，很快得到了三哥聂叙伦未婚妻的叔父、中共地下党员郑易里的关照。郑易里不但给聂耳生活和学习上的照顾，更给以思想上的帮助。不久，经郑易里的朋友介绍，聂耳加入了党领导的进步群众组织“上海反帝大同盟”。“九一八”和“一二八”事变相继发生后，抗日军民的爱国热情促使聂耳进一步思考自己的人生道路。他在1932年2月7日的日记中写道：“一天花几个钟头苦练基本功，几年、几十年后成为一个提琴名家又怎么样?……能够兴奋起、可以鼓动起劳苦群众的情绪吗?”聂耳告诉自己：“此路不通!早些醒悟吧!”为了寻求正确的前进方向，他开始探索“怎样去做革命的音乐”?
1932年4月，聂耳有机会结识了左翼戏剧家联盟负责人、中共上海中央局文化工作委员会成员田汉。聂耳向田汉谈了对时局和文艺界一些问题的看法及开创新兴音乐的想法，表达了对党的认识和把青春才华贡献给党的决心。田汉从思想上给了聂耳不少的鼓励和帮助，介绍聂耳加入了左翼剧联的剧评小组。据田汉后来回忆，那次谈话，聂耳给他留下非常深刻的印象。从此，聂耳开始更加自觉地将自己在音乐上的发展与革命进步事业紧紧联系在一起，在艺术理论和音乐创作中，开创新的道路。
明月歌舞团的负责人黎锦晖，是中国早期的音乐家，儿童歌舞音乐和歌舞剧的开创者，在推广白话文、普通话(当时称“国语”)和音乐教育等方面都做出过重要贡献，也创作过一些反封建和抗日的歌曲。然而，在国家和民族面临生死存亡的紧急关头，他转而热衷于搞一些与时代格格不入的爱情歌曲和娱乐性歌舞节目到处演出，为舞厅伴舞，造成了很不好的影响。聂耳对此深感不满，在电影评论中以“黑天使”为笔名公开对黎锦晖进行了批评。在题为《中国歌舞短论》的文章中，聂耳首先肯定：在“黎锦晖的作品当中，并非全是一塌糊涂。有的确带有反封建的元素，也有的描写出片面的贫富阶级悬殊”。接着，他尖锐批评了黎锦晖在民族存亡的危急关头仍然鼓吹“为歌舞而歌舞”的错误路线，和为追求票房而迎合低级趣味的作法，明确指出“我们需要的不是软豆腐，而是真刀真枪的硬功夫!”最后，他还向黎锦晖大声疾呼：“亲爱的创办歌舞的鼻祖哟，你不要以为你有反封建的意识便以为满足!你不听见这地球上，有着无穷的一群人在你周围呐喊，狂呼!你要向群众深入，在这里面，你将有新鲜的材料，创造出新的艺术。喂!努力!那条才是时代的大路。”
聂耳写这些文章并不是出于私人成见，但当时却不被黎锦晖及其支持者所理解，反而引起轩然大波。于是，聂耳毅然离开明月歌舞团，只身奔赴北平寻求出路。对此，他在日记中写道：“我是一个革命者，在这样的生活中，已经是该打屁股。”“他们对我不大满时，我实在有一走的必要。”
聂耳于1932年8月到达北平。他的初衷是想考学以提高自己的专业水平，结果是求学的目的未能达到，却在短短的两个月里，经上海左翼剧联去函介绍，热情地参加了北平左翼剧联的排练、演出活动，还应邀为北平剧联机关刊物《戏剧新闻》撰稿，成了北平剧联的活跃分子。一次，他与北平剧联的宋之的、于伶等人参加清华大学毕业同学会为抗日义勇军募捐的演出，聂耳表演小提琴独奏《国际歌》时，主持人上台去阻止，右派学生往台上扔石块，他无所畏惧地坚持演完他的节目。在与北平剧联战友们并肩战斗的过程中，聂耳进一步坚定了把青春献给党的决心，郑重地向于伶表达了加入共产党的愿望。北平剧联党组织认为，聂耳已基本具备了入党条件，但考虑到他在北平没有固定职业，将很快离开北平回上海，就没有为他办理入党手续。聂耳离开北平时，于伶让他带给上海左翼剧联党组织三份材料：一是北平剧联一年来的工作报告;二是聂耳的入党申请及党组织的意见;三是聂耳在北平工作情况的介绍。
1932年11月，聂耳回到上海后，根据党组织的安排进入联华影业公司工作。1933年初，聂耳正式加入党组织，介绍人田汉和监誓人夏衍在联华影业公司的一个摄影棚里，为他秘密举行了入党宣誓。也是在这一年初，
