1939年春，在皖南新四军军部举行的周恩来同志报告会上，会场歌声四起。何士德被点名独唱《歌唱八百壮士》，全场反响强烈。当时，陈毅刚从苏南茅山敌后根据地回来，他又被点名独唱法国《马赛曲》。陈毅回到座位后，感慨地对周恩来说：“我们新四军应当有支歌为好！”周恩来含笑点头说：“好呀！你是诗人，你就写个歌词吧！”陈毅慨然应允了。陈毅当时任新四军军事委员会副书记兼第一支队司令员，时年38岁。他从军部返回苏南后，很快就于3月30日完成了《新四军军歌》歌词初稿，题名《十年》。这是首新诗，共三段35行。主要歌颂新四军及其前身长达10年艰苦奋斗的光荣历程。

　　4月上旬，陈毅派专人把歌词送到了云岭新四军军部，又由袁国平送给项英。项、袁都认为陈毅的词写得不错，但尚有点不足之处。这样，由叶挺、项英主持，组织袁国平、周子昆、邓子恢、李一氓、朱镜我及黄诚等人，对初稿进行了集体讨论。最后大家决定，把原来的三段歌词改为两段；歌名由《十年》改为《新四军军歌》。改动后的歌词更确切地体现出军歌性质，歌词中的光辉奋斗历程更精炼概括，歌词特别突出中央军委为新四军确定的战略方针“东进”等。集体修改稿完成后并未最后定稿。项英强调要等与陈毅同志商讨后再定稿。

南昌新四军军部旧址门口

　　5月陈毅从茅山根据地回到军部，听了大家的意见，基本赞成，并提出了自己的看法。这样陈毅再次执笔，在集体修改稿的基础上进一步精雕细琢，遂成后来的《新四军军歌》歌词。歌词为两段，第一段主要叙述历史和传统；第二段主要讲现实斗争，并突出向敌后进军的行动方针。整首词激情奔放，气势恢宏，流畅洒脱。第一段歌词最后“东进，东进！我们是铁的新四军”和第二段歌词最后“前进，前进！我们是铁的新四军！”重复两遍来结尾，使主题更加鲜活、具体，歌词可谓达到很高的境界。

　　歌词确定后，军部把谱曲的任务交给了教导总队文化队队长、作曲家何士德。当何士德从新四军政治部宣传部教育科长冯定手中接过军歌歌词时，犹如接过千钧重担。因为他知道，他肩负着全军的期待和重托。何士德接受了为《新四军军歌》谱曲的任务。他的住处是一间老百姓的旧式平房，面积不大，而且室内还堆放着许多杂物。墙角有一张破旧的小桌子，那就是他日夜谱曲的工作台。何士德反复认真地研读歌词，寻找灵感，很快以接近民歌的风格谱出第一个曲子。

　　一首首悲壮的革命乐曲就是在这里诞生的。那时部队的生活条件很差，夜里只靠一盏昏黄的菜油灯照明。在为新四军军歌谱曲的那段日子，何士德一入夜就扑在油灯下，一直谱写到深夜。他不止一次地说：“陈司令员写的歌词，属于新诗体，谱起曲来难度较大。歌词的每字每句都很精确，一字也不能改，改了就会损害军歌的主题思想。”那段日子他几乎到了夜不能寐、食不知味的地步。