1937年，“八·一三”事变爆发，日军加紧了对长江流域的攻势。上海遭日军轰炸后，满目疮痍。1937年8月8日，在上海的文庙，成百上千的群众从四面八方汇集过来，首次唱响一曲名为《大刀进行曲》的炮火战歌。

　　《大刀进行曲》又名《大刀向鬼子们的头上砍去！》，节奏铿锵有力，语言简单炽热，再现了当时白刃格斗的二十九军大刀队勇守喜峰口英勇事迹。

　　“九·一八”事变后，日军逐渐占领东三省，他们气焰嚣张并逐步将侵略范围向南推进。为了守住长城上的一个重要军事关隘——喜峰口，前来支援的二十九军决定后方突袭，所有战士手持大刀夜袭日营，取得大胜。1933年喜峰口大捷之后，二十九军将领宋哲元特意写了“宁为战死鬼，不做亡国奴”“有进无退，死而后已”的条幅，立即被多家报纸制版刊载，成为传遍全国的壮语，更激励了全国的抗日热情。4年后，“卢沟桥事变”中二十九军大刀队可歌可泣、奋勇杀敌的英雄事迹再次传遍祖国各地。作曲家麦新当时23岁，1933年二十九军及其大刀队在喜峰口长城奋勇杀敌的事，他也曾听说过。大刀在卢沟桥再次扬威的事迹一传到上海，就让年轻的麦新热血沸腾，彻夜不眠，一气呵成创作了《大刀进行曲》这首不朽的时代战歌。

　　“《大刀进行曲》首次唱响正是在现在的上海文庙，当年的上海市民众教育馆。”84岁的顾延培告诉记者。顾延培是原上海市南市区文化局副局长，长期研究上海老城厢的历史、民俗。

　　顾延培在上海文庙一边“扮演”23岁的作曲家麦新，一边向记者还原78年前的那天——

　　麦新走上文庙大成殿前的石露台上，大声说：“同胞们，在音乐大会正式开会前，由我指挥几天前创作的歌曲《大刀进行曲》好吗？”“好！”群众高声响应。于是麦新拿起指挥棒指挥千余群众高唱：“大刀向鬼子们的头上砍去……”群众唱了一遍又一遍，越唱越激昂。有人喊：“麦新，我们看不见你的指挥！”麦新就一步跨上石栏杆，站在上面指挥。

　　群众唱得更有劲，而麦新的指挥也更有力。突然，指挥棒折断了，麦新丢了指挥棒，干脆用双手指挥。群众唱到最后，情绪更高涨，并呼喊：“冲啊！”“杀！”事后，麦新根据试唱效果和大家的意见，对《大刀进行曲》作了修改，把原词中的“二十九路军的弟兄们”，改成“全国武装的弟兄们”；把“咱们二十九军不是孤军”，改成“咱们中国军队勇敢前进”等。这样一改，这支歌的概括力更大、战斗力也更强了。

　　此后，著名剧作家田汉将《大刀进行曲》录制成唱片，使之广为流传。