1939年，作曲家郑律成在延安抗日军政大学结识了诗人公木，两人合住一个窑洞，很快就成了好朋友。有一次，二人一块去看望诗人光未然，受到触动。回去的路上，郑律成对公木说：“你是从前方来的，经历过战地生活，让我们携手合作，为八路军歌唱吧！”经过商议，二人决定创作8首歌曲，组成《八路军大合唱》。

公木不到一周时间，就写完了《八路军军歌》《八路军进行曲》《子夜岗兵颂》《快乐的八路军》《骑兵歌》《炮兵歌》《军民一家》《八路军和新四军》8首歌词。每写完一首，就交给郑律成看。郑律成则对每首歌曲提出独特要求：《骑兵歌》要有马蹄前进的“嘚嘚”声；《炮兵歌》要有震天响的气势；《八路军进行曲》要长短相间、寓整于散、韵律和谐、节奏响亮，中间还要插入三个四字短句，公木都一一作了修订。

郑律成谱曲时，用手打拍子哼唱找感觉。有时绕着屋中摆放的一张白茬桌子转圈，有时干脆跑到山坡上去创作。有一次，郑律成从山上回来，公木发现他手流血了。原来，郑律成用手击打石子找节奏，边想边敲，不小心敲破了手指。

1939年冬，《八路军大合唱》在延安中央大礼堂首演，震撼了无数观众。词曲气势磅礴、坚毅豪迈、热情奔放，人民军队勇往直前、无坚不摧的革命精神跃然而出。尤其是威武雄壮的《八路军进行曲》，成为鼓舞抗战将士英勇奋战的号角。

抗战胜利后，《八路军进行曲》的曲谱一直保留原样，只是歌词作了部分修改，并更名为《人民解放军进行曲》，继续在解放战争中发挥战斗歌曲的威力。

开国大典上，《人民解放军进行曲》被列为演奏曲目，回响在天安门广场上空。1988年7月25日，该曲被中央军委确定为中国人民解放军军歌。（王剑）