据《北齐书》记载,《兰陵王入阵曲》源于河清三年(公元564年)邙山战役。此战中兰陵王受命中军将,领五百勇士攻入北周包围圈内,使北齐军队反败为胜。在邙山之战胜利后,北齐皇帝亲到洛阳慰劳三军,庆功会上能歌善舞的北齐将士以这场胜仗为背景创作了歌颂兰陵王的舞乐《兰陵王入阵曲》。
到隋朝时期,被列入宫廷曲目。中唐时期,渐渐娱乐化,失去武乐色彩,成为“软舞”。唐玄宗李隆基定其“非正声”,下诏禁演,以后国内渐渐失传。初唐时的《秦王破阵曲》即根据《兰陵王入阵曲》改编(并扩容成120人的群舞)。南宋时期又演变为乐府曲牌名,称之《兰陵王慢》,有越调和大石调之分。用越调演唱时,分三段,二十四拍,毛开在《樵隐笔录》里说“至末段,声犹激越”,还有“遗声”可寻。而大石调演唱的《兰陵王慢》,则分前后段,十六拍。按王灼《碧鸡漫志》说法,已经“殊非旧曲”了。