武则天通天元年（公元六九六年），建安王武攸宜率军北伐契丹。三十五岁的陈子昂第二次从军，担任随军参谋，帮助出谋划策。武攸宜没有什么谋略，前锋打了败仗。陈子昂几次向他献计，甚至自告奋勇，请求率领一支万人的军队为前锋出击。武攸宜不仅不允，而且把他降为军曹。
由于抱负不能实现，陈子昂悲愤填膺，惆怅不平。当时，军队驻在燕地，他登上古老的幽州台，不禁想起了古代燕昭王重用大将乐毅的历史往事。
乐毅的祖先是魏国人，后来居住在赵国。他从小爱好兵法，成人后在赵国当武将。因赵国发生内乱，到魏国去当官。公元前三○八年，魏王派他出使燕国。燕昭王见他很有才能，便请他留下。乐毅早就听说昭王礼贤下士，便决定留在燕国。后来乐毅率军击破齐国，先后攻下七十多城，立下赫赫战功。有人嫉忌他，在昭王面前攻击他有野心。昭王不听谗言，把搬弄是非的奸臣杀了，从而使乐毅更效忠于他。
陈子昂吊古伤今，不由得悲愤地唱出了《登幽州台歌》：“前不见古人，后不见来者。念天地之悠悠，独怆然而涕下。”
后来，陈子昂被解职回乡，为一个县令所诬，投入监狱，忧愤而死。死时年仅四十一岁。