晋成帝咸和三年（公元三二八年），镇守历阳的将领苏峻和镇守寿春的将领祖约，以诛杀辅佐成帝的中书令庾亮为名，率军攻入都城建康，专擅朝政。
在这危急时刻，担任江州刺史的温峤挺身而出和逃到他那里的庾亮共推征西大将军荆州刺史陶侃为盟主，起兵讨伐叛军。由于叛军势众，又挟持了成帝，陶侃接连打了几个败仗。不久，军粮也发生了困难。
由于战争一再失利，陶侃产生了畏惧心理，信心不足。他责备温峤说：“起兵时，您说要将有将，要粮有粮，只要我出来当盟主就行了。可是现在将在哪里？粮在何方？如果粮食再接济不上，我只能带领本部人马回老家去了，待到以后条件具备后再干。”
温峤反驳说：“您的看法不对。战胜叛军最要紧的是靠队伍自身的团结。当年刘秀、曹操所以能以寡敌众，因为他们是正义之师。苏峻、祖约这帮家伙欺世盗名，有勇无谋，我们定能战胜他们。现在皇上蒙难，国家正处在危急关头，我们仗义讨伐逆贼，决不能改弦易辙。就好比骑在猛兽身上，不把它打死，怎么能半途下来呢！如您违背大众意愿，独自带兵回老家，必然会影响士气。使讨伐失败。这个罪责您是推卸不了的！”
陶侃听了温峤这席话，觉得很有道理，只好打消回老家的念头。接着，温峤和他仔细地商讨了作战计划。从水陆两路进攻叛军。温峤又亲自率领一支精壮的骑兵，突然袭击叛军。最后讨伐终于取得胜利，苏峻被杀，祖约逃到别处后也被杀死。