高祖武皇帝名霸先，字兴国，乳名法生，是吴兴长城下若里人，汉代太丘长陈定的后人。世代居住在颖川。陈塞的玄孙陈准，做过晋朝太尉。陈准生陈匡，陈匡生陈达，永嘉时朝廷南迁，做过丞相掾佐，太子洗马，后出任长城县令，喜爱当地山水风光，就定居在此。他曾经对亲信的人说：“这个地方山川秀丽，应该有王侯兴起，二百年后，我的子孙肯定有这个好运。”陈达生陈康，又做了丞相掾属，咸和年间整理户籍，所以定为长城人。陈康生盱眙太守陈英，陈英生尚书郎陈公弼，公弼生步兵校尉陈鼎，陈鼎生散骑侍郎陈高，陈高生怀安县令陈咏，陈咏生安成太守陈猛，陈猛生太常卿陈道巨，道巨生皇考陈文赞。
高祖生于梁天监二年癸未岁。年少时就卓异不凡胸怀大志，不参预生计之事。长大以后，攻读兵书，武艺高强，精明通达办事果敢，被时人所推崇敬服。他身高七尺五寸，额头隆起有帝王之相，手长超过膝盖，他曾经游历义兴，住在盏区家中，夜间梦到天空裂开了几丈，有四个穿着朱红衣服的人捧着太阳而来，让高祖张开嘴巴吞了下去，到梦醒时，腹中还是热的，高祖心裹暗自以此自负。
大同初年，新喻侯萧映做吴兴太守，很看重直担，曾看着直担对下属们说：“这个人会有远大的前程。”到萧映任广州刺史，高祖即为中直兵参军，跟随萧映赴任上。萧映让高祖招募兵马，多达千人，又命高祖镇守宋隆郡。其所辖的塞二县头领不顺服，直担征讨降服了他们。不久任西江督护、高要郡守。在这之前，武林侯芦谐任交蛆刺史，因为搜刮财物不得人心，当地人奎童联络几个州的豪杰之士同时造反，朝廷派直业刺史茎周、堑业刺史卢王雄率领军队去攻打他们，逐垣等人没有及时出军，都在广州被正法。卢子雄的弟弟子略和孙同的子侄及主帅杜天合、杜僧明一齐举兵，抓住了直丝督护选题，进兵侵犯卢丛，日夜猛攻，州中人们都十分惊恐。产担带领三千精兵，卷甲兼行赶去营救，接连打了几次胜仗，丝天合被流箭射死，敌兵溃散，杜垣塱就投降了。銮亘逊对此大为惊叹，授予直合将军，封为新安子，食邑三百户，还让画工画下他的容貌以备观看。
这年冬天，芦坠死了。第二年，产殂护送丧柩回都城，到去尘岭，正遇有韶令命尘祖为交州司马，领亘迎太守，和刺史垄蠊征讨南方。直担又广招勇士，准备好精良的军械。杨瞟高兴地说：“能打败贼兵的，一定是陈司武了。”把统筹一切的任务交给他。产担和大军从叠墨出发。这时董垫做宣刺史，两方在酉丝会合，芦垫知道军兵们害怕远征，私下悬赏引诱他们，又狡猾地推卸到扰彊身上。荡堕询问众将有什么对策，高担回答说：“奎皿叛乱，罪过是在王室，才使得几州都混乱失序，达敷年之久。定州又想贪图眼前小利，不顾全大局。您奉皇命讨伐罪臣，本就应当不计生死完成任务，怎么可以害怕宗室的权势，看轻国家的法律?现在如果处事令众人沮丧失望，还何必去交州征讨叛贼，讨伐的军队，如果回去就会受到指责。”于是率领士兵击鼓前进。十一年六月，军队到达交州，李贲领着敷万人在藓历辽口竖起栅栏抵抗官军。杨瞟推举高祖为前锋，所遇之敌无不击溃，李贲逃到典澈湖，在屈遮界建立营寨，大肆兴造船舰，排满湖中，军兵们很害怕，停在湖口不敢前进。高祖对各位将领说：“我们的军队士气已衰，兵将们都很疲劳，长期相互抗衡，恐怕不是好办法。而且孤军深入没有后援，进入人家的腹地，如果不能一战取胜，谁敢指望全身而退。现在藉着他们奔忙未定，人心尚不稳定，遣帮蛮族不过是乌合之众，很容易摧毁，正应该同生共死，拼力打败他们，无缘无故停步不前，时机就去而不复返了。”众将都沉默不语，没人回答。这天晚上江水突然涨起七丈，注入湖中，激流奔腾。高祖率领属下兵卒，乘着水流率先前进，其他各军都击鼓呐喊上前，敌兵大败溃逃，李贲窜入屈獠洞中，屈獠杀了他，将头颅送到京城。遣一年是太清元年。
李贲的哥哥李天实逃进九真，和盗贼首领李绍隆收拾残兵二万人，杀了德州刺史陈文戒，进兵围攻爱州，高祖仍然率领部下征服了他们。授官振远将军、西江督护、高要太守、督七州诸军事。
太清二年冬天，侯景侵犯京城，高祖将要带兵去增援，广州刺史元景仲私下裹有不忠的企图，想要谋害高祖。高祖知道他的计策，和成州刺史王怀明、行台选郎殷外臣等秘密商议严加防备。三年七月，把义兵集中在南海，派兵发送讨伐景仲的檄文。景仲处境艰难，在小门旁自缢而死，高祖迎接董勃镇守庐州。遣时临贺内史欧阳憔监管衡州，兰裕、兰京礼煽动诱惑始兴等十个郡一同起兵攻打欧阳顿，欧阳憔向萧勃求援。萧勃命令高祖率兵去营救他们，把兰裕等人全都抓获，仍然监管始兴郡。
十一月，高祖派杜僧明、胡颖带领二千人驻扎在岭上，并且厚礼结交始兴郡的豪杰之士共同谋划义举，侯安都、张偬等人率兵千余人来投靠。萧勃听说此事，派钟休悦劝说高祖道：“侯景骁勇雄猛，天下没有敌得过他的人，前次的十万援军，虽然兵强马壮，也没有敢抵挡其锋芒的，于是才让羯贼意图得逞，你祇凭很少的人马，想要怎么样呢?听说大庾岭北面王侯又作鼎沸之状，河东、桂阳相继杀戮，邵陵、开建互动干戈，李迁仕投身于当阳，就失去了兵马器械，你是疏远的外臣，怎么可以胡乱投靠?不如先驻守始兴，在远方大张声势，保住这片太山，为自己谋求福分。”高祖哭着对钟休悦说：“我本来平庸无能，蒙受国家的恩典成就功业。从前听说侯景渡长江，就想去增援，碰上元景仲、兰裕的事，在半道中阻碍了我。现在京城已经失守，皇上蒙受了耻辱，君主受辱臣子应以死相报，谁敢吝惜自己的生命?侯爷是宗室之亲，责任重如山岳，却不能远征万里击败敌军，使这令人痛心的冤仇得到洗雪，现在派出的一支军队，尚且比我强，又发下后来的命令，使人慨叹。我的计划已经决定，随您去向侯爷报告。”就派使者从小路去江陵，接受调度军队的命令。逭时蔡路养起兵占据南康，萧勃派心腹谭世远做曲江县令，和蔡路养联合，共同遏制义军。大实元年正月，高祖从始兴出发，驻军大庾岭。蔡路养出兵驻扎在南野，依傍山水建起四座土城以抵挡高祖。高祖和他们开战，大败敌军，蔡路养脱身逃走，高祖进驻南康。湘束王秉承皇上旨意授予高祖员外散骑常侍、持节、明威将军、交州刺史，改封南野县伯。
六月，高祖修缮崎头古城，迁居于此。高州刺史李迁仕占据大皋，派主帅杜平虏率领一千人进入滑石、鱼梁，高祖命令周文育领兵击退他们，奎迁丝逃到空整。秉承皇帝旨意授予产担通直散骑常侍、使持节、信威将军、豫州刺史，领豫章内史，改封长城县侯。不久授散骑常侍、使持节、都督六郡诸军事、军师将军、南江州刺史，其他依旧。当时宁都人刘蔼等资助李迁仕船只兵器，将要偷袭南康，高祖派杜僧明等人领兵二万占据，建筑城墙防御他们，李迁仕也建立城池和他相对峙。二年三月，杜僧明等人攻陷了奎迁丝的城池，活捉奎迁丝送到亩尘，直趄将他斩首。秉承皇帝旨意命高祖进兵平定江州，又授江州刺史，其他如故。
六月，高祖从南康出发。南康泼石从前有二十四处险滩，滩中有许多巨石，行路的人都颇感艰难。高祖出发时，河水突然涨起几丈高，三百里以内的巨石都没入水中。进兵驻扎在西昌，在水边出现了一条龙，高约五丈，色彩鲜艳夺目，军兵百姓观看的有数万人。这时秉承皇上旨意派遣征束将军王僧辩都督各路军队征讨侯景。八月，王僧辩驻军在湓城，高祖率领杜僧明等军队同南川豪帅总计三万人要会集于此。当时西军缺少食物，高祖事先贮藏有军粮五十万石，这时就分出三十万石资助他们。仍然驻扎在巴丘。碰上侯景废了简文帝，立了豫章嗣王萧栋，高祖派兼长史沈衮奉表在江陵劝进。十一月，秉承皇上旨意授予高祖使持节、都督会稽东阳新安临海永嘉五郡诸军事、平束将军、东扬州刺史，领会稽太守、豫章内史，其他都依旧。
三年正月，高祖率领披甲兵士三万人，带着五千张强劲的弓弩、二干艘战船，从豫章出发。二月，驻军桑落洲，派遣中记室参军江元礼向江陵上表报告此事，秉承皇帝旨意加高祖一部鼓吹。遣时王僧辩已经从湓城出发，在白茅湾和高祖会合，于是上岸筑坛，杀牲口定下盟约。进军驻扎芜湖，侯景的城主张黑弃城逃走了。三月。高祖和各路军队攻破姑熟，又驻扎在蔡洲。侯景登上石头城了望形势，很不高兴，对身边的人说：“这支军队上空有紫色的云气，不容易抵挡。”就用小船装上石块沉入水中堵塞淮河河口。沿着淮河筑起城墙，从石头到青溪的十多里中间，城楼相互连接。诸位将领都没有主意，王僧辩派杜则向高祖询问计策，高祖说：“从前柳仲礼几十万兵众隔水驻守，韦粲在青溪，竟然不渡河上岸，敌军登高了望，内外情势都看全了，就肆意行凶，使我朝廷军队全军覆没。现在围住了石头城，必须渡到北岸。如果各位将领不能抗其锋锐，请让我先去树立营栅。”高祖就马上到石头城西横土岗上修筑栅栏，其他军队依次连着八城，直奔东北进军。
敌兵害怕西州的路途被截断，也在东北方果林建筑了五城来遏制大路。侯景率领一万多人、铁甲战马八百多匹，结成大阵冲锋。高祖说：“兵书上说，善于用兵的人，好像常山的蛇，首尾相互照应。现在我们的人多，敌兵人少，应该分化敌兵的力量，以弱势遏制强势，为什么要让他们聚集起精锐部众，使他们一定要与我们拼死作战呢?”于是命令各位将领分开在各处安置兵马。敌军直接向王僧志冲击，王僧志率部稍稍后退，高祖派徐度带领二千弓弩手截断敌人后路，敌兵就退却了。高祖和王琳、杜宠等人率铁甲骑兵尽力追击，敌军退守他们的营栅。侯景的仪同卢辉略开了石头城北门来投降。荡主戴冕、曹宣等人攻下了果林一座城，其他军队又攻下四城。敌军返回，展开殊死的战斗，又把所有的城栅都全部夺回。高祖非常愤怒，亲自率兵攻打，士兵们跃过栅栏进入营垒，敌兵又四散而逃。侯景和一百多战骑扔掉长矛手执单刀，左右冲锋，而军阵难以冲破，侯景的部下大大溃败，追逐败军追到西明门。侯景到了宫阙之下，不敢进入禁城，派遣心腹之人接取他的两个儿子逃跑。高祖率领兵士出广陵去接应，正碰上侯景的部将郭元建投奔齐，高祖收降了他的三千人马回来。王僧辩请高祖镇守京口。
五月，齐派遣辛术在秦郡围攻严超达，高祖命令徐度领兵帮助他坚守。齐的七万军队，填平沟谷，堆起土山，穿凿地道，攻打得很猛。高祖就亲自率领一万人前去解围，放开兵马四面袭击齐军。弓弩不停地发射，齐的平秦王被流箭射死，又斩下敌兵敷百人的首级，齐人便撤兵了。高祖整顿部队班师南归，派记室参军刘本仁向江陵报捷。
七月，广陵的侨居百姓朱盛、张象偷偷地组织人马袭击齐的刺史温仲邕，派使者来报告消息，高祖率领部队渡过长江接应他们。正碰上齐人遣使来访，要求割让广陵地方，王僧辩许诺了他们，并报告给高祖，高祖便率军退回南徐州，江北的人随着军队南迁的有一万多。秉承皇帝旨意授高祖使持节、散骑常侍、都督南徐州诸军事、征北大将军、开府仪同三司、南徐州刺史，其他都如故。等到王僧辩率部队去湘州征讨陆曲，秉承皇帝旨意命产祖代为镇守扬州。十一月，湘束王在江陵即位，改大实三年为承圣元年。湘州平定，高祖随即镇守京口。三年三月。高祖之位进为司空，其他依旧。十一月，酉魏攻陷了堰，直担和王乸等人进言退守江州，请晋安王以太宰身份总理朝政，又派长史谢哲上书劝进。十二月，晋安王从寻阳到京城，入住禁宫，赐给高祖班剑仪仗二十人。四年五月，齐送还贞阳侯萧深明执掌社稷，王僧辩接纳他，贞阳侯即位，改年号为天成，立晋安王为皇太子。当初，齐人请梁接纳贞阳侯时，高祖认为不妥，派使者与王僧辩力争，往返好几次，王僧辩始终不听从。高祖常常愤慨叹息，秘密地对亲信人说：“武皇虽然是像磐石一样不可改易的宗主，声气遗传于四海，但说到为国雪耻，拯救困苦，衹有孝元能做到，他的功业很大，是历代都没听说过的。我和王公都受了朝廷重托，先皇的语音还在耳边回响，哪料到今天竟有不测的图谋。嗣主是高祖的孙儿，元皇的儿子，海内众人瞩目，天下万人归心，有什么过错竟然遭到废黜，现在却从遥远的夷族求回王子，设立君主失掉了先后之序，看到这样的情形，也就知道将来的命运了。”就秘密地准备了几千件衣袍和绸缎金银等，作为赏赐用品。九月壬寅日，高祖召集徐度、侯安都、周文言等人谋划，又按部排列将士，分别赏赐金银丝帛，从水陆两路一齐进发。这天夜间从南徐州出发征讨王僧辩。甲辰曰，高祖率军步行到石头城前，派勇士从城北攀墙而入。当时王僧辩正在办事，外面报告说有敌兵。很快兵士就在城裹出现了，僧辩连忙逃走，和他的第三个儿子王憔遇见了，都出了小门，旁边还有几十个人，苦苦相战。高祖率领大队人马很快就到了，僧辩寡不敌众，逃跑登上了城南的门楼，高祖藉着风放起火，僧辩无路可走，就被擒获。这天夜裹吊死了王僧辩和王颔。丙午日，贞阳侯让位，百官尊奉晋安王上表劝他登临帝位。十月己酉日，晋安王即位，改承圣四年为绉泰元年。壬子日，韶令授高祖侍中、大都督中外诸军事、车骑将军、扬南徐二州刺史，持节、司空、班剑、鼓吹都如故。仍然令高祖带甲仗一百人，可随意出入宫廷与台省。