杨素因为叛贼还没有消灭干净，怕养成后患，又请求出征。
高祖下诏书表彰了他的功绩，又委任以元帅之职，命令他统管前方军民事务，率领大军，捕拿那些逃散的叛贼。
于是杨素又乘驿车来到会稽。
这之前，泉州人王国庆，本是南安的豪族，他杀死了刺史刘弘，占据泉州叛乱，众多逃亡的叛贼都归附了他。
他自以为海路险阻，北方人不习惯，就没有设置海上防御的队伍。
杨素却偏偏从海上掩袭而至，王国庆惊慌失措，弃州而逃，余党逃散海岛，或者据守山洞。
杨素派人从水陆两路分头追捕，并且暗中叫人对王国庆说：“你的罪状，累计起来处以死刑还不够。
只有斩送高智慧，才可以抵塞罪责。”王国庆于是把高智慧押来，在泉州将其斩首。
其余那些被打散的党羽，也都来投降，江南大为安定。
高祖派遣左领将军独孤陀到浚仪迎接犒赏杨素。
等杨素回到京城，来问候他的人每天都有。
高祖拜杨素的儿子玄奖为仪同，赏赐黄金四十斤，外加一个银瓶，里面盛满了金钱，细绢三千段，马两百匹，羊两千口，官田一百顷，住宅一处。
并且任命杨素取代苏威做了尚书右仆射，和高赹一同执掌朝政。
杨素性情粗疏而口才好，尊卑贵贱都放在心里，朝廷大臣之中，他非常推举高赹，敬重牛弘，深交薛道衡，而对苏威却不屑一顾。
朝中其余的权贵大多被他欺凌。
他的才学、本领、气度、风格比高赹要强；至于用自己的诚心体察国事，处理事情公平适当，有宰相的见识气度，就比高赹差远了。
不久，高祖命令杨素监管营造仁寿宫，杨素指挥平山填谷，督促劳役十分严急，做工的很多都累死了，宫殿旁边经常听到鬼哭声。
仁寿宫修好后，高祖命令高赹前往察看，高赹报告说宫殿修得过于绮丽，损失民工太多，高祖心里颇不高兴。
杨素忧虑惧怕，却想不出什么办法，只好在北门启奏独孤皇后说：“帝王理当有一些行宫、别墅，现在天下太平，我们仅仅修造了这么一座宫殿，哪里就谈得上浪费了呢！”皇后把这番话转告高祖，高祖这才消除了心中的不快，于是赐给杨素一百万钱，三千段锦绢。
开皇十八年(598)，突厥达头可汗进犯边塞。
高祖拜杨素为灵州道行军总管，出塞讨伐，并赐给他织物两千段、黄金一百斤。
这之前，众将和突厥人作战，总是担心胡人的战马横冲直撞，都把战车和步卒骑兵相互掺杂，与形似鹿角的障碍物一起布成方阵，骑兵在方阵之内。
杨素对别人说：“这只是巩固防御的途径，而不是夺取胜利的方法。”于是全部废除了原来的作法，命令诸军布设骑兵方阵。
达头听了非常高兴，说：“这是天助我！”并且下马直拜上天，然后率领精兵十多万攻来。
杨素奋力出击，大败敌骑。
达头受重伤逃走，其余被杀死杀伤的不计其数，幸存者都哭号着逃跑了。
高祖下诏书大大表扬杨素，赏赐给他细绢两万匹，外加一条万钉宝带，加封他的儿子玄感为大将军，玄奖、玄纵、积善一并升为上仪同。
杨素很有随机应变的谋略，总是把握好时机去同敌人作战，他应对情况的变化并不拘泥于一定的方法，而控制军队严厉有序，如果有谁违犯了军令，他就立即斩首，没有宽容的。
每次临战之前，他总是寻找别人的过失而将其杀掉，多时达一百来人，少的时候也不下十来个，血流满地，他仍然谈笑自如。
等到两军对垒，他总是先命令一两百人前去和敌人交战，攻破敌阵倒还罢了，如果没能攻破敌阵而败回来的，不管有多少人，他都一律处死。
然后再派两三百人继续进攻，作法和先前一样。
将士们两腿发抖，害怕至极，认为进退大不了都是一死，因而战无不胜，杨素也因此被人们称为名将。
杨素当时受到重用宠信，他说的话高祖没有不听的。
那些跟随他出征讨伐的人，只要有一点点小小的功劳，就会记载下来，至于跟随其他将军的，即使立了大功，也多被文官所排挤掉。
所以杨素虽然严厉残忍，士兵们还是愿意跟着他。
开皇二十年(600)，晋王杨广为灵朔道行军元帅，杨素为长史。
晋王降低自己的身份交结杨素，后作太子，也是杨素的主意。
仁寿初年，杨素取代高赹做了尚书左仆射。
高祖赏赐给他好马一百匹、母马两百匹、奴婢一百口。
这一年，高祖又拜杨素为行军元帅，前往云州攻打突厥，连连破敌。
突厥逃跑，杨素率领骑兵紧追不舍，到夜里终于赶上。
杨素想再次进攻，又怕敌人分散逃跑，就命令骑兵稍稍跟在后边。
他于是亲自带领两名骑兵和两个投降的突厥人潜入敌阵，同敌人一起前行，敌人没有发觉。
等到敌人停下来，止宿屯驻的地方还没安排好，杨素命令后边的骑兵突然袭击，大败他们。
从此，突厥人逃得远远的，碛南再没有他们的踪迹了。
因为这次的战功，高祖让杨素的儿子玄感进位柱国，玄纵为淮南郡公，并赏赐给他织物两万段。
文献皇后去世后，墓葬的规模制度，大多出自杨素之手。
高祖认为很好，下诏书大大表彰他的功劳，封他的一个儿子为义康郡公，食邑一万户，世代承袭，并赏赐给他良田三十顷，绢一万段，米一万石，金钵一个，装满了金子，银钵一个，盛满了珠宝，外加绫、锦共五百段。
当时杨素一天比一天显贵荣耀，他的弟弟杨约、叔父杨文思、杨文纪以及族父杨异，都是尚书，位列公卿。
诸子虽无汗马之劳，也都官至柱国、刺史。
杨素家童几千人，后院披罗挂绮的乐妓小妾就以千计。
府第华丽奢侈，规模体制摹仿皇宫。
当时有一个叫鲍亨的人，很会写文章，还有一个叫殷胄的，精通草书、隶书，都是江南的读书人，却因为高智慧的缘故埋没为杨素的家奴。
杨素的内外亲戚和过去属下的官吏，都位列清静显要之职。
杨素的显贵，近代无人可与他相比。
炀帝刚做太子的时候，非常顾忌蜀王杨秀，就和杨素谋划陷害他，最后使杨秀被废黜。
朝臣之中如果有违背冒犯他的，即使其非常忠诚地为国事着想，像贺若弼、史万岁、李纲、柳..等，杨素也在暗地里中伤他们。
如果归附奉迎他或者是他亲戚，即使无才可用，他也一定加以推荐提拔。
朝廷内外没有不怕他、不归附他的。
只有兵部尚书柳述凭着自己驸马的身份，多次在高祖面前说杨素的坏话。
大理寺卿梁毗上书高祖，说杨素作威作福。
高祖于是逐渐疏远和猜忌杨素，后来下来力令说：“仆射是朝廷的辅政大臣，不可亲自处理那些细小的事务，只须三五天到官署一次，讨论一些国家大事就行了。”表面上显示对他的尊崇、优待，实际上剥夺了他的权力。
直到仁寿末，杨素不再处理事务。
高祖曾赏赐王公以下的人射箭，杨素名列第一，高祖亲将外国进贡来的金精盘，价值万两，赐给了杨素。
仁寿四年(604)，杨素跟随高祖驾临仁寿宫，高祖又多次赏赐宴席。
等到高祖病重，杨素和兵部尚书柳述、黄门侍郎元岩等人入宫侍候。
当时皇太子杨广住在宫内的大宝殿，怕高祖有什么不好的消息须要预先防备，于是亲自写了一封信，封好送出来问杨素。
杨素记下宫外的形势，来报告太子。
宫人却将回信误送到了高祖的住处，高祖见信大怒。
这时，高祖宠爱的陈贵人又说太子对她无礼。
高祖于是大发脾气，要召见已废的皇子杨勇。
太子与杨素谋划对策，杨素假传圣旨派东宫的士兵入宫守卫，出入都由宇文述、郭衍决定，又命令张衡守候皇上的病情。
高祖就在这天去世了，因此朝廷内外有很多非议。
汉王杨谅谋反，派蠕蠕天保占领蒲州，烧断了河桥，又派王耳冉子率领几万人与他合力防守。
杨素率领五千轻骑前去偷袭，他先隐蔽在渭口，夜间悄悄渡河，黎明时发动进攻，蠕蠕天保大败而逃，王耳冉子因害怕而开城投降。
炀帝下诏书召回杨素。
起初，杨素出发之前就计算过几天可以打败敌人，结果不出所料。
炀帝又拜杨素为并州道行军总管、河北安抚大使，率领几万人讨伐杨谅。
当时晋州、绛州、吕州州城都被杨谅守住，杨素各派两千人去牵制他们。
杨谅命令赵子开拥十余万之众，占领了所有的道路，盘踞在高壁，摆开五十里的战阵。
杨素命令部将带兵正面对敌，自己则率领一支队伍潜入霍山，沿着悬崖深谷前进，直捣叛军老巢，一举击败了他们，杀死杀伤的数以万计。
杨谅所任命的介州刺史梁修罗驻守在介休，梁修罗听说杨素来了，非常害怕，弃城而逃。
杨素继续前进，到达清源，离并州还有三十里。
杨谅率领部将王世宗、赵子开、萧摩诃等将近十万人马，前来迎战。
杨素又打败了他们，活捉了萧摩诃。
杨谅退守并州，杨素进兵包围了他，杨谅无计可施，非常窘迫，只好投降，其余党羽也都一一铲平。
炀帝派遣杨素的弟弟修武公杨约携带亲笔诏书慰劳杨素，杨素见诏后也上表陈述了自己的谢意。
这个月杨素回到京城，跟随炀帝驾临洛阳。
炀帝任杨素为营建东京的大监。
因杨素平定杨谅有功，炀帝拜他的儿子万石、仁行，侄子玄挺都为仪同三司，并赐给他们织物五万段、绮罗一千匹，赐杨谅妓妾二十人。
隋炀帝大业元年(605)，又升杨素为尚书令，赏赐给他东京上等府第一处，织物两千段，不久又拜为太子太师，其他职务不变。
前后赏赐给他的东西不知有多少。
第二年，炀帝拜杨素为司徒，又改封他为楚公，食邑两千五百户。
这一年，杨素死在任上。
谥号叫“景武”，追封他为光禄大夫、太尉公、弘农河东绛郡临汾文城河内汲郡长平上党西河十郡太守，赐给他载丧的鍂车、为他执斑剑的仪仗四十人，以及鍂车前后的仪仗队和乐队，还赐给谷子小麦五千石、织物五千段，派鸿胪卿专门监督办理丧事，并且下诏书表示哀悼。
杨素曾经作了一首共七百字的五言诗送给番州刺史薛道衡，气势非常宏大，风韵出众，堪称一时的上乘之作。
写后没几天，杨素就死了。
薛道衡叹息说：“人快要死的时候，他的话语也变得很友善了，难道就是像这样的吗？”杨素留有文集十卷。
杨素虽然有辅佐高祖建国立业的谋略，并且有平定杨谅的功绩，然而却深为炀帝所忌。
炀帝表面显出对他特殊的礼遇，实际上恩情却很淡薄。
太史官说隋地所属的分野将有重大的丧事发生，炀帝因而改封杨素为楚公，因为楚地和隋地属同一分野，炀帝想借杨素来拦挡遭丧的运气。
杨素卧病在床的时候，炀帝常派一些有名的医生前去诊治侍候，并且赐他许多上好的药品，然而却总在暗地里问医生，总怕他不死去。
杨素知道自己的名望和地位已到了极限，不肯吃药，也不想谨小慎微地活下去了，经常对弟弟杨约说：“我难道还要活下去吗？”杨素依仗自己富足的钱财，广求家产，东西二京他的居宅奢侈华丽，早晨拆毁晚上重建，营造修缮从不停止，在各方的大城市，他的旅店、水磨和肥沃的田地、华丽的房子都以千百来计算。
当时人们议论纷纷，并且因此而瞧不起他。
杨素死后，他的儿子玄感继承了他的爵位，玄感另外有传。
其余几个儿子后来因受玄感的牵连都被杀死。
史臣说：杨素年轻的时候轻生而侠义，洒脱而不受羁绊，兼有文才武略，志向远大，常以立功扬名自期。
高祖初举大事，将要扫清宇内、夺取天下的时候，常把一些关系重大的机密要事托付给他，总是让他承担起协助、辅佐的重任。
他在宇内扫尽妖孽的气焰，使四海之内风平浪静，没有一点波澜；在边疆摧毁敌人矫健的骑兵，迫使匈奴远逃。
推究他铲平凶恶残暴的敌人平定叛乱，有功之臣没有谁能比得过他；看他那些神奇的计策和高妙的文章，堪称一代英豪。
然而他一味地凭借自己的聪明和欺诈自立于世，不走仁义的正道，阿谀奉迎皇上，使皇上的行为有些偏离；修筑建造离宫铺张浪费，使皇上陷于奢侈的名声；策划废除皇上的嫡亲长子，使国家到了快要倾覆的危险境地。
最终使国家破灭，皇家的祖庙变为一片废墟，在市井里每天受到风霜雨露的侵蚀。
探求这祸害衰败的源头，实在是杨素的罪过啊！幸好他死了，而他的儿子又犯上作乱。
他坟上的新土还没有被风吹干，就遭致满门抄斩，坟墓也被挖开，全族的人都被诛死。
这才知道坏事做多了会留下祸害，这话并非瞎说。
不守礼法的事做多了就会殃及自身，指的就是这一类的事啊！
杨素弟约 从父文思 文纪
杨素，字处道，弘农华阴人也。祖暄，魏辅国将军、谏议大夫。父敷，周汾州 刺史，没于齐。素少落拓，有大志，不拘小节，世人多未之知，唯从叔祖魏尚书仆 射宽深异之，每谓子孙曰：“处道当逸群绝伦，非常之器，非汝曹所逮也。”后与 安定牛弘同志好学，研精不倦，多所通涉。善属文，工草隶，颇留意于风角。美须 髯，有英杰之表。周大冢宰宇文护引为中外记室，后转礼曹，加大都督。武帝亲总 万机，素以其父守节陷齐，未蒙朝命，上表申理，帝不许。至于再三，帝大怒，命 左右斩之。素乃大言曰：“臣事无道天子，死其分也。”帝壮其言，由是赠敷为大 将军，谥曰忠壮。拜素为车骑大将军、仪同三司，渐见礼遇。帝命素为诏书，下笔 立成，词义兼美。帝嘉之，顾谓素曰：“善自勉之，勿忧不富贵。”素应声答曰： “臣但恐富贵来逼臣，臣无心图富贵。”
及平齐之役，素请率父麾下先驱。帝从之，赐以竹策，曰：“朕方欲大相驱策， 故用此物赐卿。”从齐王宪与齐人战于河阴，以功封清河县子，邑五百户。其年授 司城大夫。明年，复从宪拔晋州。宪屯兵鸡栖原，齐主以大军至，宪惧而宵遁，为 齐兵所蹑，众多败散。素与骁将十馀人尽力苦战，宪仅而获免。其后每战有功。及 齐平，加上开府，改封成安县公，邑千五百户，赐以粟帛、奴婢、杂畜。从王轨破 陈将吴明彻于吕梁 ，治东楚州事。封弟慎为义安侯。陈将樊毅筑城于泗口，素击 走之，夷毅所筑。宣帝即位，袭父爵临贞县公，以弟约为安成公。寻从韦孝宽徇淮 南，素别下盱眙、钟离。