上下空虚之机，突然叛乱，虽然很快被扑灭，但在当时还是有不少人打着响应杨玄感的旗号起兵，在江都附近就有余杭的刘元进、昆山的朱燮、常熟的管崇三支起义军。后来这三支队伍更联合起来，共推刘元进为主，占据吴郡，称天子，立百官。隋世祖得知后大怒，派了大将吐万绪、崔弘度前去镇压。这二人都是身经百战的老将，镇压异常轻松，到了大业九年年底，隋兵基本取得了平乱胜利，击毙了数万贼军，并把刘元进和朱燮围困在建安。由于连续作战，将士劳累，这两员将领请求暂时休兵一段时间。王世充听说此事，大喜，趁机向隋世祖明皇帝进谗言，说这二人故意不进攻，有不臣之心。隋世祖一时不查，即刻将吐、崔二人调回京城，暂时不予以重任。随后，隋世祖任命王世充为指挥官进攻刘元进，并在淮南征募了数万新兵，交王世充指挥。这批淮南兵后来成为王世充的子弟兵，是他起家的资本。王世充以生力军进攻刘元进、朱燮，连战皆捷，这二人迫于无奈，前去投奔寿州王李子通。但仍有不少余部散在各处为盗。王世充找了个黄道吉日，集合有关人员，前去通玄寺，在佛像前焚香立誓，约定降者不杀。刘元进的余部听说此事后，纷纷投降，不到一个月，王世充就平定了吴郡。出人意料的是，王世充这厮背信弃义，大局已定后，把所有投降的共三万余人全部坑杀。

    大业十年，齐郡的起义军统帅孟让从山东长白山出发，侵犯周围的各个州郡，杀到盱眙，发展到十多万人马。王世充率领部队抵御，以都梁山为据点，设置五道营栅，敌我相对而不交战，还扬言撤退，部队表现出疲惫不堪毫无战斗力的样子。孟让大喜，说道：“王世充那个鼠辈，不过是个只懂法令条文的小官罢了，怎么能带兵打仗？我非要活捉他，然后挥师南下，打到江都，活捉昏君杨广。”当此之时也，盱眙的百姓都住进了隋朝部队营垒，遍地没有东西可抢，叛军慢慢地没有吃的，又为营栅挡住道路而伤脑筋，不能向南方进军，于是分兵包围王世充的五处营栅。王世充大喜，每天出兵与贼军交战，表面上装作失利，跑回营栅。像这样持续了好几天，孟让更加小看他，就慢慢分派人马到南边去搜抢财物，留下的兵力只够围住营栅。王世充听说此事，确定了孟让的确是放松了警惕，就在军营中填平了灶坑，拆下了帷帐，摆设起方阵，四面朝外，拔掉栅栏出击，奋力作战，大败敌军，孟让带着几十个人悄悄逃走了。此战，王世充杀死了一万多人，俘虏了十多万人。隋世祖大喜，认为王世充有将帅的才干谋略，又派他率领部队讨伐各个小股叛军，所到之处，全部荡平。

    大业十一年，突厥始毕可汗在雁门发难，包围了张曐、杨妙可、处罗可汗。王世充打算带领江都的全部人马准备到雁门赴救国难，在队伍里蓬头垢面，痛哭得失去常态，日夜不脱盔甲，还躺在草上睡觉。隋世祖明皇帝听到这些情况，认为他忠诚，更信任他。

    大业十二年，王世充升任江都通守。当时厌次人格谦当了多年盗匪，带着十多万人在卤亢一带活动，被太仆卿杨义臣杀掉。王世充听说此事，急忙统率部队攻打格谦的残存队伍，打败了他们。又出兵到南阳攻打卢明月的残部，俘虏了好几万人。班师回到江都，世祖皇帝非常高兴，亲自举杯赏赐他。

    大业十三年七月，瓦岗军金墉西魏王李密趁伍云召在前线和项子龙作战，偷偷出兵，拿下了丹阳和临阳。由于这两处地方守军很少，而且战略意义已经不大，所以伍云召并不在意。李密大喜，于是猛攻东都洛阳，多次击败守军，洛阳求救的文书雪片般飞到江都。隋世祖明皇帝迫不得已，调全国各地精兵救援洛阳，在各路援军中，就有江都通守王世充率领的江淮劲卒二万人。由于这次军事行动的总指挥吐万绪在进军途中，于河间七里井意外地被河北起义军夏明王窦建德歼灭，世祖于是任命王世充继任援洛大军