杨玄感感到生命已面临切实的危险，他决心要抢在杨广下手前先发制人，起兵造反的意念由此更为强烈了。
黎阳距东都洛阳约两百里，为交通要冲，向为富庶之地，。杨玄感昼夜兼程，不数日便驰至黎阳。身居上柱国高位，又有杨广御旨，杨玄感即向附近州县发出公事，从地方屯卫军中征集兵马，原则上是二抽其一。最先领兵到达的是左卫将军韩世号，他乃大将军韩擒虎之子，堪称世家子弟。
杨玄感与韩世号原本相识，且有交谊，杨玄感亲自出城迎接。见其兵马不过一千之众，未免心下不喜：“韩将军，就带来这一点点人马？”
“杨兄，便这一千人马，小弟也是费了九牛二虎之力。万岁征讨高丽之举，不得人心，民怨沸腾……”
杨玄感忙加制止：“贤弟不可妄议朝政。”
“杨兄何必掩耳盗铃呢。”韩世号对杨广早就心怀不满，其父韩擒虎，为大隋天下可称立下汗马功劳，可是杨广对韩擒虎根本不予重用，只是给个无足轻重的闲职。韩世号毫不掩饰对杨广的敌视，他手指运送辎重的民夫队：“你看，你听，人们都已是怨声载道了。”
民夫们形容枯槁，骨瘦如柴，人人口出怨言，指名道姓谴责杨广不该再伐高丽，闹得百姓妻离子散，家破人亡，田园荒芜，流离失所，甚至都愤愤扬言，与其累死饿毙途中，干脆揭竿造反，或许有条活路。
杨玄感听了默默无言。韩世号却是得理得意：“怎么样，杨兄，民心不可欺不可侮，如今已是干柴遍地，只差有人举火点燃。”
“贤弟慎言，快请入城吧。”杨玄感心中暗喜，匆匆引韩世号进入黎阳。
杨玄感欢迎韩世号的接风宴会，从红日当空，直至华灯初上，仍未曲终人散。二人喝得高兴，谈得投机，韩世号竭力鼓动杨玄感树旗造反，并担保说，只要杨玄感振臂一呼，定会群起响应，八方来投。但是在起事时间上，二人却发生了分歧。
韩世号举起酒杯：“杨兄，俗话说选日不如撞日，赶早不赶晚。明天咱就在这黎阳起兵。”
杨玄感未与他碰杯：“贤弟，造反势在必行，但总要时机成熟，且稍待数日。”
韩世号举杯的手不肯放下：“杨兄，要成大事不能瞻前顾后，杨广远在辽东，这大好时机不能错过。迟则生变，万一走漏风声，反为不美。下狠心，明天就将反旗树起。”
杨玄感站起身离开几案：“莫急，想来不会拖得太久，愚兄自有主张。”
“你，想不到你是个优柔寡断之人！”韩世号失望地将酒杯蹲在桌上。
“贤弟息怒，有道是人无远虑，必有近忧，凡事要三思而后行。”杨玄感为安抚韩世号，只得稍稍亮些底牌，“愚兄在等两个人，估计今夜不到明日也该到了。”
“是何等重要人物，能决定起事大计？”韩世号不耐烦地拂袖便走，“小弟告辞！”
“兄长，兄长！”一个人风风火火闯入，韩世号停住了脚步。
“二弟！”杨玄感急步迎上，“为兄正在翘首以盼。”
来人是杨玄感之弟杨玄纵。原来，杨玄感来黎阳途中，即先期派人赴辽东潜召二弟玄纵来相助。杨玄感急切地想知道杨广的近况，执手相问：“二弟，快说说辽东城的情景。”
“兄长，上次征讨高丽失利，将士俱已生怨。如今再征，军中尽皆不满，随行百官亦非议颇多，臣民对杨广已是离心离德。”杨玄纵信心十足地说，“兄长，起事造反，正其时也！”
韩世号一听立刻来了精神：“怎么样，杨兄，明天起事吧？”
“且再耐心稍待。”杨玄感抑制不住内心的激动，喜悦溢于言表，“只等我小弟万硕到来。”
真是说曹操，曹操到，杨万硕一头闯入：“兄长，没误事吧？我可是昼夜兼程赶路呀。”
杨玄感见小弟万硕样子疲惫，没精打采的，止不住心头悬石：“快说，李渊态度如何？”
“别说了，李渊是个老滑头！”杨万硕说时依然愤愤。
杨玄感登时周身冰冷：“难道他不肯共同起事？”
“李渊只说时机尚不成熟，不敢轻举妄动。”
杨玄感怔住了，半晌无言，默默落座。
韩世号已然听出了原委：“原来你是派小弟万硕去拉李渊，各有各的打算，难道李渊不敢造反，你就作罢不成？”“咳！”杨玄感长叹一声，“看来只有如此了，道长李靖多次告诫，与李渊合手方能成就大事。”
“这么说，你是要做缩头乌龟了？”
“韩贤弟，李渊声言时机不到，莫如我们也拖一拖，看一看。”
韩世号已不想再听，硬邦邦掷出一句话：“告辞！”气哼哼抽身便走。
杨玄感追出房门：“韩将军，世号贤弟！”
韩世号头也不回，声也不应，义无反顾地扬长而去。
杨玄感只有叹息而已。
不久，杨万硕来告知：“大哥，韩世号带十余骑亲信出城，不知去往何处。”
杨玄纵禁不住埋怨乃兄：“都怨你，当断不断，想吃又怕烫，冷了韩世号的心，你怕者何来，胜则君临天下，若败无非是脑袋搬家。”
杨玄感无话可说，他在思索，韩世号为何不带走他的一千人马呢？这一夜，杨玄感辗转难以成眠。次日一整天，杨玄纵仍是劝他举旗起兵，杨万硕在城内走了一遭之后，听到百姓对杨广切齿痛恨，也倾向于立即起事，但杨玄感始终犹豫不决。又到了晚饭时，下人把酒菜摆好，杨玄感毫无食欲，不想动箸。
杨玄纵有几分嘲讽地劝道：“兄长，不吃饭算什么英雄，男子汉大丈夫，生而何欢，死而何惧，想不到你竟是个贪生怕死之辈。”
“二弟此言差矣，”杨玄感仍有忧虑，“我个人死活事小，事关全族数百口人生命，走这一步，我不能不慎之又慎哪。”
“兄长，如今已是顾不得许多了，箭在弦上，不得不发。”杨玄纵反问，“你不反，杨广班师回朝能饶过你吗？你征召后续兵马，又有几人响应？人们反对杨广穷兵黩武，已是不肯听令，调不齐三十万人马，杨广岂能容你？”
杨玄感被问得无话可答。
杨万硕风风火火跑来报信：“大哥，糟了，韩世号带一哨兵马向黎阳杀来，已到城外。”
“有这等事？”杨玄感和杨玄纵一起，匆忙来到北城门。
城外约有三千人马，韩世号正在大呼小叫：“快大开城门，迎我入内。”
杨玄感在城头发问：“贤弟，不辞而别，又带兵回城，这究竟何意？”
“杨兄，你睁大眼睛仔细观瞧，愚弟身边是谁？”
杨玄感仔细打量，菊花马上一员小将，金盔金甲，手提金刀，威风凛凛，器宇轩昂，稍一迟疑，认出他来，不禁大为诧异：“这岂不是金刀将来渊吗！”韩世号有几分得意：“不错，正是水军总管来护儿大人之子，来渊是也，而且还带来了三千人马。”
杨万硕满怀敌意地询问：“韩世号，来渊，你们无非是想捉拿我杨氏兄弟，去向杨广邀功请赏，但是没那么容易！”
“此话从何说起。”来渊在马上向城头拱手施礼，“各位杨兄误会了。”
“你们哪！”韩世号高声相告，“来将军是我韩某请来，一起相助起兵造反的。”
“啊？”杨玄感难以相信，“此话当真？”
“造反大事，岂能儿戏。”韩世号已透出不悦，“快大开城门，迎接来将军，有话进了城摆上酒宴再说。”
杨玄纵悄声问杨玄感：“怎么办？”
杨万硕在一旁提醒：“大哥，害人之心不可有，防人之心不可无。”
杨玄感想了想，对城下说：“二位将军，人马且在城外驻扎，请二位将军到城内叙话。”
韩世号有几分不快：“看来你还是信不过我们，好吧，我二人且单身入城。”韩世号、来渊被迎入县衙，未及坐定，来渊便先发制人相问：“杨大人，想来对本人不放心吧？”
“正是。”杨玄感毫不掩饰，“国人尽知，令尊来护儿为当今宠臣，位高权重，你竟然与乃父作对，令人不可思议。”
“杨大人，古往今来，父子兄弟间政见不同者大有人在。杨广倒行逆施，天怒人怨，我早欲反之。今韩将军登门游说，称杨大人已决意树起反旗，只是略感兵力不足，我才倾所部五千人马悉数前来相助，不料反遭猜忌，怎不令人心寒。”
韩世号已是大为不满：“杨兄；李渊不来你无限失落，来渊主动参与，你又疑神疑鬼。如此心胸狭窄，焉能成就大事。既然信不过；请恕我要把一千人马拉走，与来将军去另起炉灶，独树一帜。”
“此说正合吾意。”来渊起身携起韩世号之手，“韩兄，我们走。”
杨玄纵赶紧劝阻：“二位将军，何必如此性急。家兄并非信不过，这反，还是非造不可的。”
杨玄感也惟恐二人离他而去，不由得表态：“杨某反意决绝，欢迎二位加盟。”
“既如此，我们五人歃血对天盟誓。”韩世号伸出右手。
杨玄感、来渊、杨玄纵、杨万硕也都出右手，五人五只手紧紧搭握在一起。随之，五人当面饮下五杯鸡血酒，立下誓言。杨玄感经过长时间的犹豫，终于下定了造反的决心。
次日上午，在城隍庙前，集结起五千人马，反隋誓师大会，在融融暖日下进行。
为唤起反叛将士对杨广的仇恨，杨玄感站在城隍庙的高台上慷慨陈辞：“当今篡承宝历，本当自固其基，然其却自绝于天。杨广轸民败德，频年肆虐，盗贼竟日滋多，滥修宫室，民力为之凋零。荒淫酒色，子女必被其侵，耽玩鹰犬，禽兽皆罹其毒。由是，朋党相扇，贷贿公行，纳邪佞之言，杜正直之口。加以转轮不息，徭役无期，士卒填沟壑，骸骨蔽荒野。黄河之北则千里无烟，江淮之间则鞠为茂草……”
反叛将士听得入耳，杨玄感这番言语，端的道出了军民的心声。有人泣语，有人呜咽，万众为之动容。杨玄感也动了真情，继而高声：“玄感世荷国恩，身为上柱国，家累据万金，至于富贵，无所求也。今所以不顾破家灭族，乃上秉先旨，下顺民心，废此淫昏之君，更立明哲之主。必能四海同心，九州响应，士卒用命，民庶相趋，旗开得胜，马到成功。”
众将士与围观百姓，禁不住振臂高呼：“不灭隋杨，誓不收兵！”
令负责招募新兵的杨玄纵始料不及者，未到傍晚，百姓男壮争相入伍已达三千之众。甲胄不及备办，乃取帆布为软甲替代，菜刀、木棍皆执为兵器。次日，乃擂鼓出征，以韩世号为先锋，兵锋直指东都洛阳。一路上不过数日，又有武侯大将军李子雄、裴爽等率众万余加入反叛行列。至于裹挟而进的饥民、百姓，日以数千计。待兵临距洛阳仅百余里的要塞临清关，叛军已众至五万，其声势震撼河洛。
留守东都的越王杨侗，与刑部尚书卫玄、民部尚书樊子盖，获悉杨玄感宣举兵反叛，并已进逼临青关的消息，都大为震惊。杨侗当即写下十万火急的告急文书，送驿站驰赴辽东城奏知杨广。要求八百里快马飞传，昼夜不停。然后，急忙拼凑了两万兵马，交樊子盖统率，兼程去往临清关拒敌。
以韩世号为先锋的叛军，士气正盛，攻城甚急。樊子盖赖有雄关之险，勉强支撑。杨侗答应的后援兵马迟迟不至，樊子盖愈来愈觉兵力不足，情急之下，他亲至关后二十里的修武县城募军。全城父老男壮被召集到一处，樊子盖对百姓们晓以利害，声言一旦临清关破，