司馬德戡等人都從未想過要殺楊廣，只是一門心思想逃回關中而已，這時聽了宇文智及之言後，都是大驚。
但司馬德戡等人細細一想，覺得宇文智及說的也不無道理，畢竟如果就這麼逃跑的話，竇賢的前車之鑑可就近在眼前，他們可不想像竇賢那樣，讓楊廣將頭顱掛在城牆上。
於是，在思慮再三後，司馬德戡等人都同意了宇文智及的意見。
趙行樞、薛世良要求由右屯衛將軍許公宇文化及爲首領，因爲宇文述的關係，宇文家在軍中素有威望，其他人也都同意了，他們這些人協商定了之後，才一切前去告訴宇文化及。
宇文化及性聽說後，臉色頓時大變，直冒冷汗，他在江都的日子過得美滋滋的，要什麼有什麼，可不想造楊廣的反，不過他雖有心拒絕，但見司馬德戡等人都一副氣勢洶洶的樣子，他要是敢說半個“不”字，只怕會被他們給亂刀砍死。
宇文化及不敢不答應，最後只好選擇了聽從司馬德戡等人的安排。
司馬德戡讓許弘仁、張愷等人去備身府，對認識的人散佈謠言道：“陛下聽說驍果想反叛，釀了很多毒酒，準備利用宴會，把驍果都毒死，打算只和南方人留在江都。”
驍果兵聽後，都很恐慌，互相轉告之下，許多人都有了反叛之心。若是一般的士兵，出於對皇權的敬畏之心，或許不會那麼容易做出反叛楊廣的決定，不過這些驍果兵卻有點特殊。
江都城這十幾萬驍果兵，大部分的骨幹人物都是當年參加雁門關防禦戰的，那時楊廣爲了激勵士氣，在雁門關對衆人許下了豐厚的獎勵承諾，然而事後卻反悔了，一萬七千餘人拼命換來了戰功，卻僅僅獎賞了其中的一小部分人。
一萬多人對楊廣仇恨的種子，便是在那時埋下的。
之後，因爲在雁門關之戰中驍果死傷慘重，所以楊廣便以那一萬多人爲骨幹，又招募了十幾萬驍果，不久便帶着他們到了江都……
因着此前對楊廣原本的恨意，所以此時衆人在司馬德戡等人的扇動下，才這麼毫無心裡阻攔的就答應了反叛。
四月初十，自覺得發動叛亂準備了半月有餘後，司馬德戡召集全體驍果軍吏，宣佈了發動叛亂的計劃，軍吏們都齊聲道：“全憑將軍的吩咐！”
當天，大風颳得天昏地暗，黃昏，司馬德戡偷出御廄馬，暗地打磨生鏽的武器，分發兵甲，進行着叛亂前的最後準備之事。
傍晚，元禮、裴虔通在下值班，專門負責大殿內；唐奉義負責關閉城門，唐奉義與裴虔通等商量好，各門都不上鎖。
這場驚天的叛亂，即將發動。
司馬德戡等人的行事並未做過得的保密舉措，故而他們將要叛亂的消息爲江陽縣長張惠紹所得知了。
張惠紹於是飛馳去通告了裴蘊，裴蘊與張惠紹一番商量後，決定假稱聖旨調江都城外的軍隊逮捕宇文化及、司馬德戡等人，敲開城門援救煬帝。
二人商量這麼商議好後，轉念又覺得假冒聖旨的罪責太大，有些擔待不起，於是決定派人報告此時羣臣中權勢最大的虞世基，由虞世基來做那個決定，這樣就不怕事後被楊廣責罰了。
然而，虞世基在得知消息後，卻懷疑謀反的事不真實，壓下來始終沒有答覆裴蘊等人，所以裴蘊與唐奉義等人一直乾等了許久，也沒能等來想要的消息，白白錯過了最後挽回危局的機會。
四月十一日三更時分，司馬德戡在東城集合數萬人，點起火與城外相呼應，然後分兵把控各處要道，正式發動叛亂，楊廣這時忽然驚醒，看到火光，又聽到宮外面的喧囂聲，詢問發生了什麼事。
宿衛大殿的裴虔通回答：“草坊失火，外面的人在一起救火呢。”當時宮城內外的要道已率先被司馬德戡等人派兵隔絕，楊廣聽後便相信了，繼續返回龍牀睡覺。
不久，宇文智及和孟秉在宮城外面集合了一千多人，劫持了巡夜的候衛虎賁馮普樂，佈署兵力分頭把守街道。
楊廣的庶長孫燕王楊倓發覺情況不對，晚上穿過芳林門邊的水閘入宮，到了玄武門，江都的玄武門也如長安的玄武門一樣，爲進出皇宮的要道，楊廣曾挑選了幾百名勇猛矯健的官奴，安置在玄武門，稱爲“給使”，以防備突然發生的情況，待遇優厚，甚至把宮女賜給給使。
統領那些玄武門“給使”的，是司宮魏氏，她雖爲宮中女官，但頗有武藝，且善於迎合楊廣，故而很得楊廣信任
宇文化及知道魏氏的重要姓，早早就以重利勾結她作內應。所以在事發這天，魏氏假稱聖旨放全體“給使”出宮，致使此時倉促之際，玄武門沒有一個給使在場，便被宇文化及的人給控制住了。
燕王楊倓此時到了玄武門之後，向看守的軍士假稱道：“我突然中風，就要死了，請讓我當面向皇上告別。”
裴虔通等人可沒那麼好騙，並沒有爲楊倓通報，反而派兵把楊倓關了起來。
十一日黎明時分，江都城的各處城門、重要街道已基本被叛軍控制，開始向皇宮進發。司馬德戡交給裴虔通兵馬，用來替換各門的衛士中仍忠於楊廣的人。
裴虔通由宮門率領數百騎兵到成象殿，值宿衛士高喊有賊，於是裴虔通又返回去，關閉各門，只開東門，驅趕殿內宿衛出門，宿衛紛紛放下武器往外走。
右屯衛將軍獨孤盛這晚也正在宿衛皇宮，看着驅趕宿衛的人對裴虔通道：“那些什麼人的隊伍，行動太奇怪了！”
裴虔通道：“皇上昏庸無能，貪念江南不去，我們打算親自請他與我們一同他與我們一同回長安，形勢已經這樣了，不關將軍您的事，您老可要小心些，不要輕舉妄動，否則小心刀劍無眼啊！”
獨孤盛聽後大怒，罵道：“老賊，說的什麼話！”他說着顧不上披鎧甲，就與身邊十幾個人一起拒戰，最終被亂兵殺死。