武則天還沉浸在喪子的哀痛中時，一場叛亂突然爆發了。徐敬業在揚州起兵，諸多李姓皇族都參加了討伐武則天的大軍，形勢急轉直下。一次，蘇良嗣在上朝路上遇到了薛懷義，薛懷義對蘇良嗣傲慢無禮，蘇良嗣因而大怒，命令左右的人把薛懷義拽下去，打了數十個耳光。武則天知道了這件事情后，對薛懷義說：禪師應該從北門而入，南衙是宰相往來的，你別冒犯他們啊。

監察御史薛仲璋請求前往揚州調查徐敬業謀反的事，實際上他去揚州是跟徐敬業等人匯合，決定與他們里應外合，一同謀反。徐敬業假造圣旨，把揚州的軍政大權掌握在手里，調集軍隊后一舉起事。徐敬業還發布了由駱賓王寫的《傳檄天下文》，頓時朝野震動，廣為傳頌。