省委書記張太雷來到葉挺家里，告知中央批準了廣州起義計劃，決定12月13日舉行廣州起義，葉挺擔任起義總指揮、工農紅軍總司令。葉挺雖對起義心存疑義，但仍堅決地接受了任務。1927年12月11日凌晨，廣州起義提前舉行。兵力空虛的張發奎部隊很快被起義部隊消滅，起義軍天亮時占領了全城。葉挺和張太雷等領導人來到廣州市公安局，宣布廣州蘇維埃政府成立。葉挺在會上作軍事報告，并下令整編各起義部隊為工農紅軍。張發奎等軍閥在帝國主義軍艦支持下反攻廣州，形勢危急，葉挺建議起義部隊撤離廣州到農村建立根據地，受到諾伊曼等人嚴厲斥責。12日下午，張太雷在指揮戰斗時不幸犧牲，葉挺接替總指揮重任，堅持與敵人激戰。敵眾我寡，廣州起義終告失敗，敵人攻占廣州城，葉挺化裝潛回香港隱蔽。

1928年1月1日至5日，中央代表李立三在香港主持召開省委擴大會議，清算廣州起義領導人錯誤。葉挺受到“留黨查看六個月”的處分，雖然中央很快糾正了李的錯誤決定，但葉挺的自尊心仍受到了極大傷害。1928年春節后，為躲避敵人追捕，排遣胸中郁悶，葉挺到新加坡等地，受到華僑熱烈歡迎，也引起敵人的注意。黨的六大即將召開前夕，葉挺在周恩來幫助下去莫斯科申訴。