省委書記張?zhí)讈淼饺~挺家里，告知中央批準了廣州起義計劃，決定12月13日舉行廣州起義，葉挺擔任起義總指揮、工農紅軍總司令。葉挺雖對起義心存疑義，但仍堅決地接受了任務。1927年12月11日凌晨，廣州起義提前舉行。兵力空虛的張發(fā)奎部隊很快被起義部隊消滅，起義軍天亮時占領了全城。葉挺和張?zhí)椎阮I導人來到廣州市公安局，宣布廣州蘇維埃政府成立。葉挺在會上作軍事報告，并下令整編各起義部隊為工農紅軍。張發(fā)奎等軍閥在帝國主義軍艦支持下反攻廣州，形勢危急，葉挺建議起義部隊撤離廣州到農村建立根據(jù)地，受到諾伊曼等人嚴厲斥責。12日下午，張?zhí)自谥笓]戰(zhàn)斗時不幸犧牲，葉挺接替總指揮重任，堅持與敵人激戰(zhàn)。敵眾我寡，廣州起義終告失敗，敵人攻占廣州城，葉挺化裝潛回香港隱蔽。

1928年1月1日至5日，中央代表李立三在香港主持召開省委擴大會議，清算廣州起義領導人錯誤。葉挺受到“留黨查看六個月”的處分，雖然中央很快糾正了李的錯誤決定，但葉挺的自尊心仍受到了極大傷害。1928年春節(jié)后，為躲避敵人追捕，排遣胸中郁悶，葉挺到新加坡等地，受到華僑熱烈歡迎，也引起敵人的注意。黨的六大即將召開前夕，葉挺在周恩來幫助下去莫斯科申訴。

葉挺來到莫斯科，認真地向黨中央和共產國際寫了關于廣州起義的報告，申訴了自己的觀點，卻石沉大海無消息。他找到共產國際東方部，巧遇中央委員項英同志，卻遭到王明冷遇。王明還說了許多傷害同志的尖刻話，葉挺無法容忍，震怒之下離開了莫斯科，脫離了黨的關系，到歐洲等地流亡。

葉挺只身流亡到德國首都柏林，經濟日趨窘迫，開始隱姓埋名做工糊口。他包過留學生伙食，賣過水果和豆腐，開過飯館，甚至揀過剩菜葉，飽嘗了生活的辛酸，也更堅定了革命意志。他研究德國的政治、軍事、經濟、文化，秘密進行了多項軍事化學實驗，并取得了實質性的進展。他時刻關注國內革命斗爭的動向，通過與周恩來、宋慶齡、廖承志、鄧演達等人的來往，革命熱情日益高漲，恨不能立刻回國去參加革命斗爭，投身到武裝革命的洪流中去。

1931年“九一八事變”爆發(fā)后，葉挺再也不能平靜了，通過各種途徑關注國內局勢，為祖國前途和命運深深擔憂。1932年秋，葉挺舉家返回澳門。國民黨方面陳濟棠、陳誠、余漢謀等多次對他拉攏利誘，葉挺心胸坦蕩，予以堅決回絕。葉挺意外地見到了中共中央軍委派駐十九路軍的軍事代表張云逸，使他看到了光明和希望。

不久，周恩來看望葉挺，兩位生死戰(zhàn)友重逢，都流下激動的熱淚。周恩來希望葉挺出面參與改編南方八省紅軍游擊隊為國軍的工作，葉挺欣然接受使命。

1937年8月底，葉挺在戰(zhàn)場指揮所找到陳誠，提出參與改編南方八省紅軍游擊隊為國民革命軍新編第四軍的愿望，陳誠答應向蔣介石報批。1937年9月28日，未經中共同意，國民政府軍委會銓敘廳宣布“經委員長核定，任命葉挺為新編第四軍軍長”。中共中央措手不及，通過周恩來邀請葉挺去延安面晤。

葉挺途經西安等地輾轉來到延安，受到中共中央及延安軍民的熱烈歡迎。毛澤東在窯洞門外迎接葉挺，稱贊“你是我們共產黨第一任總司令，人民軍隊的戰(zhàn)史要從你寫起！”給予葉挺極大的鼓舞。次日，中共中央在抗大禮堂開會歡迎葉挺軍長，毛澤東和葉挺都講了話，延安之行成功圓滿。