為了挽救革命，中共中央實行改組，成立了由張國燾、李維漢、周恩來、李立三、張太雷組成的中央臨時政治局常務委員會，陳獨秀離開了中央領導崗位。臨時政治局常委毅然決定，將黨所掌握和影響的部隊向南昌集中，準備起義。為此，中央派李立三、鄧中夏去九江指導工作。中央軍委也派聶榮臻前往九江，擔任前敵軍委書記。聶榮臻根據周恩來的交待，將中央意圖第一個通知了葉挺，葉挺表示堅決擁護中央的決定。

7月20日，葉挺參加了由李立三在九江主持召開的會議。會議傳達了中央關于發動軍事暴動的意圖，討論了當前的政治軍事形勢，具體地分析了張發奎的政治態度。“我們黨的意思是主張集合我們的武力，依張發奎回粵徐圖發展。”“如果張發奎能夠不擁護汪精衛，則我們可以和他合作回粵，否則實行脫離關系。”但此時張發奎的態度已經明顯向右轉，越來越傾向汪精衛的反共立場。與會的葉挺等人認真分析了張發奎的政治態度后，一致認為“應該拋棄依張之政策，而決定一獨立的軍事行動。”會議還決定各部隊迅速向南昌集中，會同賀龍的二十軍，在南昌實行武裝暴動。這次會議第一次明確提出在南昌舉行武裝起義。會后，李立三、鄧中夏前往廬山，向瞿秋白、張太雷通報會議情況，請他們向黨中央匯報。譚平山、葉挺則去給賀龍做思想工作，賀龍當即表示擁護黨中央的決定。

這時，張發奎與汪精衛也在廬山密謀“清共”，圖謀解除第二方面軍中共產黨人的兵權。“聞將有廬山會議，來實行解決在第二方面軍之共產黨”。7月23日，李立三、葉挺、譚平山等作出決定，“軍隊于28日以前集中南昌，28晚舉行暴動”，并“急電中央征可否？”葉挺提出了武裝起義的具體建議。7月24日，中央常委開會，同意九江同志意見，并決定派周恩來為前敵委員會書記，前去領導起義。“中央常委得悉在潯同志主張在南潯一帶發動暴動的時候，中央常委及國際代表都表示贊成。”次日，周恩來抵達九江，向李立三、譚平山、聶榮臻、葉挺等人傳達了黨中央正式同意在南昌舉行武裝起義的決定。

與此同時，張發奎以第二方面軍總指揮的名義，于24日發出命令，要求葉挺、賀龍來廬山開會，并把部隊開往德安集中，企圖解除他們的武裝。時任第四軍參謀長的葉劍英獲悉張發奎的這一陰謀后，立即下山，和葉挺、賀龍等在九江甘棠湖的一小劃子上秘密開會，決定葉、賀不去廬山開會，部隊直奔南昌。26日，葉挺所部開到南昌。隨后，賀部也抵達南昌。27日，周恩來到達南昌，宣布成立前敵委員會，并主持召開第一次前委會議，決定30日晚上舉行起義，并成立了起義總指揮部，由賀龍任第二方面軍代總指揮，葉挺任前敵代總指揮。周恩來去找賀龍談話時，賀龍斬釘截鐵地表示：“我完全聽共產黨的命令，黨要我怎樣干就怎樣干。”