1927年9月19日，毛澤東果斷地決定率領秋收起義余部向井岡山進軍。29日在永新縣三灣村進行改編，這時部隊已經不足千人，由于基層沒有建立共產黨的組織，黨還沒能切實掌握部隊，部隊軍閥習氣嚴重，嚴重影響著官兵關系，還有人迷戀城市生活，對前途缺乏認識，以至悲觀動搖、逃跑現象時有發生。以毛澤東為首的前委經過充分醞釀討論決定將部隊由一個師縮編為一個團，營團設黨委，把黨的支部建在連上，班設小組；實行民主制度，規定官長不打士兵，官兵待遇平等等，還制定了后來發展為“三大紀律，八項注意”的“三大紀律，六項注意”等革命紀律。

羅榮桓從秋收起義以來便在毛澤東領導下工作，他親自貫徹執行了毛澤東的許多主張。例如：支部建在連上、實行黨代表制、三大紀律六項注意，部隊要做群眾工作、建立根據地等等。他在談到三灣改編時指出：三灣改編實際是我軍的新生，正是從這時開始，確立了黨對軍隊的領導。當時，如果不是毛澤東同志英明地解決了這個根本性的問題，那么這支部隊不會有政治靈魂，不會有明確的行動綱領，舊軍隊的習氣，農民的自由散漫作風，都不可能得到改造，其結果即使不被強大的敵人消滅也只能變為流寇。當然，三灣改編也只是開始奠定了新型革命軍隊的基礎，政治上、思想上的徹底改造是一個長期斗爭的過程。”[3]（P157）

1927年10月3日，秋收起義部隊在寧岡古城召開前委擴大會議，進一步總結了秋收起義的經驗教訓，決定在羅霄山脈中段開展游擊戰爭，建立工革命根據地和對井岡山地區農民武裝袁文才和王佐采取團結改造方針的問題。[4]（P308）為今后改造舊軍隊摸索了經驗。1928年4月，毛澤東率領的工農革命軍與朱德、陳毅率領的湘南起義部隊在井岡山勝利會師，合編為工農革命軍第四軍，5月改編為中國工農紅軍第四軍，簡稱紅四軍，朱德任軍長，毛澤東任黨代表，陳毅任政治部主任。11月，紅四軍前敵委員會成立，毛澤東任書記。隨后，紅四軍在朱德、毛澤東、陳毅等領導下，打破了敵人對井岡山革命根據地的多次圍攻，并于1929年1月起向贛南、閩西進軍，開創了贛南、閩西革命根據地，奠定了后來的中央革命根據地的基礎。紅軍之所以有這樣的戰斗力，支部建在連上是一個重要原因。這些成績都是在堅持了三灣改編以來的基本方針基礎上取得的。從后來的古田會議決議內容來看，三灣改編以來提出和實行的原則及制度，僅僅是一個開始，完成新型革命軍隊這一轉型還需要一個認識過程。