8月下旬，左、右兩路軍通過了渺無人煙的水草地，這也是李井泉第一次過草地。右路軍到達班佑、巴西等地區，勝利進行了上包座戰斗，殲滅胡宗南部5000余人，打開了通往甘肅南部的大門；與此同時，左路軍主力到達阿壩地區，并按計劃準備渡噶曲河與右路軍會師。這時，讓隨左路軍行動的李井泉吃驚的事情發生了：

9月3日，張國燾借口噶曲河漲水不能通過，命令已進到嘎曲河附近的部隊返回阿壩，然后南下。9月8日，他又致電徐向前、陳昌浩，命令“右路軍即準備南下”。當天，中共中央致電張國燾，明確指出：“左路軍如果向南行動，則前途極不利。”張國燾對黨中央的再三爭取置之不理，下令右路軍中的紅四方面軍部隊隨他南下。張國燾此舉，分裂了黨，分裂了紅軍。

9月中旬，張國燾在阿壩召開了中共川康省委擴大會議，他在會上說：“毛兒蓋會議是錯誤的，北上是行不通的，還是要南下，建立天（全）蘆（山）雅（安）根據地，相機向四川發展。”一些受蒙蔽的與會者，在張國燾的蠱惑下，竟然圍攻紅軍總司令朱德、總參謀長劉伯承，逼他們表態。朱德、劉伯承都主張：“北上有利，南下是要碰釘子的。”張國燾（出生于江西萍鄉上栗）竟然利用老鄉關系拉攏李井泉，李井泉不卑不亢地說：“總司令、總參謀長都說話了，他們肯定比我站得高、看得遠，我贊同他們的意見！”張國燾碰了一個不軟不硬的釘子！一怒之下，他把李井泉貶到紅四方面軍紅軍大學當政治教員。

張國燾一意孤行，率領部隊過草地南下，企圖在四川建立根據地。結果，南下行動徹底失敗，嚴重消耗了紅軍有生力量。面對嚴重危局，李井泉對張國燾錯誤路線進行了抵制，并利用政治教員身份對廣大學員進行說服教育。

1936年7月，紅二、四方面軍會師，張國燾走投無路，被迫同意北上，李井泉又隨著紅四方面軍過草地北上。同年秋，他被調到紅二方面軍（總指揮賀龍）第四師擔任政委。對于李井泉坎坷的長征路，黨中央評價極高：“在長征中，李井泉同志先后在一、四、二方面軍工作，他兩次過草地，歷盡艱辛，始終維護黨的團結和統一，維護以毛澤東同志為代表的新的中央的正確領導。”（《李井泉同志生平》，新華社，1989年5月9日)