8月下旬，左、右两路军通过了渺无人烟的水草地，这也是李井泉第一次过草地。右路军到达班佑、巴西等地区，胜利进行了上包座战斗，歼灭胡宗南部5000余人，打开了通往甘肃南部的大门；与此同时，左路军主力到达阿坝地区，并按计划准备渡噶曲河与右路军会师。这时，让随左路军行动的李井泉吃惊的事情发生了：

9月3日，张国焘借口噶曲河涨水不能通过，命令已进到嘎曲河附近的部队返回阿坝，然后南下。9月8日，他又致电徐向前、陈昌浩，命令“右路军即准备南下”。当天，中共中央致电张国焘，明确指出：“左路军如果向南行动，则前途极不利。”张国焘对党中央的再三争取置之不理，下令右路军中的红四方面军部队随他南下。张国焘此举，分裂了党，分裂了红军。

9月中旬，张国焘在阿坝召开了中共川康省委扩大会议，他在会上说：“毛儿盖会议是错误的，北上是行不通的，还是要南下，建立天（全）芦（山）雅（安）根据地，相机向四川发展。”一些受蒙蔽的与会者，在张国焘的蛊惑下，竟然围攻红军总司令朱德、总参谋长刘伯承，逼他们表态。朱德、刘伯承都主张：“北上有利，南下是要碰钉子的。”张国焘（出生于江西萍乡上栗）竟然利用老乡关系拉拢李井泉，李井泉不卑不亢地说：“总司令、总参谋长都说话了，他们肯定比我站得高、看得远，我赞同他们的意见！”张国焘碰了一个不软不硬的钉子！一怒之下，他把李井泉贬到红四方面军红军大学当政治教员。

张国焘一意孤行，率领部队过草地南下，企图在四川建立根据地。结果，南下行动彻底失败，严重消耗了红军有生力量。面对严重危局，李井泉对张国焘错误路线进行了抵制，并利用政治教员身份对广大学员进行说服教育。

1936年7月，红二、四方面军会师，张国焘走投无路，被迫同意北上，李井泉又随着红四方面军过草地北上。同年秋，他被调到红二方面军（总指挥贺龙）第四师担任政委。对于李井泉坎坷的长征路，党中央评价极高：“在长征中，李井泉同志先后在一、四、二方面军工作，他两次过草地，历尽艰辛，始终维护党的团结和统一，维护以毛泽东同志为代表的新的中央的正确领导。”（《李井泉同志生平》，新华社，1989年5月9日)