1931年夏，在中央革命根据地开始了第二次大规模的肃反运动，即打“AB团”。一提到打“AB团”，已担任师政委的黄克诚就有一肚子意见，因为他经过第一次打“AB团”的运动，看到了运动给党和军队带来的巨大损失。于是，运动一开始，他就进行了抵制，并利用自己师政委的身份，保护一些被冤枉的同志。由于黄克诚抗命保护自己的同志，结果厄运很快就降临到自己的头上。他被肃反委员会以“同情和包庇反革命，破坏肃反”的罪名抓了起来。接着，他被肃反委员会判处死刑。

这一消息被彭德怀知道后，他亲自找到肃反委员会的负责人，一脸怒气问道：“为什么把我的师政治委员抓起来？”

肃反委员会负责人自然拿不出黄克诚是“AB团”的证据，只好说他是右倾机会主义分子。

彭德怀大声说道：“对右倾机会主义分子可以批判斗争嘛！怎么可以采取捕抓、枪毙的办法来处理呢？”

这位负责人理屈词穷了，只得将黄克诚释放。黄克诚命虽然是保住了，但是师政委一职却被撤销了。

黄克诚没有事情可干，又不想赋闲，于是就向彭德怀提出工作请求。彭德怀十分同情黄克诚的遭遇，让他到军团司令部去当秘书。1931年11月，彭德怀、滕代远等军团主要负责同志都到瑞金去参加全国第一次苏维埃代表大会。临行前，彭德怀让黄克诚代理处置前委的日常工作。待他开完会回来以后，他又派黄克诚到寻乌县去调查打“AB团”的情况。黄克诚从寻乌县回来后，把在寻乌所见所闻如实地向前委作了汇报。黄克诚动情地对彭德怀和其他军团领导说，我们不能再搞自相残杀的蠢事情了，否则，我们将变成孤家寡人……

没有多久，党中央开始纠正肃反扩大化问题。黄克诚又被起用，重新担任师政治委员。

在此后的28年里，彭德怀对救黄克诚的事只字不提，黄克诚也不知道是谁救了他的命，直到1959年的庐山会议。庐山会议在批判黄克诚时，康生翻起了历史，说彭德怀对于黄克诚来说是有救命之恩的，所以他们最后才走到了一起。听到这话，黄克诚才得知当初事情的原委。他不由心潮起伏，为彭德怀的高尚节操和博大胸怀所折服，也为两人在长期的工作中建立的崇高友谊感到自豪。

新中国成立以后，彭德怀和黄克诚又走到了一起。相互争论、切磋和提醒，使他们成了知心朋友。在庐山会议上，彭德怀、黄克诚一起检讨

新中国成立后，彭德怀任国防部长，黄克诚任解放军总参谋长。就这样，两个人又走到了一起。相互间的争论、切磋和提醒，使他们成了一对知心朋友。

彭德怀在与众多将帅的交往中，相互间争论最多的就是黄克诚。每当有不同意见，他们之间就会争论，有时还会争得面红耳赤。按照黄克诚的说法，他们几乎争论了半辈子。但他们的争论从不伤感情，他们之间谁输理，谁就会口服心服地表示接受。

除了争论之外，他们还经常相互磋商、相互提醒。由于文化水平不同，黄克诚有时考虑问题更全面、更透彻。因此，他在工作中常常给予彭德怀必要的提醒和帮助，在战争年代是这样，在和平年代也是这样。

有一次，彭德怀应邀为在遵义牺牲的红三军团参谋长邓萍题写墓碑。写完后，彭德怀情不自禁，出于对革命挚友的怀念，又写了一首长诗，详细回忆了平江起义及其以后直至第二次攻占遵义的战斗历程，追述了红五军和红三军团的辉煌战绩。

但黄克诚觉得这首诗写得太张扬，于是他找来彭德怀身边的工作人员，悄悄嘱咐道：“告诉你们彭老总，以后不要乱写，弄不好是要犯错误的。”大概是怕他们还没有充分领会他的意思，说完之后他又加上两句：“言多必失，言多必失！”

黄克诚的提醒，用意是极其深远的。因为那时，彭德怀已经担任了国防部长要职，在军内甚至党内的威望也达到了相当的高度。此时的他，一言一行都会受到众人的关注。

但有时提醒也能起到相反的作用。

1959年的庐山会议，彭德怀接到通知后，本不想去参加的。黄克诚知道后提醒彭德怀：“这次会议是毛主席主持的政治局扩大会议，你是政治局委员，你怎么能不去呢！”然而，令黄克诚意想不到的是，他的这次提醒竟然结束了彭德怀的政治生命。