1957年8月，刘伯承身体每况愈下。8月6日，他致信毛主席和国防部长彭德怀，呈请免去军事学院的本兼各职。刘伯承的请辞，很快得到批准。廖汉生中将接任院长，钟期光上将任政委。
1958年6月，某某某在军委的主要领导会上说：“刘伯承身上有很严重的教条主义，不但影响了南京，就连北京（训练总监部）也有些吹鼓手，抬轿子的。不要忘了，红军时期，他的教条主义是逼死过革命同志的”。
正在外地养病的刘伯承心情异常沉重，拖着病体回到北京参加会议。
就刘伯承是否要在会上作检查得问题，毛主席关照说：“让刘伯承同志好好休息，可以不来参加会议作检讨，表示个态度就可以了。”
但是7月10日，年近古稀、残病交加的刘伯承被扶到主席台前，宣读自己的检讨。他表示感谢同志们的批评。面对别人对自己的过分指责，刘伯承说到委屈之处和违心自责之处，语调哽咽，几不成句。
1959年1月19日，刘伯承挂印封官，携家眷移居北京，数十载兵戎生涯遂告结束。