1937年七七事变后，全面抗日战争全面爆发。1937年8月22日，国共两党达成的协议，由原西北主力红军，即中国共产党领导的中国工农红军一、二、四方面军改编而成“国民革命第八路军”，朱德、彭德怀任正、副总指挥。下辖第115师、第120师、第129师。1937同年9月改称国民革命军第十八集团军。改名后，除国民政府军委会正式命令称第十八集团军外，传统习惯上一律称八路军。
这就是我们俗称的八路军的由来，而八路军又任命刘伯承为129师师长，邓小平为政委，从这对风云组合便开始了长达13年的亲密合作，一起打鬼子，一起打反动派，为国家的独立，民族的解放立下了赫赫功勋。
1950年抗美援朝战争爆发，刘伯承却找到了邓小平，对他说：“彭老总在前线为打败最强大的军队而作战，我要为使解放军成为世界上最强大的军队而重执教鞭”。
邓小平很明白这位老战友的心思，他可以说是最熟悉刘伯承的人，于是回答刘伯承道：“看来你与教书先生有缘呀”。
从此以后这对亲密合作了13年的老搭档便“分手”了。
然后刘伯承写了封信给中央，信中内容大概是这样子的：
要建设一支现代化的军 队，最难的是干部的培养，而培养干部最难的又是高级干部的培养。我愿意辞去在西南担任的一切行政长官的职务，去办一所军事学校。战争已经结束了，我年龄这 么大了，还是让我去办学校吧!
也就是说刘伯承请辞了中共中央西南局第二书记、西南军政委员会主席的职务，一门心思的要去参加陆大的建设。
刘邓两家早年罕见的合影
刘伯承元帅的一片赤城，感动了毛主席，同时毛主席也觉得刘伯承元帅是组建成立陆大的最佳人选，因为不管是军事理论还是军事经验，刘伯承元帅在我军中都是佼佼者。
为了给国家节省开支，减轻国家的负担，在为学校选址的时候，刘伯承元帅放弃了原定选址北京的计划，充分的利用了原原国民党陆军大学的校舍，然后将学校开在了南京，正式命名为南京军事学院。
经过半年的筹备工作，学校开学了，首批758名学员中，绝大多数都是我军师级以上的年轻干部，由刘伯承元帅任院长（1951年2月兼任政治委员），陈士榘为训练部部长，陈伯钧、陶汉章为训练部副部长，钟期光为政治部主任兼干部管理部部长，刘忠为院务部部长。
1952年1月高级速成系一班合影
经典的电视剧《亮剑》中有这么一段剧情，抗美援朝爆发后，李云龙请战去朝鲜参战，可是却被安排去了南京军事学院学习，在学院里李云龙和其他将军都“很不老实”，因为他们都是打战专家，都是炮火中成长起来的“军事家”，可是现在却不让他们去打战立功，还要他们向他们的手下败将学习（当时学院很多教师来自国民党的败将），加上这些将军们都自由散漫惯了，觉得在军事学院做学员很没意思，也很没面子。
事实的南京军事学院成立初期，也出现了这样子的问题，有的学员无故不出操、不上课，想来就来，想走就走;有的学员上课时翘二郎腿，回答老师的提问懒得起来;有的学员开会时不注意军纪，敞胸露怀，双手在身上搓泥搔痒，更有甚者，有的索性把脚放在椅子上，脱掉鞋子，用手抠脚丫子。
学院学员的胡闹甚至惊动了毛主席，这让毛主席很生气提出了：游击队不可冒“油”，野战军不可撒野。
刘伯承也感到很没面子，于是决定整肃校风。他在全院 师生大会上说"有的人自由主义，违犯纪律，国防部、毛主席都知道了，真是搞臭了南北二京，这叫着‘光着腚推磨盘--转着圈丢人”。
刘伯承要求全部学员从从基本科 目做起，还颁布实行我军三大条令--《内务条令》、《队列条令》、《纪律条令》，很快使学院的风气焕然一新，学员也认识到了自己的错误和不足，开始虚心求教。
在此后的5年时间里，刘伯承元帅主持编写、编译和翻译军 事、政治、外语等各类教材数百种，从陆、海、空三军到炮兵、工程兵、通讯兵、装甲兵等技术兵种专业，从战略、战役、战术的现编概则到集团军、军、师、团、 营的设定作业，应有尽有。学院也由初办时的4个系发展到12个系，学员人数由758人增加到3000余人。
南京军事学院成为人民解放军名副其实的最高学府和将军的摇篮，为我军成为一支钢铁之军，无敌之军，做出了卓越的贡献。