发端于土地革命战争时期、蓬勃于抗日战争时期的游击战，给侵华日军造成了相当的兵员损失，削弱了日军“以战养战”搜刮沦陷区支撑前线的能力，据1938年8月至1940年5月在华北方面军参谋部任职的加登幸太郎说：“现在回忆起来，我在任时，整个方面军一天平均死伤50名。50名虽不多，但一年就有18000人离开战列，是大消耗战。”
相比游击战取得的辉煌成绩，国民党军队在全面抗战爆发以来的几年里，由于战略和战术的双双失策，几乎战无不败，损失惨重。不但丢掉了百万平方公里以上的国土，还令数十万国军将士喋血沙场。为改变国民党的惨败格局，中共方面有意将游击战传授给国民党。1938年11月25日—28日，周恩来、叶剑英来到湖南衡山，出席蒋介石在这里召开的军事会议。会上，周、叶二人向蒋介石建议，国共合作开办游击干部培训班，系统学习游击战术。
蒋介石同意了这个建议，他也认为：“二期抗战，游击战重于正规战。”他请中共方面派遣干部到游干班教授游击战法。
军事会议结束后，周、叶向中共中央做了汇报。毛泽东说：“去吧，讲我们的一篇道理。”中共中央派叶剑英带一批得力干部前去衡山，参加南岳游干班的创办。
1939年1月，游干班成立后，国民政府军事委员会正式任命汤恩伯为主任，叶剑英为副主任。不久，改由蒋介石兼任训练班主任，白崇禧、陈诚兼副主任，汤恩伯任教育长，叶剑英任副教育长。周恩来被聘为训练班的国际问题讲师。1939年2月15日，训练班举行开学典礼。第一期学员共招收了1046人，编为8个大队。学制定为3个月。训练内容包括：军事教育，以游击战的战略、战术及爆破技术为主;政治教育，以民众运动及游击战政治工作为主。军、政教育课程比例各队有别，大致占受训时间的55%和45%。
“衡山苍苍入紫冥，下看南极老人星。回脆吹散五峰雪，往往飞花落洞庭。”这是唐代伟大诗人李白三上南岳衡山时留下的诗句。训练班本部设在衡山上的南岳圣经学校。叶剑英和中共方面人员集体住在衡山山脚下一处名为“桔盈圃”庄园内，并配有电台一部，救护车一辆。
在国民党开办的所有培训班中，游干班最为与众不同。游干班中，长官带头参加学习、遵守规章制度，不允许长官打骂侮辱学员。这是国民党军队中从未听说过的新鲜事。因此，不但学员很拥护，长官也表示赞成。
叶剑英曾经参与过黄埔军校的筹建，任教授部副主任。到延安后，他又担任工农红军学校校长。在军事教育上有丰富的经验。在培训中，叶剑英借鉴黄埔军校和红军学校办学的成功经验，强调教育训练要从抗战的实际出发，严格要求。各门课程的教学大纲和讲义教材，都由他直接审定。不仅如此，叶剑英还亲自讲授“游击战争概论”这门主课。有些学员开始瞧不起“土八路”，认为游击战搞不出什么名堂来，后来一听讲课，觉得很有道理，就逐渐佩服起来了。
国民党军事委员会军训部学员程兆熊在对游干班的“视察报告书”中承认：“学员曾向余言及游击战术一课之实地演习情形，谓绝非纸上谈兵之可比，该班训练之切实，当可想见。”
叶剑英上课时通常身穿一套褪了色的军装，讲得深入浅出，通俗易懂。他精辟的见解，出色的口才，儒雅的风度，深深吸引住了所有在场的听众。当时来听叶剑英讲课的，甚至还有衡山各寺庙的和尚。
国际新闻社战地记者高咏在一篇通讯中描述了叶剑英讲授“游击战争概论”一课的情形：“在课堂上，游击战争战略家叶剑英先生的游击战争概论一课，最为学员们所爱好。这一门课，在课表上规定是二十小时，占全班军事学科七分之一，每次上课两小时，总要发生学生提延长时间的要求。每一次上课，都是肃穆的空气统治着课堂，游击战争的革命意义，游击队产生的客观条件，游击战的运用，每一个单字，都在每一个听众的脑子里爬过，也在每一个听众的笔记簿上爬过。下课的号声响了，听众还是不愿意走，‘再讲五分钟好不好?’，这个问题常常发出来，这话语里充满了迫切的求知心与战士的要求。”
在衡山，游干班的学习任务很重，食宿条件很差。叶剑英虽是副教育长，但他和全体学员一样，保持着艰苦朴素的作风。他对国民党同事坦诚以待，交心谈心，结下了深厚的友谊。
国民党高级将领李默庵是黄埔第一期学生，十分尊重叶剑英。上世纪80年代，李默庵从美国归来，特意看望叶剑英，还恭敬地称他为“老师”。李默庵回忆这段往事，感慨地说：“我是他的学生，在南岳，凡是教育方面的事，都由他作主，他讲的游击战术课，改变了国民党军将领只打正规战的观念。我们也学着发动民众，开展游击战争，消灭敌人有生力量，不计一城一地之得失。这在国民党军中开创了先例，对推动抗日战争起到了很大的作用。”
在叶剑英等中共方面人员的感染下，不少学员表示结业后要效力战场，同共产党游击队并肩作战。学员吴众、石坚、吴澎、邝定家等毕业后参加了新四军一支队，活跃在抗日最前线。
1939年6月初，中共中央调叶剑英去重庆，协助周恩来主持南方局的工作。后来，1940年，受“皖南事变”的影响，办到第三期时，中共方面的教官和工作人员便全部撤出了。