山西新军初建的那个团，原来拟称“青年抗日先锋队”。阎锡山说参加的人都要有誓死的决心，于是改称“山西青年抗敌决死队”，简称“决死队”。它是以军政训练班、民训干部教练团和国民兵军官教导团第8团、9团各一部组成的，在1937年8月1日成立时，我任政治委员，阎锡山派旧军官担任军事指挥。决死队的发展非常迅速，在1个多月时间里，由一个部队发展成为4个部队(相当于团)，最初成立的决死队改称“第一总队”。
9月间，八路军第115师、120师、129师，在朱德总司令、彭德怀副总司令率领下，先后开赴山西战场。9月下旬，我带领决死队第1总队，在从五台往盂县的路上，遇到朱德总司令。他是率领部队到晋东北地区开辟抗日根据地的。突然相逢，使我喜出望外，我汇报了准备在晋东北地区建立根据地的打算。朱总司令说：晋东北地区是战略要地，北上可以威胁北平，南下可以直趋太原，八路军准备在这个地区建立敌后抗日根据地，你不要在这里了，最好得到阎锡山的许可，把决死队开到晋东南的上党地区(上党，地名。秦朝设上党郡，治所在山西省壶关。隋朝设上党县，上党地区即今山西省长治市、壶关一带地区。)去。他还告诉我，离开延安时，毛主席谈论过，我们打的是持久战，军队要插到敌后去，和下围棋一样，先做几个活眼，准备在华北同敌人长期周旋，首先要占据晋东北、晋西北、晋东南这3个战略要地。我听了中央的战略部署，更增强了深入敌后长期坚持斗争的信心。
在向朱总司令汇报的时候，我曾要求派一些八路军的军事干部到决死队来，以便把军事指挥权切实掌握在我党手中。朱总司令爽快地答应要多少给多少。后来陆续给新军派过近千名红军军事干部及抗大等其他各类干部，他们发挥了很大作用。这是八路军对山西新军的重大支援。
巍巍太行，耸立在晋冀之间，与黄河互为表里，确实是建立抗日根据地的好地方。遵照朱总司令的意见，一方面我对部队的行动做了部署，一方面即去太和岭口阎锡山的前线指挥所去见阎，我向阎谈了新军建立和发展的情况，谈了新军表现出的优越性之后，向他提出我想去晋东南。他问我为什么要去那里?我说晋东南的地理形势好，在那里可以建立一个抗日的落脚点。他附庸风雅地谈了一番历史，说自古都说山西是形胜之地、表里山河，其实上党古郡才是表里山河的表里山河呢。历代都把那里看作兵家必争之地。因为得了上党，跨过黄河就是洛阳，就可以得天下。最后。他同意我带决死队1总队去，并委任我为山西第3行政区政治主任。这时正是旧军溃败，阎走投无路，进步倾向最为明显，把希望主要寄托在新军身上的时候。我即乘机向阎锡山提出再组建5到10个旅的新军。阎锡山以第2战区司令长官的名义，先给了5个旅的番号，由我全权负责从速组建。于是，决死队由原来的4个总队很快就扩充为4个纵队(旅)，我提名各纵队的政治委员由薄一波、韩钧、董天知和李力果担任。在任命前，梁化之来同我商量，说政治委员都选用山西籍人是否好些，这实际上是阎的主意。我答应了。即改由我和张文昂、戎子和、雷任民同志，分别提任第1至第4纵队政治委员。韩钧、董天知、李力果同志分别改任第2、3、4纵队政治主任。同时组成的工人武装自卫队(团)，不久发展为纵队(简称“工卫旅”)。当时，南京政府军事委员会给决死队4个纵队和工卫旅的番号，为国民革命军独立第1、2、3、4旅和第207旅。
在雁北战事正紧的时候，周恩来同志来到山西。他一再开导阎锡山促使第2战区民族革命战争战地总动员委员会(简称“战动总会”)在雁北13县的沦陷区成立。由周恩来同志主持起草的工作纲领规定，这个委员会由共产党、八路军领导。阎不同意。我遵照党的意见去说服阎锡山，我“站在山西的立场上”对他说：现在把收复的沦陷区交给共产党、八路军领导，是最大的人情，可以加强合作抗日。那些地方是八路军从日本人手中夺回来的或者就要夺回来的。如果不让，共产党、八路军一定要坚持，我们也无可奈何，连个人情也落不到。阎锡山觉得我讲得有道理，只好如此，战动总会的工作纲领略加修改即找了几句“山西话”，也就勉强通过了。
1937年9月，战动总会正式成立，由共产党、八路军、牺盟会和各群众团体的代表组成，日常事务由常务委员会处理，续范亭同志任主任委员。邓小平、彭雪枫、程子华、南汉宸等同志参加了战动总会的领导工作，对山西抗日工作的开展起了重大推动作用。战动总会除在察南、绥远活动外，主要在同蒲路北段长城内外的沦陷区，深入发动和武装群众，活动区域达50多个县。战动总会在晋西北组建的近万人的13支游击支队，经常破坏敌人的交通运输线，袭击敌人的据点。1939年，整编为陆军暂编第1师，辖4个团又1个支队，由续范亭同志任师长，是山西新军的一部分。
为了独立自主地坚持华北敌后抗战，党中央和北方局十分关注在山西和华北地区由我党领导的武装力量的发展。在八路军进入山西的同时，刘少奇同志向华北地区党组织提出在3个月内扩大部队到10万。(刘少奇建议书中叫做“扩红十万”。)当时有少数同志不赞成，担心统一战线会破裂。那时，周恩来同志正在山西，他在给中央的电报中明确表示：“胡服提议3个月扩大到10万，我赞成”，并且在具体部署扩大部队时，把决死队和牺盟会游击队包括在内。“在晋东南军区，以决死队八千人为基础”。这个方针得到党中央和毛泽东同志的同意。
牺盟会一年来在组织城乡群众、开展抗日救亡运动和组建新军等方面所进行的颇有成效的工作，为八路军进入山西迎击日军和创建根据地提供了有利条件。而八路军挺进敌后，又极大地振奋了山西人民和全国人民，对牺盟会工作的展开和山西新军的壮大，对山西抗战形势的扭转和发展，起了巨大的以至决定性的作用。至1939年冬，山西新军已有：(1)4个决死纵队，各辖3个总队和3个游击团，合计24个团;(2)1个工人武装自卫纵队，辖3个团;(3)3个政治保卫旅，每旅各辖3个团，合计9个团，还有3个游击支队(团);(4)3个保安司令部，各辖两个团。合计6个团;(5)1个暂编第1师，辖4个团又1个游击支队(团)。以上共计50个团。其中46个正规团，4个游击支队(团)。兵力最高时达7万多人，超过了山西旧军。这支抗日武装，分别活动于晋东南，晋西北，晋西南等地区。 在反侵略的战火中成长
在抗日战争中，山西新军依靠军民结合的伟大力量，在八路军的强大支援和积极帮助下，作战数千次，有力地打击了日本侵略者，保卫了人民，锻炼了队伍，提高了战斗力。1937年秋至1938年春，主要进行阻击日军进攻的战斗;1938年到1939年，主要进行反围攻战斗;1940年参加百团大战;以后，主要进行反“扫荡”战斗，直到抗战胜利。1942年至1943年，著名的围困沁源斗争，就是决死1纵队为主体打的。经过长期锻炼，一些团队逐步发展成为我军的主力部队。
山西新军一成立，就面对着日军的疯狂进攻。各部队都是刚刚武装起来的工农知识分子，他们有同仇敌忾的决心，但是没有经过严格训练，更没有战斗经验。我们党派到新军的绝大多数领导人，包括我自己，都没有直接指挥过象样的战斗。大部分旧军官虽然打过仗，但许多人“内战内行、外战外行”，不敢接敌。我们这支战斗力差、在军事上受旧军官统治的部队，把不愿意、不接受改造的反动顽固的旧军官撤下来，代之以有抗日决心的新军官包括学会指挥作战的政治工作人员，这是一场严酷的斗争，能否改造成为一支抗日新军的关键所在(在1938年临汾袭击战后，薄一波同志就提出所有反动旧军官的连队，一律把他们撤下来代之以政治指导员，其任务是：保住枪支武器，不要丢掉，在对敌战斗中学会打仗。)，不经过实战的锻炼和考验，就不能形成有较强大的战斗力、能战斗的部队。我们只能在战争中学习战争，在反侵略的战火中成长。同时还要同顽固反动的旧军官争取领导权，任务艰巨。
从太原失守到临汾失守，即从1937年11月8日到次年2月28日，山西的主要城市和交通干线都已被日军占领。阎锡山退过黄河逃到陕西省宜川县秋林镇。山西新军在敌后开展游击战，不断打击敌人。例如：1938年2月下旬，决死1纵队1支部队在襄垣县夏店村附近袭击日军，毙敌五六十人。随后转至三不管岭袭击日军，致敌死伤逾百，并切断敌补给线，有力地配合了八路军129师主力在神头岭进行的歼灭战。还有一次，临汾之敌1000余人携炮10门出动，决死3纵队以1支小部队袭击其尾部，尔后迅速撤离，诱使敌先头部队与后续部队互相射击，死伤颇多。同年7月间，敌一运输大队300余人、汽车100余辆，由阳城开向沁水，我7、8总队各一部，于翼城、沁水间的东坞岭设伏，激战竟日，将敌全歼。
日军进占临汾等地后，先后对晋西北、晋东南、晋西南进行大规模“围攻”。在八路军的带领下，新军各部积极参加了反“围攻”战斗。
1938年春，日伪军集结1万余人分两路围攻晋西北抗日根据地。八路军120师集中兵力，迎击敌人，经过多次战斗，毙伤敌军1500余人，粉碎了这次围攻，收复7座县城，决死4纵队和战动总会、牺盟会领导的各游击支队和工卫队，参加了这次战斗，破袭同蒲路北段和太(原)汾(阳)公路、汾(阳)离(石)公路，配合主力部队围困岢岚和追击残敌，胜利地完成了阻击和袭扰任务。
在晋西南，政卫队从1938年2月开始，先后进行黑龙关、三关峪、古城镇、秦王岭、店头村、王庆等战斗。政卫1支队活动于汾水、黄河、同蒲路之间的稷王山地区，依靠群众，打击敌人，取得了不少胜利。活动在汾水以北、同蒲路以西的政卫2支队，1年间作战100余次，毙伤俘日伪军共500余人。
1938年4月，日军分兵9路对我晋东南根据地进行大“围攻”(即“九路围攻”)。八路军129师主力在游击队的配合下，于武乡县长乐村附近歼灭敌108师团1500余人，粉碎了围攻。在这次战斗中，决死1纵队和1总队在安泽县和川地区与沁源县中峪店附近伏击敌人6次，毙伤敌100余人，随后在同蒲路上伏击修路之敌，先后毙伤敌60余人。2总队尾追由长治撤退之敌，先后在襄垣的之 亭和长治、高平地区进行战斗，收复长治县城。4月27日，1总队配合八路军344旅在屯留地区的张店侧击撤退之敌，歼敌近千。
决死3纵队也打了不少胜仗，其中尤以4月20日夜袭沁水城一役最为激烈。9总队分数路一举攻入沁水城，到处与反扑之敌激战。敌人伤亡大半，被打死近百名，不得不撤离沁水，我军随即收复该城。
7月，敌越过滏河向我3纵队8总队防地秦岗进攻。敌我力量悬殊，8总队2大队阵地被突破，3大队被包围。干部战士奋战终日，毙伤敌四五百人。在这次战斗中，我军伤亡400余人，3大队大队长李荫汉同志和2大队副大队长王鸿献同志英勇牺牲。
同年10月，日军对晋西地区发动大“扫荡”。我2纵队5总队在灵石县罗汉村，夜袭敌清水旅团混合大队，歼敌300多人，受到纵队的通报嘉奖，被誉为“首创反'扫荡’杀敌之壮举”。截止1939年8月底的两年中，决死2纵队作战328次，毙伤俘日伪军共5000余人。
在晋西地区活动的战动总会游击队，1938年进行战斗100余次，毙伤日伪军近2000人，改编为保安2区队后，又进行了多次战斗。
1939年的麦收季节，日军的1个联队2000多人南下向我们进攻。我们按照集中优势兵力打歼灭战的原则，派1个团从正面阻敌，两个团侧击，在太岳山区韩洪镇展开战斗。部队打得很英勇，但是由于缺乏大规模作战的经验，这一仗没有打好，损失重大。这是决死队受到的一次严峻考验。
在抗击日军的严酷战斗中，山西新军不少干部、战士表现了视死如归的大无畏精神，献出了宝贵的生命。这方面的事例是相当多的。
李林烈士就是一位英勇献身的女英雄。她是抗战前随父母从印度尼西亚回国的华侨，后由上海经北平到山西。1936年参加中国共产党，曾任牺盟会特派员和专署秘书主任。在创建晋绥边区根据地的斗争中，她组建和领导的游击支队，屡建功绩，威震敌伪。1940年初，日军对晋绥边区进行大“扫荡”。我行署机关干部和工、农、青、妇训练班学员以及1个骑兵连共1000余人被敌包围，形势十分危急，骑兵连的指挥员又被隔在包围圈外。李林同志便一马当先，带领骑兵连向突围的相反方向冲杀，将敌人火力吸引过去，干部和学员们乘机突出了包围圈。可是李林同志为掩护战友们脱离险境，自己陷入重围，身负重伤，宁死不降。牺牲时，年仅24岁。党中央妇委特为此发出唁电，表彰李林同志“不仅是我女共产党员的光荣模范，而且是全国同胞敬爱的妇女英雄”。
在夜袭沁水的战斗中，重伤被俘英勇就义的决死3纵队7战士也堪称楷模。这7名战士，在夜袭沁水的战斗中，勇敢攻入城内，白刃相搏，身负重伤，敌人用各种手段胁迫他们投降，都被严词拒绝。临刑前，他们怒视敌人，高呼“打倒日本帝国主义!”壮烈牺牲。守敌头目黑田大佐为“教育”其部下替日本军阀继续卖命，特将我7烈士遗体合葬祭奠，立了“支那勇士之墓”的墓碑。
1939年12月3日，国民党军第6集团军总司令陈长捷部奉阎锡山密令，突然以重兵围攻晋西南新军决死第2纵队、政卫第209旅和八路军晋西支队。同时摧毁晋西南各抗日县政府和抗日救亡团体。大肆屠杀县政府和牺盟会干部及八路军伤病员。面对阎军的进攻，晋西南新军于12月6日组成“拥阎抗日讨逆总指挥部”，在八路军晋西支队协同下进行自卫反击作战，苦战10多天，击溃陈部两个旅，突围到达晋西北。阎锡山又令其第7集团军等部进行拦阻，并对晋西北新军和八路军实行围攻，均被击退。阎锡山在晋西南、晋西北挑起武装冲突的同时，还令其第8集团军在晋东南进攻新军决死第1、第3纵队。1940年1月中旬，阎军又袭扰晋中地区，进攻决死第1纵队。在八路军第386旅主力和总部特务团的支援下，决死第1纵队奋起反击，阎军暂2旅和新2师大部被歼。阎锡山发动“十二月事变”，企图压制新军、排挤八路军的目的未能达到。相反，其自身力量却被削弱，使蒋介石的势力乘隙而入。