南口是扼冀察与山西的咽喉，其地形多崇山峻岭，关隘重叠，易守难攻，乃古今兵家必争之地。
日军也清楚认识到南口在军事上的战略地位。从平绥路进军山西，可以夺取整个华北;另外可以清除后侧之威胁，保证日军顺利南下。日本政府抽调精锐部队有：铃木重康率领的独立混成第十一旅团、酒井镐次率领的独立混成第一旅团，以及板垣征四郎率领的第五师团共计兵力在七万人以上。因此南口天险对日军来说，是势在必得。
汤恩伯在南口防御，主要依靠两个人。一个是第四师副师长陈大庆。汤军急援南口，当地仅派参议作形势之联络，对南口方面的地形，还是陈大庆自己去摸清楚的。他在横岭城，组织临时司令部，用电话指挥前线部队作战，听取敌情，随时遣调布置，同时向后方高级长官报告，或传达上级命令。他对于前方地形相当熟悉。
另一位是第八十九师师长王仲廉，他访问怀来城内八旬老者，询问八国联军是如何攻下南口天险的?8月4日，“为明了南口一带地形现象，以便战术应用，达成战略目的”，他携副师长、参谋长、旅、团长诸人，同往南口及两翼山地视察。接着采取了缩小南口正面防御阵地，固守两翼高山作战计划。将南口车站……改为前进阵地，而将主阵地移至南口及两翼山麓、山腹。”总之利用“复杂地形”，决定配备纵深阵地，以阻敌军，达到持久战消耗敌人之目的。
汤恩伯是蒋介石的嫡系，蒋很赏识汤的才华。汤经常向蒋呈递“手本”献策。第十三军在百灵庙一战后，奉命屯兵平绥路，其指挥部设在平地泉。7月9日，当汤恩伯听到卢沟桥事变的消息，立即上电蒋委员长：“卢沟桥事变传来，愈感边防危急，职除督饬所部坚固驻地防御工事外，并饬属随时准备待命中。关于冀察当局方面，亦正设法联络中。”第二天，汤便收到蒋的回电：“所见甚是，希妥为准备应付时局外，并对于冀察方面密切联络，务期中央与地方融成一气为盼!”接着汤恩伯给第一战区的军政要人宋哲元、冯治安、秦德纯等去电称：“本军戍驻边陲，责任卫国。贵方如有所需，请时予指示，誓率所部，为贵军作后盾。”一星期以后，汤恩伯又上电蒋委员长暨军政部长何应钦，表示十三军将士誓死抗战的决心。平津两地陷敌，日军向北平的沙河、昌平一带集中，南口战役即将揭幕。
汤恩伯是南口战役的前敌总指挥，又兼第十三军的军长。旗下兵力近六万人。包括两个军、两个师及一个旅。而第十三军是南口战役的主力;全军人数有两万八千人。第十三军是中央军嫡系部队，其素质和装备较其他部队为优秀。
从7月底至8月底，蒋介石几乎每天给前敌总指挥汤恩伯发指令。有时一天两三次。1937年8月18日，蒋介石致汤恩伯电：“汤总指挥，兄部无线电报应每日晨、午、晚三次与京中通电，怀来等据点城防工事已成否?盼复。中正手启。”
8月13日，汤恩伯给罗芳团长电令称：“南口阵地，关系国家对抗战之成败……尤其吾人赖以抵抗强敌者，为战斗精神，而非大兵与精良之武器，吾侪誓死决不离开阵地寸步。人生百年，终须一死，好汉死在阵头上，即为军人光荣之归宿。”“请以此意转告与吾侪同生死、共患难之全体官兵，倍加努力，争取胜利为盼!”又给王仲廉师长电示：“南口阵地，即为吾侪光荣之归宿。我死则国生，我贪生则国死，吾侪宁死尽以维护此阵地，并不幸求生还也。并转告全体同生死之官兵们!”苟吉堂在《南口之役》一书中称：中国军队“固守南口之恶战，已达白热化，有形之实力，固已对敌战斗作最有效之使用，而在无形的精神因素上，亦已发挥到最高限度，形成有我无敌之气势，此实为汤总指挥守备南口指挥作战之伟绩。”
作为战役的前敌总指挥汤恩伯责任重大：他首先考虑的是如何指挥好这一场战役，打好这一场仗。他把总指挥所放在怀来城内;但经常去师、旅、团指挥所，与下属将士商讨如何打击敌人，同时还鼓励官兵为国争光。汤恩伯只有两个传令兵随身跟着他，那么卫兵、勤务兵呢?早已加入火线去了。他到前方去指挥，对着兵士沉痛地说：“我们要好好的打呀!”他只能说这样简单的话了。他一看到自己的兵士，眼眶里就充满了泪水。兵士们见到这样一个人，也认不得他是谁了。猛然认出，这是军长呀!当他们想过来这个人与他们的关系之时，也感动得流出泪来。
著名记者范长江在当时《大公报》上报道：“汤恩伯先生因为日夜辛劳的结果，瘦得不成样子，两个眼睛深深的凹入，整个身体剩下了皮包骨头。”“故日夜操劳精密指挥，已半月未曾得一安眠机会，整天和电话、地图接近，时时注意敌人一尺一寸的移动”。
8月25日，日军猛攻横岭城和居庸关;接着日军随即在飞机、大炮的支援下，攻击怀来城。这样，长城线上各据点守军已处在日军前后夹击态势下。张家口已失守;卫立煌部队仍未联络上。加上居庸关、横岭城告急。汤恩伯当天晚上将战况紧急电告蒋介石。蒋于26日上午来电，仍叫“死守阵地，切勿再退”。作为前敌总指挥的汤恩伯，经过周密分析和正确判断，决定于下午1时30分下令要全军突围。退却令下达后，第二十一师、第八十九师分两路突围，都到甘家堡、辛店集结。第七十二师、第四师经洋河左岸，向土木堡一带集结。独立第七旅固守怀来，并掩护其他部队转移。第八十四师，向长安岭、沙城一带集结。第九十四师，一部开赴涿鹿担任城防;另一部占据延庆以东阵地以掩护二十一师、八十九师转移。总指挥部已转移至桑园。撤退令到达各固守点时，各部队仍在与深入围困我阵地的敌人激战，各处的战场几乎是交错混乱的胶着状态。为了脱离接触，激战昼夜不停。直到8月27日，转移中的部队，仍与四面来袭的日军苦战。汤总指挥再令各部分别向广灵、蔚县、谢家堡、龙门口、马水口等地集结。
南口激烈的攻守战，历时20多天，中国军人以伤亡33000人以上的代价，歼敌15000人。第十三军是这一场战役的主力，伤亡12600人，占全军人数28000人的45%以上。这一场防御战，中国军人打得勇猛、顽强、悲壮、机智。打掉了日本皇军不可战胜的神话。创下了一次战役日军死伤万人以上的纪录，延缓了日军攻占山西的时间，使日军“三个月内灭亡中国”的迷梦破灭了。当时，中共中央机关报《解放》周刊短评写道：“不管南口阵地事实上的失却，然而这一页光荣的战史，将永久与长城各口抗战，淞沪两次战役鼎足而三，长久活在每一个中华儿女的心中。”