历代中原皇朝面临的主要边防问题是与北方游牧民族的冲突，而在南方地区以及沿海地区的边防在很长的一段历史时期内并不构成重大问题，因此历代主要是沿北方边界展开边防军队的部署。
由于受山脉地势的影响，中原皇朝如果将北方边防线推进到祁连山—阴山—燕山以北，需要防守的正面就会成倍增加，呈现出巨大的漏斗形，需要部署的军队也需要成倍增加。而这一边界处在农牧经济转换区，中原皇朝的军队很难在当地解决供给问题，只能依赖中原农业地区的支援，这又制约着部署军队的数量。不过如果中原皇朝放弃这一线，北方游牧民族军队就容易沿河西走廊，或者沿六盘山、吕梁山、太行山这些呈南北方向的山脉进军中原，或者突破燕山山口进入华北平原，大致形成实行向心突击的态势。而中原皇朝部署的军队会受到这些山脉的阻挡，难以及时横向调动进行堵截，很可能落得个被动挨打的地步。因此历史上中原皇朝总是沿这一线山脉部署重兵，如果不能维持住这一线就会陷入边防危机。
自第一个统一全中国的朝代秦朝开始，北方边防军就一直是朝廷部署军队的重点，在漫长的边防线上集结着大量的军队。公元前214年，秦始皇派遣大将蒙恬率30万大军出征匈奴，在击败匈奴后，30万大军即沿着上述那条边防线部署，修筑长城，司令部设在上郡（今陕西榆林东北）。史书上对这些军队具体部署情况记载不清。从当时征伐南方动用的50万军队相比，蒙恬率领的北方边防军数量还不算太大。
秦末农民大起义后，北方的边防线瓦解，匈奴势力得以迅速向南扩张，经常出没黄河河套地区，频频向南侵扰。有的部落游击于陕北高原，离长安城只有700里，轻骑兵奔袭一昼夜就可抵达长安城下。
原来西汉的如意算盘是在边界设立诸侯王国作为和匈奴的缓冲地带，可是没料到同姓王往往并不具备镇守边疆的威信与能力。比如公元前200年匈奴进攻代国（今河北、山西交界的太行山北部地区，都城“代”在今河北蔚县），代王刘喜弃国而逃。立刘邦另一个儿子刘如意为代王，但却不敢去就国，仍然留在长安。而异姓诸侯王在与朝廷发生矛盾后，就往往和匈奴勾结，让开道路让匈奴入侵，甚至公开投靠匈奴，为虎作伥。公元前201年韩王信被汉高祖改封到太原以北地区，国都在马邑（今山西朔州市），当年就遭到匈奴的围攻。韩王信投降匈奴，让开大路，引导匈奴进攻太原。第二年汉高祖亲自讨伐韩王信，韩王信索性逃入匈奴部落，与匈奴合军，连年侵扰内地。公元前197年赵国（今河北南部，都城为邯郸）的丞相陈豨（xi）发动叛乱，自立为“代王”，与匈奴遥相呼应，也是靠刘邦“御驾亲征”才镇压下去。公元前195年燕王卢绾造反，与匈奴同谋，在被大将樊哙打败后也逃入匈奴。
在这样情况下西汉朝廷被迫改变策略，在以“和亲”为缓兵之计的同时，加紧向关中地区移民，增加兵源。为了加强边郡兵源，西汉还在公元前169年接受晁错的建议，征募农民往边防线一带移民，号为“移民实边”。以后规模越来越大，汉武帝时期曾征发60万人前往边境实行屯田，且耕且战。
同时将沿边各郡转变为战时体制，给予各边郡郡守军事指挥权，不仅可以指挥调动各地到边郡服役的戍卒，还有权在当地征发兵役，应付紧急情况。各郡由郡尉担任日常的军队组织训练，太守在战时为最高指挥官，有权临时决断，无须请示朝廷。尤其说太守是行政长官，还不如说是军区司令。汉文帝时云中太守魏尚平日每5天宰头牛慰劳士兵，军营市场的租税给士兵改善伙食。得到士兵爱戴。有匈奴入侵就带兵反击。后来只因为上报战功多报了6个首级，就被逮捕判刑。说明对太守的考核是以边防为主的。著名的飞将军李广在哪一个边郡出现危机时就被紧急调任，在40多年里先后担任过7个边郡的太守，威名远扬。
西汉边郡军队主要任务是防御小规模的侵扰，军队分散部署，固守据点。在边境线设候、障之类的堡垒，有候官、障尉、候长。这些据点相隔白天目视所及的距离，发现情况白天燃烟、晚上点火，传递消息。在判明匈奴的主要进攻方向后，朝廷再出动野战军。如公元前166年匈奴14万骑兵入侵，斥候到达距长安不足两百里的甘泉（今陕西淳化一带）。朝廷紧急征调军队，在长安、上郡（今陕西榆林一带）、北地郡（今甘肃庆阳一带）、陇西郡（今甘肃临洮一带）这4个地区集结，形成对陕北高原上匈奴军队的袋形半包围态势。但汉军仍然避免与匈奴大规模会战，听凭匈奴饱掠月余后退走。公元前158年匈奴再次大举入侵上郡，汉军也相应集结于长安附近的霸上、细柳、棘门，以及北地郡、飞狐口（今河北涞源一带）、句注山（今山西代县一带），防备匈奴南下或东进。但当时汉朝的经济实力还养不起这些临时征发组编的大军，匈奴退走，集结的野战军也就解散。
汉武帝亲政（公元前135年），汉朝开始转变北方边防战略。公元前134年任命李广为骁骑将军，屯兵于云中郡（今内蒙托克托）；程不识为车骑将军，屯兵于雁门郡（今山西右玉）。这两支军队堵住了匈奴沿吕梁山入侵的道路，而当匈奴向东、向南进军时，也可以从侧面打击匈奴。可能是因为后勤问题的制约，不久就撤消了这一部署。但这是在边防线上部署野战机动部队的开始。
公元前133年汉武帝接受聂壹、王恢的建议，引诱匈奴进入马邑，汉军在两侧部署了30万人，打算进行一次决战。可密谋泄露，匈奴迅速退走。从此汉朝动员并部署了大量的骑兵，在边境以野战军展开机动作战。公元前129年，在匈奴袭扰上谷（今河北怀来一带），汉军从上谷、代郡、雁门、云中4路出击。第二年匈奴2万骑兵袭扰辽西（辽宁义县一带），汉军在辽西进行牵制，主力3万骑兵从雁门、代郡迂回出击，截击匈奴后路。公元前127年，汉军再次反击，在上谷等地牵制匈奴，主力5万骑兵进行大迂回作战，一举消灭在河套地区盘踞多年的匈奴楼烦、白羊部落，收复全部河套地区。
这一仗获胜后，汉军开始发动主动进攻，公元前124年至公元前121年，每年都发起新的攻势，公元前119年更是出动了10万骑兵分两大纵队、4路深入漠北（蒙古高原大沙漠以北地区统称），击败匈奴主力，打通河西走廊，将边防线推进到祁连山、阴山以北，并开始在这一线修建长城及烽燧据点。
在边防线上长期维持如此规模的机动野战军是汉朝难以承受的财政负担，不久就只留下和原来体制一样的边郡驻守军。几年后匈奴卷土重来，攻掠设立不久的五原郡（今内蒙包头附近），杀死太守。说明边郡驻守军仍不足以抵挡匈奴。
以后汉朝每隔5、6年就征调野战军出塞，前往漠北扫荡一次。公元前110年汉武帝还曾亲自率领18万骑兵“巡边”。这样的扫荡战，战果很少，还造成几次重大损失。如公元前99年李陵步兵被全歼、李广利大军也遭围歼。但至少战场都是在边防线外，战争的主动权也在汉军手中，对匈奴造成了持久的压力，导致匈奴多次发生分裂。公元前57年匈奴分裂为5个单于部落，开始互相攻击。一批批匈奴贵族带领部落投降汉朝。公元前53年呼韩邪单于内附，要求沿汉朝边塞居住，为汉朝守边。西域诸国对于匈奴的侧击也取得很大成果。公元前36年，汉朝西域都护甘延寿，征发在西域屯田的士兵以及诸国军队，组成联军，深入匈奴右翼，围攻郅支单于的王城（今哈萨克斯坦共和国的江布尔），全歼该部匈奴。汉匈大战至此告一段落。
以后西汉一直仍然维持边郡的战时体制，只是随着边境压力的减轻，公元前54年汉朝廷下令减少20%的戍卒。公元前33年呼韩邪单于建议由内附的匈奴部落代为防守边防线。汉朝讨论时大多数朝臣都同意，只有侯应认为要“安不忘危”。汉朝决计继续维持这一体制。边境维持了几十年和平局面。到西汉末年****，尤其王莽篡汉后倒行逆施，百般侮辱匈奴族，多次要求匈奴首领改称号为“恭奴善于”。激起匈奴部落反抗。王莽集结起20多万大军征讨，又大大加剧沿边汉族人民的负担，也起兵反抗。边境局势大乱。东汉建立之初，边防线退后到陕北高原、吕梁山、太行山、燕山山口一线。不少原来建立的边郡放弃，人民迁往内地。好在公元48年匈奴分裂，南匈奴部落内附，北匈奴远迁漠北。辽西的乌桓部落也内附。使得东汉边防危机缓解。南匈奴、乌桓为汉朝守边，汉朝巩固了阴山北的长城防线。
东汉边防军体制与西汉有所不同。西汉的将军是战时任命，战后就撤消。而东汉在公元50年设立匈奴中郎将，负责防备匈奴；不久设立护羌校尉防守青海湖一带；设西域都护、以及戊己校尉防卫西域，都是常任的边将，集中指挥边郡军队，是名副其实的军区司令。边郡太守兵权被削弱，郡都尉也被撤消（以后又陆续恢复）。边将所指挥的军队性质也与西汉不同，士兵有的是从汉族百姓或当地少数民族中征募，或者是谪戍的罪犯，都是职业兵。公元72年后汉朝恢复攻势，89年窦宪等发动远征，北匈奴势力衰落。最后有20多万人投降。
东汉在边防线设置专门军区、以职业兵守卫边防的作法为以后各代继承。北魏在经过长期战乱后重新统一北方的同时，大致沿汉长城线布防，设置军府或军镇，实行军管统治，镇将“上马管军、下马管民”，是武将兼文官，实际和西汉初年文官兼武将的制度相仿。在北魏的统治稳定后，开始将很多军镇改为州郡，但仍保留沃野（今内蒙五原北）、怀朔（今内蒙固阳北）、抚冥（今内蒙四王子旗东南）、武川（今内蒙武川西）、柔玄（今内蒙兴和北）、怀荒（今河北张北北）6个军镇，号为“六镇”，沿阴山南麓大致形成一条东西向平直的防御线，作为防御正北面柔然部落侵扰的边防军区。另外西北的防御则保留敦煌、鄯善（今青海西宁一带）、薄骨律（今宁夏银川）等军镇。各镇设置镇都大将（镇主）为最高指挥官，镇下要地设置据点“戍”，由“戍主”指挥，往往兼地方的太守。“六镇”军人原来都是鲜卑部族兵，地位很高，但随着鲜卑族的两极分化，军官成为贵族，而士兵地位下降。自北魏孝文帝改革后，北魏鲜卑贵族迁往洛阳；镇兵则大量加入很多各族战俘以及罪犯，都被划为“营户”，世袭为兵，处于贱民地位。这种地位的反差成为后来六镇发动叛乱的导火索。
唐朝建立起空前强大的帝国，唐太宗时将全国划分为41个军区，各设置都督府，主管军事，和358个州的民政系统重叠。边防线设置了6个大军区，其中5个在北方，各设置“都护府”，统管军区内军民事务。从西而东分别为：安西都护府，设在龟兹（今新疆库车），镇守天山南部及以西地区，以下设置龟兹、于阗、疏勒、焉耆4镇为军分区；北庭都护府，设在庭州（今乌鲁木齐市），统领天山以北16个府、州；安北都护府，设在金山（蒙古科布多），下辖6部都督府，统辖广大漠北地区；单于都护府，设在云中（今山西大同），下辖3个都督府、14个州，统辖漠南地区；安东都护府，原来设置于朝鲜半岛，后来内迁到辽东（今辽宁辽阳）。南方设置安南都护府，设于交州（越南河内）。
都护府的军队大多征发当地各民族组编而成，仅在大战争情况下才由朝廷派兵。由于距离遥远，都护府有相当的自主权力，自行因地制宜组编边防军部队，一般以地名称呼，大的称某某军，小的称某某守捉、某某镇。
唐朝建国百年之后，契丹、奚等逐渐在北方兴起，吐蕃也从西向东扩展势力。唐玄宗时期重新部署边防，先是在北方设置左、中、右3大军区，各设大总管府，增加部署兵力。
以后在沿边都护府和原来的行政监察区“道”的基础上，将沿边的“道”组编为军区，设置“节度使”，作为皇帝的代表，执掌军政全权。北方设置8个节度使：原来的安西都护改为安西节度使，仍统4镇，常备军约2。5万人；北庭都护改为北庭节度使，统天山北路，2万人；河西节度使，设在凉州（今甘肃武威），防御河西走廊，隔断吐蕃和突厥，下辖8军、3守捉，有7。3万人；陇右节度使，设在鄯州（今青海乐都），防御吐蕃，下辖10军，7。5万人；朔方节度使，设在灵州（今宁夏灵武），下辖原来安北、单于2都护和3军、3城、3州，有6。47万人；河东节度使与朔方节度使并列，防备正北方向，设在太原，有5。5万人；范阳节度使，设在幽州（今北京），防御燕山山脉正北方向，下辖9军、9州，有9。14万人；平卢节度使，设在营州（今辽宁朝阳），下辖2军，以及原来的安东都护府，有3。75万人。西南地区设剑南节度使，防御吐蕃，有6军13州，3万多军队。
由于府兵制瓦解，为解决兵源，允许节度使就地征募组军。原来的都护出镇挂帅，回朝执政，到此时节度使大多为少数民族将领，长期任职。职业将领率领职业士兵，仅北方边防军就已超过了40万人，实力大于朝廷中央军集群。导致后来“安史之乱”的发生。
唐末藩镇之祸给宋朝统治者留下了太深的印象。因此北宋无所谓边防军，一律由中央派遣禁军轮流到边防镇守，而且为防止武将擅权，改派文臣挂经略使之类的头衔担任总指挥，武将不得掌握全局。北宋已丧失燕山山脉屏障，北方边界无险可守，只能以野战军机动防御，但这样的体制下，军队部署和调遣难以实现机动灵活，在面对辽、西夏的骑兵机动部队时，处处被动，处处挨打。
有的少数民族皇朝在入主中原后也遇到需要在北方边境布防的问题。比如女真族建立的金朝在入主中原几十年后，北方蒙古势力兴起，金朝被迫组建向北、向南两大战略方向的边防军，1161年后分别在泰州（今吉林乾安）、恒州（今内蒙正蓝旗）、丰州（今内蒙呼和浩特东）设置“招讨使”，统辖北部边境线上的军民。组建的边防军绝大多数是被金朝降伏的各部族军，甚至东北招讨使还有奴隶组成的“驱军”。
明朝建国后长期与蒙古各部落处在战争状态，经徐达等几次征战，北方边防线稳定于燕山北麓至阴山南麓，沿线从东往西设置军事据点，其中最重要的是辽阳卫、大宁卫（今辽宁宁城西）、开平卫（今内蒙多伦北）、大同卫、东胜卫（内蒙托克托）。这些据点一般有左、右两卫兵力，是防线上的核心据点。明初还曾企图以藩王镇守边境，北方自东而西封有宁王（即原大宁卫）、燕王（北平，今北京）、谷王（宣府，今河北宣化）、代王（大同）、晋王（太原）、秦王（西安）、庆王（宁夏，今银川）、肃王（甘州，今甘肃张掖）8位藩王，都配备了3卫军队为王府护卫，而且还有指挥驻军的兵权。其中燕王朱棣军事实力最强，北平一带部署有16个卫的兵力，而且还因在1390年征伐蒙古的战争中获得胜利，得以将超过万名投降的蒙古骑兵编入自己的军队。成为后来发动“靖难之役”的资本。
1402年朱棣在经过残酷的内战登上皇位后，迅速开始削减藩王的护卫兵力。在5次劳而无功的“御驾亲征”漠北的同时，明成祖改变边防战略，划定北方边防线沿大兴安岭、燕山、太行山、吕梁山口、经陕北高原沿祁连山北麓向西延伸至嘉峪关，沿线陆续修建“边墙”（习称明长城）。并在边墙一带陆续设置军镇，号为“九边”，即辽东、宣府、大同、延绥（榆林）、宁夏、甘肃、蓟州7个军镇，再加上靠近边境的太原与固原卫也称之为镇。明初原来设置的边卫都撤至长城以内，成为守卫长城的驻防军。长城外的防御依靠内附的蒙古部落。比如原来的大宁卫就移交给蒙古族的兀良哈部落，号为朵颜、福馀、泰宁三卫。后来将长城外各少数民族部落统辖于“奴儿干都司”之下，给各部族以“卫”的番号，共有384卫之多。如后来建立清朝的女真部落就曾被编为“建州卫”。
九边军镇各设置总兵，重要战略方向在几个总兵上设总制、总督。如“三边总制”统辖延绥、甘肃、宁夏3镇；蓟辽、宣大总督各统辖2镇等等。总制、总督有一定的临时处断权力，但和唐代节度使不同，九镇只是军区，没有干涉民政的权力。
原来明初的边卫士兵都是土著兵以及充军的罪犯，有战事情况下征调其他卫军，号为“客兵”。永乐年间，开始规定由内地军卫士兵轮流戍边，谓之“边班”。以后逃亡日甚，逐渐改为招募，兵员数额也逐渐减少。明初仅宣府一镇就有将近10万官兵。百年后官兵实有数6。69万，其中一半是招募的。
按照制度，各镇总兵官、总镇军统领正兵，副总兵分领3000为奇兵，又设游击分领3000兵员“往来防御为游兵”，参将分守镇各路东西策应为援兵。边防线上营、堡、墩、台都依据要紧程度部署士兵。平时应时常组织出塞巡逻侦察，清理道路，修建工事。但是到后来制度废弛，军纪涣散，战斗力极差。
尽管明代修建的砖石长城是历代最牢固的，部署的边防军也达到了数十万人，并且还装备了当时最先进的火器，但是这条边防线却是历史上最不堪一击的。蒙古部落及后来的满清都曾多次穿越这条防线，直逼北京城下，形成历代罕见的“边患”长期困扰局面。
满清皇朝是在统一蒙古各部后入主中原的，在很长的时间里，北方边境太平无事，清朝廷因此并没有在北方边境部署大量的边防军队。只是在与俄罗斯、西北一些少数民族发生冲突与战争时，临时组建野战军出击，集中兵力解决边境问题。仅在新疆地区驻扎了较多的边防军队。