而皇甫嵩的将略，在平定陈仓之乱时，得到充分的体现。陈仓之战，皇甫嵩数次违反兵法，却次次出奇制胜，最终取得胜利。当时，凉州地区的少数民族也在一些汉人官员的怂恿下起兵叛乱，韩遂等人推举王国为自己的首领。当时，王国包围了陈仓，一旦陈仓陷落，关中就很危险了。于是，朝廷下令有皇甫嵩和董卓率军四万，前往征讨。
董卓做为副帅，总是觉得自己手握凉州雄兵，视天下英雄如无物，对在剿灭黄巾之乱中竖立威名的皇甫嵩也不放在眼里。在董卓心中，黄巾军不过是乌合之众，挥手之间，自然可以扫灭。面对陈仓被围，董卓主动求战，说：“陈仓危急，请速救之。”可是皇甫嵩却说：“不然，百战百胜，不如不战而屈人之兵。”打胜仗又有什么了不起呢，在古代打仗杀敌一千，自伤八百。皇甫嵩认为，眼前的陈仓虽然只是一个小县，但是城池坚固，易守难攻。现在王国包围陈仓，很难在短时间攻打下陈仓。只要时间一久，王国的士气必然下降，等到他们军队疲惫的时候，率军突击必然可以大获全胜。
果然，王国进攻陈仓八十多天也没有拿下，粮草不继，准备撤军。此时皇甫嵩下令突击，准备和陈仓守军里应外合，内外夹击。此时董卓也上前阻止，说绝对不可以，并引经据典说：“穷寇勿追，归众勿追。”皇甫嵩于是给董卓分析当前形势，认为之前自己不主动出击，是因为王国军队士气旺盛，一旦交战，自己只有四万人马，而王国军队十余万，很难取胜。此时王国经过八十多天的攻城战，士气低落，将士疲惫。而我军经历八十多天的养精蓄锐，早就期待一战，此时追击，我强敌弱，必然大胜。董卓坚持自己的看法，于是皇甫嵩独自率领自己手下的军队进攻，果然大获全胜，斩首万余人，陈仓之围解除了。
王国大败之后，被手下韩遂干掉，然后劫持一位叫做阎中的官员继续做自己军队的傀儡。可不久阎中死去，韩遂和其他首领起了内讧，互相攻杀，凉州兵乱也就渐渐平息下去。不过，皇甫嵩虽然是一位出色的将军，对于军事很在行，可是对于政治，反应却很迟钝，以至于让董卓坐大，最终祸国殃民，自己也深受其害。