西汉时期，在繁忙的丝绸之路上，除了匈奴还有另一个让汉宣帝头痛的对手——西羌。西羌人当时主要集中在河西走廊一带活动，也是一个作风强悍的战斗民族。由于大漠自然资源贫乏，为了部落的生存，西羌人生性坚刚勇猛，常以战死为吉利，病终为不祥，并且艰忍耐寒，哪怕女人怀孕生孩子也从不避风雪，身体素质简直是强到令人发指。如果说匈奴是当时最强悍的草原骑兵，那么羌族就是当时最强悍的山地步兵。
汉昭帝时，汉朝为了进一步稳固帝国西陲的边防，于公元前81年在西羌河湟故地增设了“金城郡”，金城的意思是希望此地如金铸成，坚不可摧。治所在允吾（今甘肃永靖西北），辖今甘肃省兰州市以西、青海省青海湖以东的广大地区，并迁移了大量汉民过去生活，以壮大其力量。从此，湟水流域二十年太平无事，直到公元前62年，湟水两岸发生一场前所未有的巨乱。
这一年，汉宣帝派光禄大夫义渠安国（为义渠部落后裔）出使西羌，宣导汉朝的民族政策。西羌先零部落的酋豪便趁机向义渠安国提出了一个居心叵测的请求，想渡至湟水北面，那里自然资源丰富，生活更容易些。西羌自从迁徙到青海湖一带后，日子过得很艰苦，始终惦记河湟故地那一块美丽富饶的地方。他们保证，只要能让他们回到故乡，绝不侵扰农田，他们只是想在汉民弃耕的荒地上放羊牧马。义渠安国一听“家乡”这个字眼，立马觉得这是一个多么淳朴的要求啊，简直被感动得不行了。他二话不说，立刻答应了羌人的请求。然后回到长安向宣帝报告了这个情况。
旁边的赵充国一听，立刻感觉大事不妙。因为汉朝的大臣中没有人比赵充国更了解西羌。他原本是陇西上卦人，后响应武帝移民河西的号召，举家迁往金城令居，并在那里度过了自己的青少年时代。令居是汉族和羌族之间的要塞，赵充国一家常年跟羌人打交道，最了解羌人的习性。他们这下回到了魂牵梦绕的家乡，怎么可能老老实实地避开汉人农田去放牧？于是赵充国立刻给汉宣帝上书：义渠安国感情用事，奉使不敬，擅作主张，招寇生事，其心当诛也！
汉宣帝看了赵充国的上书，内心也有一丝慌乱，但他还存着一丝侥幸，也许事情不会糟糕成那样，只要汉朝对羌人善加抚慰，用关爱打动他们，或许就能让他们与汉人和睦相处呢。然而汉宣帝想错了，事情很快就变得无法控制。西羌各部落以汉使有言在先为由，不顾汉军阻拦，强行渡过湟水，如潮水般涌入金城、武威各郡县，汉朝军队拦都拦不住，这下可真是成了“请神容易送神难”了。
汉宣帝没辙，只好吩咐河西各郡县严加监控西羌各部落移民，然后等待下一步指示。然而不久，河西各郡县传来了一个更可怕的消息：本来不共戴天的西羌各零散部落，竟然结成了联盟。原来，西羌在渡过湟水对岸后，先零部落酋豪马上就站出来牵头，召唤周边各羌族部落开了个重要会议，参加此次会议的有大大小小部落首领共两百多人，达成了摒弃前嫌，交换人质，订立盟约，齐心协力为美好生活奋斗的联盟。原本一盘散沙的西羌，其战斗力顶多与西域一小国力量相当，然而团结紧密的西羌联盟，其实力决不会比匈奴差。
汉宣帝有点懵，又喊赵充国来商量。赵充国一见面就告诉汉宣帝，事情恐怕比想象的还要严重，因为根据以往的经验来看，这个羌族结盟的背后主使一定是匈奴，估计已经筹划好多年了。赵充国的建议是：如今匈奴力量不如以往，属国尽叛，西羌是他们现在最后的希望了。这会儿肯定已经有匈奴的人秘密潜到了西羌部落中，策划里应外合，准备拿下河西移民区。现在我们要做的就是未雨绸缪，早作防范，把他们的计划扼杀于摇篮之中。
汉宣帝一听很有道理，赶紧吩咐河西各郡县，严密监视匈奴动静，一有风吹草动就立刻报告。一个多月后，河西情报人员传来可靠消息：西羌某部落狼何派人向匈奴借兵，准备攻打楼兰与敦煌，切断汉朝与西域的连接枢纽，拿下郑吉带领的数千西域屯田兵。然而实际上，狼何部落远在阳关（玉门关之南）西南，并没有什么实力，他们居然敢打汉朝屯军的主意，这一定是匈奴人搞的鬼。事实证明，姜还是老的辣，赵充国的判断是对的。汉宣帝让赵充国出主意，赵充国认为：匈奴与西羌某些小国已经统一目标，但他们暂时不会出兵，等到秋天马肥之后才会有所行动。赵充国还建议汉宣帝应立刻派使者巡视边塞，囤积粮草，加强守御；同时区别善恶，严打首犯，采取分化离间的方式，瓦解羌族联盟，应先下手为强，破坏匈奴的阴谋计划，并推荐了当时的酒泉太守辛武贤出使边疆。
汉宣帝接受了赵充国的建议，但在具体实施的时候他不吸取教训,又一次自己拿主意，选择让丞相魏相与御史大夫丙吉来谋划此事。魏、丙二人不同意让辛武贤出使，反而决定让义渠安国戴罪立功。汉宣帝不知道怎么想的，居然同意了，还给了义渠安国调兵的虎符，吩咐他遇到紧急情况可以自己做主。
赵充国又一次气炸，义渠安国这个不靠谱的人，这次出使肯定又会坏事。果然，义渠安国继续发扬“不靠谱”精神，把赵充国的建议抛到脑后，决定跟羌族死磕，把他们全干掉算了。
公元前61年春，义渠安国率领两千骑兵，来到羌人聚居处附近摆了一出“鸿门宴”，假装请先零等三十多个西羌部落首领前来开会，会开到一半，义渠安国忽然翻脸，大开杀戒，把这三十多个羌人部落首领全都砍了。这还不算，他又趁羌人不备，发兵攻打羌人聚居区，一口气斩杀千余无辜羌族百姓。可是，羌族并没有全部跟匈奴勾结，比如以靡当儿、靡忘为首的一部分羌人首领，他们是主张归顺汉朝的和平派，与汉人在河湟地区和平共处，与匈奴勾结的只是小部分羌族人。
义渠安国的鲁莽行为刺激了已经归顺汉朝的先零首领杨玉等人，带着满腔愤怒脱离了汉朝，甚至号召包括靡当儿、靡忘在内的西羌各部首领揭竿而起，向汉朝边塞城邑发动猛烈的攻击。义渠安国这下惨了，他的部队在浩亹（音高门，在今甘肃永登县西南、大通河东岸）这个地方遭到羌军袭击，伤亡惨重，所有的武器和粮草全都丢失。这位安国君一口气逃到令居，闭城拒守，赶紧向长安求援。
接到救援信号的汉宣帝让当时的御史大夫丙吉挑选有能力的人出征。丙吉就找到老将赵充国商量，谁知道赵充国听完之后就推荐了自己，并且强烈建议没有人比自己更适合了。丙吉当场傻眼，当时的赵充国已经古稀之年，是属于国宝级的人物，让“国宝”带兵出征恐怕不太合适。但丙吉还是老老实实地回去把赵充国的话传达给汉宣帝。汉宣帝听了也很惊讶，但他也没说什么，主要是不知道说什么好了，于是让丙吉再跑一趟，去找赵充国确定一个问题：将军能否预测目前羌人的势力，打算带多少兵马去？
丙吉无奈，只好再跑一次腿。赵充国在听完汉宣帝的问题后，书了一句流传至今的名言。这句名言就是——百闻不如一见。汉宣帝听了赵充国的回答后，爽快地答应让他出征。
赵充国到前线后，审时度势，认为当务之急并不是组织军事进攻，而是要从内部逐渐瓦解羌人并不牢固的同盟关系，能不攻自破最好。但是长安的主战派给汉宣帝上书，说最好在七月份水草好的时候进攻，带上三十天口粮就能完成出击，即便不能消灭敌人，也能抢一些农业品回来，打击他们的生产力。若等到冬天，不仅天气不合适，而且战马也发挥不出优势，打赢的概率会减少。汉宣帝把这个建议传达给了赵充国，没想到赵充国立刻提出反对意见——如果每人每马带三十日口粮的话，则每匹马又要驮米又要驮人，还有衣服兵器等，负重太多，跑不快，不仅没法追击敌人，而且还有被关门打狗的风险。
汉宣帝没办法，只好又任命许延寿为强弩将军，主战的辛武贤为破羌将军，参与对羌作战，并再一次督促赵充国出战。为了说服赵充国，汉宣帝甚至搬出了天象大法，说如今五星出东方，是大吉的预兆，太白出高，用兵深入敢战者一定会凯旋，你要是不出战那就凶多吉少。但是老成持重的赵充国吃了秤砣铁了心，不但不接受汉宣帝的洗脑，反而苦口婆心地劝宣帝接受自己的策略。
同年秋天，赵充国生了病，宣帝除了慰问之外，又下令让破羌、强弩将军主动出击羌人。病中的赵充国看到羌人归降的已有一万余人，估计将来归降的会越来越多，此时更不能轻举妄动，于是他上书反对出兵，而且要求大规模屯田，以镇西羌。这个时候汉宣帝耐不住性子了，质问赵充国：如果按照将军的办法，这羌族什么时候才能拿下？战争什么时候才能结束？
就这样来来回回的，赵充国一直劝汉宣帝，汉宣帝每次收到赵充国的上书都拿去给大臣们看，让他们讨论，一开始赞同的只有三成，慢慢地有一半人同意，到最后八成人都赞成赵充国的意见。最终，赵充国的策略慢慢开始发挥作用，羌人内部逐渐分化瓦解，并归附汉朝，赵充国凯旋还朝。
公元前60年，汉宣帝在乌垒城(今新疆轮台东北)设立西域都护府，监护西域诸城郭国，使天山南北这一广袤地区正式归属于西汉中央政权，这一举动具有划时代的重大意义。