凉州卢水胡伊健伎妾、治元多等反，河西大扰，称帝即位不久的魏文帝曹丕十分忧虑，说“非既莫能安凉州。”乃召回邹岐，另以张既为凉州刺史，诏曰“昔日贾复请求统兵去攻打郾县的贼寇，光武帝笑着说执金吾去攻打郾县，我还有什么烦恼呢你智谋胆略都胜过别人，现在正是你施展本领的时机，我允许您因利乘便，相机行事，不用再先向我请示。”又派护军夏侯儒、将军费曜等人领兵在他后面接应，张既率军到达金城，要渡过黄河，部下将领、守备都认为兵少路险，不可深入敌方腹地。张既说“道路虽然险峻，却不像井陉那样狭窄，夷狄都是乌合之众，不会有李左车那样的计谋，现在武威郡很危急，应该迅速赶到那儿。”就断然下令渡河。

卢水胡骑七千余在鹯阴口，狙击张既的部队，张既扬言要由鹯阴口渡河，却悄悄地经过且次县到达武威，胡人都以为遇到了神仙，退却到显美县，张既已然占据了武威，费曜的接应部队才赶到，而夏侯儒的部队还没到达，张既犒劳赏赐部下，打算进军攻击胡人。将领们都说“我方士卒疲倦，敌人却保存着锐气，很难同他们打仗。”张既说“现在军中没有现成的粮草，应当就敌人处取得资用，如果敌人发现我方兵力聚集，就要退进深山，那时候再追击他们，道路既险峻难走，士兵又饥饿疲累；如果退兵不追，又会遭受敌人的抄袭。这样的话，部队就总也得不到休息，正应了前人所说的一旦放跑了敌人，危害会延续好几代。”于是便领兵挺进到显美县，遭遇卢水胡的几千骑兵，要借助大风放火烧毁魏军的营盘，张既部下的将士都很恐惧。张既夜间埋伏下三千精锐士卒，让参军成公英督率一千多骑兵挑战，命令他们佯装败退，卢水胡果然争先恐后地来追赶，于是伏兵四出，截断了胡人的队伍，分别攻击他们的首尾，结果大获全胜，斩首俘虏一万多人。

曹丕非常高兴，下诏说“君渡黄河，历险境，用疲劳的军队攻击有准备的敌人，以少数胜多数，功劳盖过了周宣王时的南仲，勤劳超过了尹吉甫。这个功绩不仅仅是打败了胡人，而是使河西一带永远宁静，让我再也不用顾虑西边的国土了。”曹丕转封张既为西乡侯，给他增加了二百户食邑，连同以前的食邑，一共四百户。不久后，酒泉苏衡反，与羌豪邻戴及丁令胡万余骑攻边县，张既与夏侯儒击破之，苏衡及邻戴等皆降，遂上疏请与夏侯儒修建左城，筑关隘，置烽火台、粮仓以备胡人。西羌惊恐，率众二万余投降。

其后西平麹光等杀其郡守，诸将打算出兵攻打，张既道“反的只有麴光等人，郡中的百姓不一定愿意跟随他们。如果因为这样就兴兵讨伐，当地的官吏百姓、羌人、匈奴人就会说国家不辨是非，就会联合起来对政府持敌对态度，这就等于是为虎添翼。麴光等人想让羌人和匈奴人援助他们，现在我们先让羌人和匈奴人包围攻击他们，用重金招募奖赏应征的，把俘虏也都送给羌人和匈奴人。从外面扼止他们的势力，从内部离间他们的盟友，就一定会不战而平定这个地方。”

于是便发布檄文通告各部落的羌人，凡是被麴光等人0欺骗而加入叛军的一律原谅，能够杀死敌人将帅送来首级的加倍封赏。檄文发布以后，麴光的部下杀死了他并送上了他的首级，其余的人都像过去一样安居无事。

黄初四年，张既薨于任上，其治理雍、凉二州十余年，以施政惠民而著称，所礼辟的扶风人庞延、天水人杨阜、安定人胡遵、酒泉人庞淯、敦煌人张恭、周生烈等，最终皆成为有名位的卿士。朝廷颁布诏书说“春秋时候的荀林父在翟土立功，晋侯赏给他千户之国作为他的封地；冯异为东汉贡献出自己的力量，光武帝为此赐封他的两个儿子。已故的凉州刺史张既能够收容安抚民众，使各部落的羌族人归顺朝廷，可以称作国家的良臣。他不幸逝世，朕非常痛惜，现在赐给他小儿子张翁归关内侯的爵位。”魏明帝即位以后，追赠张既肃侯的谥号，由他的儿子张缉承袭爵位。,