大将軍聽到他這麼說，更加認為汲黯賢良，多次向他請教國家與朝中的疑難之事，看待他勝過平素所結交的人。

淮南王劉安陰謀反叛，畏懼汲黯，說：“汲黯愛直言相谏，固守志節而甯願為正義捐軀，很難用不正當的事情誘惑他。至于遊說丞相公孫弘，就像揭掉蓋東西的蒙布或者把快落的樹葉振掉那麼容易了。”

當今天子已經多次征讨匈奴大獲戰績，汲黯主張與胡人和親而不必興兵征讨的話，他就更加聽不進去了。

當初汲黯享受九卿待遇時，公孫弘、張湯不過還是一般小吏而已。等到公孫弘、張湯日漸顯貴，和汲黯官位相當時，汲黯又責難诋毀他們。不久，公孫弘升為丞相，封為平津侯；張湯官至禦史大夫；昔日汲黯手下的郡丞、書史也都和汲黯同級了，有的被重用，地位甚至還超過了他。

汲黯心窄性躁，不可能沒有一點兒怨言，朝見皇上時，他走上前說道：“陛下使用群臣就像堆柴垛一樣，後來的堆在上面。”

皇上沉默不語。

一會兒汲黯退了下去，皇上說：“一個人确實不可以沒有學識，看看汲黯說的這番話，他的愚直越來越嚴重了。”

時隔不久，匈奴渾邪王率部衆降漢，朝廷征發兩萬車輛前去接運。官府無錢，便向百姓借馬。有的人把馬藏起來，馬無法湊齊。皇上大怒，要殺長安縣令。

汲黯說：“長安縣令沒有罪，隻要殺了我，百姓就肯獻出馬匹了。況且匈奴将領背叛他們的君主來投降漢朝，朝廷可以慢慢地讓沿途各縣準備車馬把他們順序接運過來，何至于讓全國騷擾不安，使我國人疲于奔命地去侍奉那些匈奴的降兵降将呢！”

皇上沉默無言。

及待渾邪王率部到來，商人因與匈奴人做買賣，被判處死罪的有五百多人。

汲黯請求與皇帝見面，在未央宮的高門殿見到了皇上，他說：“匈奴攻打我們設在往來要路上的關塞，斷絕和親的友好關系，我國發兵征讨他們，戰死疆場與負傷的人數不勝數，而且耗費了數以百億計的巨資。臣愚蠢，以為陛下抓獲匈奴人，會把他們都作為奴婢賞給從軍而死的家屬，并将擄獲的财物也就便送給他們，以此告謝天下人付出的辛勞，滿足百姓的心願。這一點現在即使做不到，渾邪王率領幾萬部衆前來歸降，也不該傾盡官家府庫的财物賞賜他們，征調老實本分的百姓去伺候他們，把他們捧得如同寵兒一般。無知的百姓哪裡懂得讓匈奴人購買長安城中的貨物，就會被死摳法律條文的執法官視為将财物非法走私出關而判罪呢？陛下縱然不能繳獲匈奴的物資來慰勞天下人，又要用苛嚴的法令殺戳五百多無知的老百姓，這就是所謂‘保護樹葉而損害樹枝’的做法，我私下認為陛下此舉是不可取的。”

皇上沉默，不予贊同，而後說：“我很久沒聽到汲黯的話了，今日他又一次信口胡說了。”

事後數月，汲黯因犯小法被判罪，适逢皇上大赦，他僅遭免官。于是汲黯歸隐于田園。

過了幾年，遇上國家改鑄五铢錢，老百姓很多人私鑄錢币，楚地尤其嚴重。皇上認為淮陽郡是通往楚地的交通要道，就征召汲黯任他為淮陽郡太守。汲黯拜伏于地辭謝聖旨，不肯接印，皇上屢下诏令強迫給他，他才領命。

皇上下诏召見汲黯，汲黯哭着對皇上說：“我自以為死後屍骨将被棄置溝壑，再也見不到陛下了，想不到陛下又收納任用我。我常有狗病馬病的，體力難以勝任太守之職的煩勞。我希望當中郎，出入宮禁之門，為您糾正過失，補救缺漏。這就是我的願望。”

皇上說：“你看不上淮陽郡太守這個職位嗎？過些時候我會召你回來的。隻因淮陽地方官民關系緊張，我隻好借助你的威望，請你躺在家中去治理吧。”

汲黯辭行後，經過大行去拜訪李息，說：“我被棄置到地方郡縣，不能再參與朝廷議事了。禦史大夫張湯，其智謀足以拒絕勸谏，狡詐足以掩飾錯誤，專門說乖巧、奸佞的話，用辭詭辯，不肯為天下正事發言，一心迎合主上的意思。凡是主上所不喜歡的，他就乘機诋毀；凡是主上所喜歡的，他就乘機稱贊。他還愛制造事端，玩弄法律條文，心懷奸詐以左右主上的心意，依靠不法官吏來建立自己的威望。你身居九卿高位，如不早加揭露，您恐怕會與張湯一同受到懲處。”

李息害怕張湯的權勢，始終不敢向皇上進谏。汲黯治理郡務，一如往昔作風，淮陽郡政治清明起來。後來，張湯果然身敗名裂。皇上得知汲黯當初對李息說的那番話後，判李息有罪，诏令汲黯享受諸侯國相的俸祿待遇，依舊掌管淮陽郡。七年後汲黯逝世。

汲黯死後，皇上因為汲黯的關系，讓他的弟弟汲仁官至九卿，兒子汲偃官至諸侯國相。汲黯姑母的兒子司馬安年輕時也與汲黯同為太子洗馬，他擅長玩弄法律條文，巧于為官，其官位四次做到九卿，在河南郡太守任上去世。他的弟兄們由于他的緣故，同時官至二千石職位的計十人。濮陽人段宏起初侍奉蓋侯王信，王信保舉段宏，段宏也兩次官至九卿。但是濮陽同鄉做官的人都很敬畏汲黯，甘居其下。