汲黯字長孺，是濮陽人。他的祖先曾受到過古時衛君的恩寵。到汲黯已是第七代，世代都擔任卿大夫。汲黯靠父親保舉而襲任官位，在孝景帝時擔任太子洗馬，因為莊重嚴肅被人敬畏。孝景帝劉啟駕崩，太子劉徹即位，任命他為谒者（天子傳達）。

東越的閩越人和瓯越人發生攻戰，皇上派汲黯前往視察。他未到達東越，行至吳縣便折返而歸，禀報說：“東越人相攻，是當地民俗本來就如此好鬥，不值得煩勞天子的使臣去過問。”

河内郡發生了火災，綿延燒及一千餘戶人家，皇上又派汲黯去視察。他回來報告說：“那裡普通人家不慎失火，由于住房密集，火勢便蔓延開去，不必多憂。我路過河南郡時，眼見當地貧民飽受水旱災害之苦，災民多達萬餘家，有的竟至于父子相食，我就趁便憑所持的符節，下令發放了河南郡官倉的儲糧，赈濟當地災民。現在我請求繳還符節，承受假傳聖旨的罪責。”

皇上認為汲黯賢良，免他無罪，調任為荥陽縣令。汲黯認為當縣令恥辱，便稱病辭官還鄉。皇上聽說這件事後，就召汲黯入朝，任命他為中大夫。由于汲黯多次直言進谏，不得久留朝中，後來被外放當了東海郡太守。汲黯學習并推崇黃老學說，在治理官府和處理民事時，喜好清靜少事。他挑選得力的郡丞和書史來擔任具體事務，他治理郡務，不過是督查下屬按大原則行事罷了，并不苛求小節。他體弱多病，經常躺在卧室内休息不出門。一年多的時間，東海郡便十分清明太平，人們都很稱贊他。皇上得知後，召汲黯回京任主爵都尉，比照九卿的待遇。他為政力求無為而治，弘其大要而不拘守法令條文。

汲黯與人相處很傲慢，不講究禮數，當面頂撞人，容不得别人的過錯。與自己心性相投的，他就親近友善；與自己合不來的，就不耐煩相見，士人也因此不願依附他。但是汲黯好學，又好仗義行俠，很注重志氣節操。他平日居家，品行美好純正；入朝，喜歡直言勸谏，屢次觸犯皇上的面子，時常仰慕傅柏和袁盎的為人。他與灌夫、鄭當時和宗正劉棄交好。他們也因為多次直谏而不得久居其官位。

就在汲黯任主爵都尉而位列九卿的時候，窦太後的弟弟武安侯田蚡做了宰相。年俸中二千石的高官來谒見時都行跪拜之禮，田蚡竟然不予還禮。而汲黯求見田蚡時從不下拜，經常向他拱手作揖完事。這時皇上正在招攬文學之士和崇奉儒學的儒生，說我想要如何如何，汲黯便答道：“陛下心裡欲望很多，隻在表面上施行仁義，怎麼能真正仿效唐堯虞舜的政績呢！”

皇帝沉默不語，心中惱怒，臉色一變，宣布結束朝會，公卿大臣都替汲黯驚恐擔心。

皇帝退朝後，對身邊的近臣說：“汲黯真是太愚直了！”

群臣中有人責怪汲黯，汲黯說：“天子設置公卿百官這些輔佐之臣，難道是讓他們一味屈從取容，阿谀奉迎，将君主陷于違背正道的窘境嗎？何況我已身居九卿之位，縱然愛惜自己的生命，但要是損害了朝廷大事，那可怎麼辦！”

汲黯身體多病，已經病了三個月，漢武帝多次特别允許他請假養病，但他的病情始終沒有好轉。最後一次病情嚴重時，莊助替他請假。漢武帝問：“汲黯這個人怎麼樣？”

莊助說：“讓汲黯當官執事，沒有過人之處。然而他能輔佐年少的君主，堅守已成的事業，以利誘之他不會來，以威驅之他不會去，即使有人自稱像孟贲、夏育一樣勇武非常，也不能憾奪他的志節。”

皇上說：“是的。古代有所謂安邦保國的忠臣，像汲黯就很近似他們了。”

大将軍衛青入侍宮中，皇上曾蹲在廁所内接見他（好家夥，你們倆這麼熟嗎）。丞相公孫弘平時有事求見，皇上有時連帽子也不戴。至于汲黯進見，皇上不戴好帽子是不會接見他的。皇上曾經坐在威嚴的武帳中，适逢汲黯前來啟奏公事，皇上沒戴帽，望見他就連忙躲避到帳内，派近侍代為批準他的奏議。汲黯被皇上尊敬禮遇到了這種程度。（是因為害怕被叨叨吧，哈哈哈，視汲黯如洪水猛獸，劉徹你和李世民應該是有話聊的）

張湯剛以更改制定刑律法令做了廷尉，汲黯就曾多次在皇上面前質問指責張湯，說：“你身為正卿，卻對上不能弘揚先帝的功業，對下不能遏止天下人的邪惡欲念。安國富民，使監獄空無罪犯，這兩方面你都一事無成。相反，錯事你竭力卻做，大肆破壞律令，以成就自己的事業，尤為甚者，你怎麼竟敢把高祖皇帝定下的規章制度也亂改一氣呢？你這樣做會斷子絕孫的。”（哈哈哈，淬毒的小嘴，難怪劉徹不敢不尊敬你，哈哈哈哈哈哈）

汲黯時常和張湯争辯，張湯辯論起來，總愛故意深究條文，苛求細節喜歡咬文嚼字）。汲黯則出言剛直嚴肅，志氣昂奮，不肯屈服，他怒不可遏地罵張湯說：“天下人都說絕不能讓刀筆之吏身居公卿之位，果真如此。如果非依張湯之法行事不可，必令天下人恐懼得雙足并攏站立而不敢邁步，眼睛也不敢正視了！”

當時，漢朝正對外征讨匈奴，并招撫四方的少數民族。汲黯主張少事，盡量避免戰争，他利用向皇上進谏的機會，經常提出與匈奴和親的建議，反對發動戰争。皇上當時正推崇儒術，尊重公孫弘。随着國家事務日益增多，官吏和百姓開始耍小聰明。皇上為了維護秩序，着重文法，張湯等人多次上奏判決案件，以求皇上賞識。而汲黯經常批評儒生，當面指責公孫弘等人隻是心懷詐謀，裝扮聰明，以迎合皇上，取悅于人，而那些執筆的官吏則擅長深文巧诋，陷害人于罪，使人們不能回歸真實，以取勝為功。皇上越來越重視公孫弘和張湯，而公孫弘、張湯則深恨汲黯，就連皇上也不喜歡他，想借故殺死他。

公孫弘擔任丞相後，對皇上說：“右内史管轄的地區有很多貴人和宗室，難以治理，非重臣不能勝任，請調汲黯擔任右内史。”

汲黯擔任右内史數年，官務并未廢弛。

大将軍衛青已經越發地尊貴了，他的姐姐衛子夫做了皇後，但是汲黯仍與他行平等之禮。

有人勸汲黯說：“從天子那裡就想讓群臣居于大将軍之下，大将軍如今受到皇帝的尊敬和器重，地位更加顯貴，你不可不行跪拜之禮。”

汲黯答道：“因為大将軍有拱手行禮的客人，就反倒使他不受敬重了嗎？”