這以後，天子多次向張骞詢問與大夏有關的事。

當時張骞已經失去侯爵，于是說道：“我在匈奴的時侯，聽說烏孫王号昆莫，昆莫的父親是匈奴西邊一個小國的國王。匈奴人殺死了他的父親時，昆莫剛剛出生就被抛棄在野外。烏鴉叼着肉在他的上空飛翔，狼跑去給他哺乳。匈奴單于覺得非常奇怪，以為他是神，于是就收養了他，将他撫養成人。他成年以後，單于又讓他領兵打仗，屢有戰功，單于又将原來屬于他父親的百姓分給他統領，讓他長久地戍守在西邊。昆莫聚集他的部衆，攻占附近的小城鎮，手下有幾萬名弓箭手，作戰娴熟。匈奴單于死後，昆莫就率領部衆向遠處遷徙，保持中立，不願再去朝拜匈奴。匈奴發動奇兵攻打昆莫，沒有獲勝，就以為昆莫有神靈相助而遠遠地避開了他，對他還是用籠絡的手段來保持名義上的隸屬關系，也不再發動大的進攻了。現在匈奴單于剛為漢朝所困，而原來渾邪王的領地又沒人守衛。蠻夷的習俗向來是貪圖漢朝的财物，如果我們現在趁這個時機送給烏孫王大量的金銀，招引他一點點東遷，在原屬渾邪王的土地上居住，和漢朝結為兄弟，從情勢上看，他應該能同意的，如果他同意，就是将匈奴右臂膀斬斷了。隻要聯合上了烏孫，那麼它以西的大夏等國都可以招來而作為藩臣。”

天子認為他說的有道理，就任命張骞為中郎将，率領三百人，每人兩匹馬，幾萬隻牛羊，帶着價值幾千萬的錢财、布帛，同時派出很多持節杖的副使，如果道路可通，就派他們到附近的國家出使。

張骞到了烏孫後，烏孫王昆莫接見漢朝使者時采用的是拜見匈奴單于的禮節，張骞心中羞愧且憤怒，他清楚蠻夷的天性就是貪婪，于是說道：“天子贈送禮物，大王如果不拜謝，那就把禮物退回來。”

于是昆莫起身拜謝賞賜，其餘的還是一樣。

張骞将自己這次出使的意圖和昆莫說了：“如果烏孫能夠向東遷徙到渾邪王的土地上，那麼漢朝就将一位諸侯的女兒嫁到昆莫做夫人。”

當時烏孫國已經分裂，國王年紀又大，又與漢朝相距太遠，并不清楚漢朝的大小，他們臣服于匈奴時間已久，與匈奴相距很近，他們的大臣都很懼怕匈奴，不願遷走，國王自己做不了決定。就這樣，張骞沒有得到昆莫的明确表态。昆莫有十多個兒子，其中一個兒子叫大祿，很強悍，善于率領部衆，他帶領一萬多騎兵在别處駐紮。大祿的哥哥是太子，太子有個兒子叫岑娶，而太子很早就去世了。

他臨死時對父親昆莫說：“一定要立岑娶為太子，不可以讓别人替代他。”

昆莫很悲傷，就答應了他，最終立岑娶為太子。

大祿因為自己沒有被立為太子而憤怒，于是就聯合諸多兄弟，率領部下造反了，打算進攻岑娶和昆莫。

昆莫年紀大了，總是擔心岑娶被大祿殺害，于是分給岑娶一萬多騎兵，讓他去别處駐紮，而昆莫還有一萬多騎兵用以自保，他的國家、百姓就這樣被一分為三，大體名義上還是都歸屬于昆莫，因此昆莫也不敢單獨做主，和張骞定約。

于是張骞又分别派出副使出使大宛、康居、大月氏、大夏、安息、身毒、于窴、扜<生僻字>以及周邊的國家。

烏孫國派出向導和翻譯送張骞回國，張骞和烏孫派出的使者幾十人，幾十匹馬回國答謝，也趁這個機會讓他們看看漢朝，了解漢朝的強大。

張骞返回朝廷，被任命為大行，位列九卿。一年多以後，張骞去世。