張緬字元長(zhǎng),幾歲的時(shí)候,外祖父中山劉仲德就認(rèn)為他很不一般,說(shuō):“這孩子不是平凡人,不只是張家的寶貝,還會(huì)名揚(yáng)海內(nèi)?!饼R朝永元末年梁武帝起兵,其父張弘策跟隨武帝進(jìn)兵建康,把張緬留在襄陽(yáng),當(dāng)時(shí)才十歲,每聽(tīng)到軍隊(duì)有勝負(fù)消息,憂喜都流露在臉上。弘策遇害時(shí),張緬服喪超越禮節(jié),武帝便派人來(lái)告誡他。喪服期滿后,襲封洮陽(yáng)縣侯。初次作官任秘書(shū)郎,出京為淮南太守。當(dāng)時(shí)只有十八歲,武帝怕他年輕,不熟悉官吏的事務(wù),派主書(shū)把他辦的案卷封好取回京城查看,見(jiàn)他處理得都很恰當(dāng),很是稱贊。又升遷他為云麾外兵參軍。
張緬從小勤于學(xué)習(xí),讀書(shū)能自我督促,手不釋卷。有人提問(wèn),隨問(wèn)隨答,全無(wú)錯(cuò)失。殿中缺郎官,武帝對(duì)徐勉說(shuō):“這個(gè)部門以前都用文學(xué)之官,而且是朝班的領(lǐng)頭人,應(yīng)當(dāng)仔細(xì)挑選?!毙烀阃婆e張緬充任人選。不久,任武陵太守,回京后又拜太子洗馬、中舍人。張緬母親劉氏因張緬父親去世家境貧窮而葬禮不周全,于是終身不居正室,不跟隨兒子一起進(jìn)官府。張緬在郡里所得的俸祿不敢享用,以至于老婆孩子沒(méi)有什么可換的衣服,等回到京都,一起上交給母親來(lái)賑濟(jì)親屬。雖然是多年的積蓄,一下子就完了,張緬自己家里常??占爬渎浜孟褙毢?。
逐漸升遷為豫章內(nèi)史,張緬為政推行恩惠,不用詐謀,官吏百姓受他的德政感化,也都不敢有欺詐行為。老者們都說(shuō):“幾十年來(lái)沒(méi)有過(guò)啊?!?br />
后來(lái)作御史中丞,因?yàn)樽ゲ斗溉撕屯鈬?guó)使節(jié)發(fā)生爭(zhēng)斗,降職為黃門郎,兼任以前的職務(wù),不久又官?gòu)?fù)原職。張緬在御史任上,推行法紀(jì)無(wú)所顧忌,號(hào)稱剛直。武帝派人給他畫(huà)像掛在御史衙門,來(lái)勉勵(lì)為官的人,升遷為侍中,未正式任命時(shí)去世。詔命即時(shí)舉哀。昭明太子也親臨哭吊。
張緬抄錄《后漢書(shū)》、《晉書(shū)》各家不同之處著成《后漢紀(jì)》四十卷,《晉抄》三十卷,又抄錄《江左集》沒(méi)來(lái)得及寫(xiě)成,有文集五卷。