贞元初，与王建同在魏州学诗,后回和州。贞元十二年(796年),孟郊至和州,访张籍。贞元十四年，张籍北游，经孟郊介绍，在汴州认识韩愈。韩愈为汴州进士考官，荐张籍，贞元15年在长安进士及第。元和元年（806年）调补太常寺太祝,与白居易相识，互相切磋，对各自的创作产生了积极的影响。张籍为太祝10年，因患目疾,几乎失明,明人称为“穷瞎张太祝”。元和十一年，转国子监助教，目疾初愈。15年后，迁秘书郎。长庆元年(821年)，受韩愈荐为国子博士,迁水部员外郎，又迁主客郎中。大和二年(828年),迁国子司业。
南唐末年张洎收集张籍诗400多首,钱公辅名为《木铎集》12卷。南宋末年汤中以家藏元丰八年写本为主，兼以各本校定,编为《张司业集》8卷,附录1卷，魏峻刊刻于平江。今传宋蜀刻本唐人集中的《张文昌文集》 4卷,共收诗317首。明嘉靖万历间刻本《唐张司业诗集》8卷,共收诗450多首,《四部丛刊》曾据以影印。
1958年，中华书局上海编辑所以它为底本，并参照现存各本进行校勘删补，编成《张籍诗集》8卷，共收诗480多首。另据《新唐书·艺文志》著录，张籍有《论语注辨》2卷。
张籍诗歌创作大致有3个时期。40岁前为早期。40-50岁为中期，其优秀乐府歌行作品多作于此期。50岁后为晚期。这时生活逐渐安定，除仍写乐府歌行外，多作近体诗。他是中唐时期新乐府运动的积极支持者和推动者。其乐府诗颇多反映当时社会现实之作，表现了对人民的同情。其诗作的特点是语言凝练而平易自然。和当时的王建齐名，世称“张王”。诗中广泛深刻地反映了各种社会矛盾，同情人民疾苦，如《塞下曲》、《征妇怨》，另一类描绘农村风俗和生活画面， 如《采莲曲》、《江南曲》。
张籍乐府诗艺术成就很高，善于概括事物对立面，在数篇或一篇之中形成强烈对比，又善用素描手法，细致真实地刻画各种人物的形象。其体裁多为“即事名篇”的新乐府，有时沿用旧题也能创出新意。语言通俗浅近而又峭炼含蓄，常以口语入诗。他还着意提炼结语，达到意在言外的批判和讽刺效果。张籍的五律，不事藻饰，不假雕琢，于平易流畅之中见委婉深挚之致，对晚唐五律影响较大。
上海古籍出版社有《张籍诗集》。
据冯贽《云仙散录》中记载，晚唐诗人张籍曾因为迷恋杜甫诗歌，把杜甫的名诗一样一样地烧掉，烧完的纸灰拌上蜂蜜，一天早上吃三匙。一天，张籍的朋友来拜访他，看到张籍正在拌纸灰，很是不解，就问道：“张籍，你为什么把杜甫的诗烧掉，又拌上蜂蜜吃了呢？”张籍说：“吃了杜甫的诗，我便能写出和杜甫一样的好诗了！”好友哈哈大笑。
青天荡荡高且虚，上有白日无根株。
流光暂出还入地，催我少年不须臾。
与君相逢不寂寞，衰老不复如今乐。
玉卮盛酒置君前，再拜愿君千万年。
远客悠悠任病身，谢家池上又逢春。
明年各自东西去，此地看花是别人。
曲沼春流满，新蒲映野鹅。
闲斋朝饭后，拄杖绕行多。
陇头已断人不行，胡骑夜入凉州城。
汉家处处格斗死，一朝尽没陇西地。
驱我边人胡中去，散放牛羊食禾黍。
去年中国养子孙，今著毡裘学胡语。
谁能更使李轻车，收取凉州属汉家。
秋风窗下起，旅雁向南飞。
日日出门望，家家行客归。
无因见边使，空待寄寒衣。
独闭青楼暮，烟深鸟雀稀。
