张叔夜在《水浒传》里，出场很迟。金圣叹版的七十回《水浒》（也有说是七十一回的）里，就没有他老人家的出现。

在燕青、李逵、卢俊义等人闹了泰安州后，朝廷再也无法漠视梁山好汉的存在了。于是徽宗听从御史大夫崔靖的建议，派出了太尉陈宗善为钦差，前往梁山泊招安。
　　陈宗善太尉去梁山，总是要先到济州府安歇的（日后童贯、高俅也是这样）。这时候，济州府的太守已经换成了张叔夜。自打晁盖智取生辰纲后，济州府就没有一天消停过，太守像走马灯似的换了好几位。张叔夜采取的，是一种保境安民的方针。由于他为人清廉，攻守有备，所以梁山倒也没有敢于进犯济州府“借粮”。

陈太尉一行人迤里来到济州。且看这段描写：太守张叔夜接着，请到府中设筵相待。动问招安一节，陈太尉都说了备细。张叔夜道：“论某愚意，招安一事最好。只是一件：太尉到那里须是陪些和气，用甜言美语抚恤他众人。好共歹，只要成全大事。太尉留个清名于万古。他数内有几个性如烈火的汉子。倘或一言半语，冲撞了他，便坏了大事。”张干办、李虞候道：“放着我两个跟着太尉，定不致差迟。太守，你只管教小心和气，须坏了朝廷纲纪。小辈人常压着不得一半，若放他头起，便做模样。！张叔夜道：“这两个是什么人？”陈太尉道：“这一个人是蔡太师府内干办，这一个是高太尉府虞候。”张叔夜道：“只好教这两位干办不去罢。”陈太尉道：“他是蔡府、高府心腹人，不带他去，必然疑心。”张叔夜道：“下官这话，只是要好。恐怕劳而无功。”张干办道：“放着我两个，万丈水无涓滴漏。”张叔夜再不敢言语。一面安排筵宴管待，送至馆驿内安歇。

张叔夜为什么能够预测到这次招安“恐怕劳而无功”呢？就是因为张干办、李虞侯这两条狗都不如的东西，在济州府竟然公开顶撞他。李虞侯的“小辈人常压着不得一半，若放他头起，便做模样”这句话，正是对他和张干办的自我鉴定。张叔夜出于为国家大计考虑，于公于私都希望招安成功。但是既然是招抚人家，怎么能让这种小人去狐假虎威、狗仗人势呢？实际上，就是高俅本人被捉上山后，也很识趣的尽说年初一的话，好话说尽，才被一心想招安的宋江释放的。

张干办和李虞侯都以为自己去一番恐吓就能顺说梁山好汉归降。结果可想而知，抱头鼠窜回济州府。张叔夜一见便知：“敢是你们多说甚言语来？”原因很简单，张、李二人连我这个国家正式的市长级官员都敢顶撞，见了梁山众人，肯定要当第二个“赫列斯塔科夫”，冒充老大了。陈太尉还觉得委屈：“我几曾敢发一言！”你是没发一言，但是张干办和李虞侯发了多少怪话？不是他俩，就算招安不成，至少不会惹得众头领发怒的。
　　张叔夜知道后，就告知陈太尉：“既是如此，枉费了心力，坏了事情。太尉急急回京，奏知圣上，事不宜迟。”这就引来了童贯的不自量力，前往征剿。

张叔夜没说错呀，梁山有这么多勇将，又有吴用、朱武、公孙胜这样的高士，岂能光凭力量征服的？可是童贯却自以为是，结果两次折兵损将，十员大将，只有一个和自己逃回东京，其他九个，一个被捉，八个被杀。就这还是“宋江有仁有德，素怀归顺之心，不肯尽情追杀。惟恐众将不舍，要追童贯，火急差戴宗传下将令，布告众头领，收拾各路军马步卒，都回山寨请功。各处鸣金收军而回”才让童贯溜掉的。童贯还算要脸，不敢来济州了，直接回东京去。
　　张叔夜的建议两次被否决，两次都出了大纰漏。接下来高太尉亲自前来，就坐镇济州府，张叔夜又特地把身边的老吏王瑾拨给高俅。不过高俅的水平太低，除了害民外，打仗能力极差，三次败在梁山手下。等他逃回，张叔夜只能再次守城不提。

不想时来运转了，朝廷两场大败后，被梁山走了门路，由宿元景太尉为钦差，前来招安。原文描写如下：太守张叔夜出郭，迎接入城，馆驿中安下。太守起居宿太尉已毕，把过接风酒。张叔夜禀道：“朝廷颁诏敕来招安，已是二次。盖因不得其人，误了国家大事。今者太尉此行，必与国家立大功也。”宿太尉乃言：“天子近闻梁山泊一伙，以义为主，不侵州郡，不害良民，专一替天行道。今差下官赍到天子御笔亲书丹诏，敕赐金牌三十六面，银牌七十二面，红锦三十六匹，绿锦七十二匹，黄封御酒一百八瓶，表里二十四匹，来此招安。礼物轻否？”张叔夜道：“这一般人，非在礼物轻重，要图忠义报国，扬名后代。若得太尉早来如此，也不教国家损兵折将，虚耗了钱粮。此一伙义士归降之后，必与朝廷建功立业。”宿太尉道：“下官在此专待，有烦太守亲往山寨报知，着令准备迎接。”张叔夜答道：“小官愿住。”随即上马出城，带了十数个从人，迳投梁山泊来。到的山下，早有小头目接着，报上寨里来。宋江听罢，慌忙下山迎接。张太守上山，到忠义堂上。相见罢，张叔夜道：“义士恭喜！朝廷特遣殿前宿太尉，赍擎丹诏，御笔亲书，前来招安，敕赐金牌表里御酒段匹。见在济州城内。义士可以准备迎接诏旨。”宋江大喜，以手加额道：“实江等再生之幸！”当时留请张太守茶饭。张叔夜道：“非是下官拒意，惟恐太尉见怪回迟。”宋江道：“略奉一杯，非敢为礼。”托出一盘金银相送。张太守见了，便道：“叔夜更不敢受！”宋江道：“些少微物，何故推却？未足以为报谢，聊表寸心。若事毕之后，则当重酬。”张叔夜道：“深感义士厚意。明留于大寨，却来请领，未为晚矣。”太守可谓廉以律己者也。

是啊，这才是大宋的优秀官员。如果都像这样的官员当政，宋江他们有没有必要造反是一回事，造反后能不能长久是另外一回事了。可惜张叔夜这样的官员太少了。不过张叔夜在书里并没有结束，招安成功后，他款待了梁山众将，不久因为协助宿太尉招安有功，加上江南方腊反叛自立为帝，所以他就荣升了征剿方腊的招讨使，以宋江等人为先锋，南下平定方腊的叛乱。张叔夜也知道朝廷其他人马无用，所以特地奏请调宋江的人马相助，果然成功。

张叔夜的见识，在书中主要表现在梁山好汉受招安一事上。而他的才干，则见于征剿方腊后的清理善后工作：却说张招讨会集都督刘光世，童枢密，从、耿二参谋，都在睦州聚齐。合兵一处，屯驻军马。见说宋江获了大功，拿住方腊，解来睦州。众官都来庆贺。宋江等诸将恭拜已了张招讨、童枢密等众官，张招讨道：“已知将军边塞劳苦，损折弟兄。今已全功，实为万幸。”宋江再拜泣涕道：“当初小将等一百八人破大辽，还京都不曾损了一个。谁想首先去了公孙胜。京师已留下数人。克复扬州，渡大江，怎知十停去七。今日宋江虽存，有何面止再见山东父老，故乡亲戚！”张招讨道：“先锋休如此说！自古道：‘贫富贵贱，宿生所载。寿夭命长，人生分定。’常言道：‘有福人送无福人。’何以损折将佐为羞为耻！今日功成名显，朝廷知道，必当重用，封官赐爵，光显门闾，衣锦还乡，谁不称羡！闲事不须挂意，只顾收拾回军朝觐。”宋江拜谢了总兵等官，自来号令诸将。张招讨已传下军令，教把生擒到贼徒伪官等众，除留方腊，另行解赴东京，其余从贼，都就睦州市曹，斩首施行。所有未收去处，衢、婺等县贼役赃官，得知方腊已被擒获，一半逃散，一半都来睦县自行投首，拜参张招讨并众官。尽皆准首，复为良民。就行出榜去各处招抚，以安百姓。其余随从贼徒，不伤人者，亦准其自首投降，复为乡民，拨还产业田园。克复州县已了，各调守御官军，护境安民，不在话下。

后世关于张叔夜的作品也不少：梅式续金批本的《水浒传》里，张叔夜在最后出场，担任济州太守，梁山听说是这样的清官上任，大吃一惊：戴宗回来说道：“俺在东京数日，暗中探得一清二楚，那日官军覆败，警报到京，举朝震骇。目下当朝太师蔡京失宠，**势衰，有侍郎李若水御前陈奏，力举张叔夜来做济州太守。听说道君皇帝今已准奏，张叔夜不日到任，此人若来，定有举动。”吴用道：“张叔夜乃名臣之后，富有干略，声望极高，一向被奸臣所扼，不能得志，今若真个来知济州，俺山寨里须索提防，不可等闲视之。”足见后人对张叔夜的评价甚高。其他如《荡寇志》里，也是靠着张叔夜，才平定了梁山之乱，杀死了众好汉。否则只凭着云天彪、陈希真这两个奴才，能做什么事！不过《说岳全传》里为了抬高岳飞的形象，把个张叔夜写得太不堪了：献城诈降，结果自作聪明反被金兵渡过黄河，洗劫汴梁。被李若水给骂死了（受到李若水辱骂后自尽）。虽然事后一片苦心算是给人了解到，但是却于事无补，而且客观上也成了金兵入侵的帮凶。
　　这就是一代忠臣张叔夜在《水浒传》里的形象，虽然着墨不多，但是一个有才干又有眼光的清官形象已经跃然纸上。

与其说他清官不如说他忠臣更合适。