的上都督府，下辖若干州，都督一职一般只授予王子或宰相。当时，扬州都督是朝廷的首席宰相长孙无忌，通常情况下都是挂个名，遥领而已，都督府的军政事务，由次官长史全权负责。张士贵作为一员战将，东征西讨，戎马一生，虽然也曾担任过兰州、幽州、茂州都督之职，但大多是服从于朝廷的军事战略意图的。在担任扬州都督府长史期间，已经年迈的张士贵却能为百姓着想，积极疏通河道，造福于民，使辖区内百姓殷实，生活安定，“市狱晏而无扰，水火贱而盈储”。

由于年迈体弱又得了眼疾，张士贵多次上表请求致仕，高宗终于答应了他的请求，并授其镇军大将军，仍旧封为虢国公，从驾东巡洛阳。由于多年东征西讨，戎马倥偬，已得风疾多年，因病情加重，在河南病逝，终年72岁。唐高宗为他举办了隆重的葬礼，赠辅国大将军，使持节都督，荆、硖、岳、郎等四州诸军事，荆州刺史，丧事的一切费用，都由朝廷支付，赐绢布七百段，米粟七百石，加谥号“襄”，并赐东园秘器，陪葬太宗于昭陵。

薛仁贵二次东征高丽时，张士贵已经离开了人间，张士贵对其部属薛仁贵始终是信赖、器重并大力扶持的，根本不存在加害之事。然而北宋以后出现的讲述隋唐故事的话本、小说和戏剧，却把张士贵说成是旧势力的代表，编造了许多迫害薛仁贵的故事，这是宋代及其以后的文人学士为了通过讲述历史，影射和抨击当朝权贵而虚构的，虚构的历史上的张士贵是截然不同的。

史事讲将2隋唐五代三月天