宗说:“广平王已被立为太子,何必需要做元帅呢?”李泌说:“假使元帅立功,陛下不使他做君位的继承人,能行吗?太子随从时是抚军,驻守时是监国,如今元帅就是抚军。”肃宗最终听从了他的建议。
肃宗在做太子时,宰相李林甫多次以进谗陷害他,肃宗积怨已久,到即位以后,打算将李林甫的遗骸挖出焚烧。李泌认为身为天子却念及旧恨,不能以宽广的胸怀显示于天下,会使那些投靠叛军的人失去改过自新的想法,肃宗大为不悦,说:“你忘了往事吗?”李泌回答说:“臣考虑的不在于这些。上皇统治天下五十年,一朝失意,南方气候恶劣,而且他已年迈,听到陛下记恨旧怨,将会内心惭愧不乐。万一上皇伤感得病,就是陛下以天下之广大,还不能够安抚亲人啊。”话未说完,肃宗便感悟,下阶抱着李泌的脖子痛哭道:“朕没想到这些。”
肃宗询问李泌剿灭叛军的战略,他就当时的情势,定出一套围剿的计划,首先,李泌断定安禄山、史思明等人是一群没有宗旨的乌合之众,目的只在抢劫,“天下大计,非所知也。不出二年,无寇矣。陛下无欲速,夫王者之师,当务万全,图久安,使无后害。”因此,他拟定战略,让朔方大将李光弼守太原,出井陉;郭子仪取冯诩,入河东,隔断盗魁四将,不敢南移一步。又密令郭子仪开放华阴一角,让叛军能通关中,使他们北守范阳、西救长安,奔命数千里,劳损其精兵。而唐军常以逸待劳,剪除其弱卒。再将各路兵马齐聚扶风,与朔方军共同平叛。并命建宁王李倓为范阳节度大使,与李光弼互为犄角,以攻取范阳。叛军失去根据地,必将身死于河南诸将之手。肃宗统统照他的计划行事,后来都不出其所料。这便是李泌的“挫其锐,解其纷”的战略运用。但可惜的是肃宗急功近利,没有听信李泌的建议,致使河北没有彻底肃清。
肃宗为了尽快收复都城长安,等到郭子仪筹借到西北军大集合的时候,便对李泌说:“今战必胜,攻必取,何暇千里先事范阳乎!”李泌就说:“如果动用大军,一定想要速得两京,那么贼势一定会重新强盛,我们日后会再受到困扰。我们有恃无恐的强大兵力,全靠碛西突骑、西北诸戎。假如一定要先取京师,大概在明年的春天,就可成功。但是关东的地理环境,与气候等情况,春天来得较早,气候容易闷热,骑兵的战马也容易生病,战士们思春。也会想早点回家,便不愿再来辗转作战了。那么,沦陷中的敌人,又可休养士卒,整军经武以后,必复再度南来,这是很危险的办法。”但肃宗却坚决地不听李泌的战略意见,急于收复两京,由此便出现了郭子仪借回纥兵,随广平王李豫等收复两京的一幕。
自从肃宗在灵武即位时起,李泌就一直在肃宗身边,为平叛出谋划策,他当时虽然没有身担要职,却“权逾宰相”。正是这种与肃宗极为亲密的关系,招来了权臣崔圆、李辅国的猜忌,两京收复后,平叛大局已定,李泌便主动要求离开权力的中心,遁避进衡山修道,肃宗下诏赐李泌三品俸禄及隐士服,还为他建造居室。
李泌隐居数年后,玄宗去世,肃宗随即也驾崩,新继位的皇帝便是李泌当年特别加以保护的广平王李豫。代宗即位,马上就召李泌回来,任命他为翰林学士,代宗先让他住在宫中的蓬莱殿书阁,跟着就在长安的光福里赐他府第,又强迫他吃肉,还为他娶已故朔方留后李暐的外甥女为妻。但是宰相元载认为李泌不肯依附自己,留在朝廷对自己是一个潜在的威胁,刚好江西观察使魏少游请朝廷为他派去一些僚佐,元载就盛称李泌有才,可担此任。李泌就以检校秘书少监、江南西道判官之职再次离开朝廷,旋即改为检校郎中,仍任判官。
元载犯罪伏诛,代宗立即召他还京,准备重用,但又为宰相常衮所忌,常衮再三设法外放他出任楚州刺史,李泌推辞不去,代宗也留