李泌幼年时就以才思敏捷著名，被誉为“神童”。有一次，宰相张九龄准备拔用一位德才不高，个性比较软弱，而且肯听话的官员。李泌那时只有七岁，他很率直的对张九龄说：“公起布衣，以直道至宰相，而喜软美者乎！”意思是说：相公您自己也是平民出身，处理国家大事，素来便有正直无私的清誉，难道您也喜欢低声下气而缺乏节操的软性人才吗？张九龄听了他的话，非常惊讶，马上很慎重的认错，改口叫他小友。
那一年，正赶上唐玄宗亲自登楼选拔天下文士，张九龄说起了李泌，玄宗立即派人把李泌接到宫中。李泌进宫时，玄宗正和宰相张说下围棋，就命张说出题考考他。
张说就对着棋盘说：“方如棋局，圆如棋子，动如棋生，静如棋死。”说了这四句后，让李泌也以“方圆动静”四字为题做诗。他看李泌年小，还特意启发一下说，最好是说棋而不提棋字，这样才更有水平。李泌张口说道：“方如行义，圆如用智，动如逞才，静如遂意。”玄宗大喜，当即叫李泌到东宫陪太子李亨读书。
后来李泌长大了，他向玄宗上了奏章，对国家大事提了一些意见。玄宗看了很欣赏，想给他一个官职。他推说自己年轻，不愿做官。玄宗就封他做太子的属吏，要他多指教太子。李泌说他只愿以布衣身份和太子交往，太子也特别喜欢李泌，一直把他当作老师看待。
后来，李泌看不惯杨国忠专权，曾经写诗讽刺杨国忠。为此，他被杨国忠排挤出长安。他看到政局混乱，官场黑暗，就到颍阳隐居起来。
安史之乱时，太子李亨在宁夏灵武即位，是为唐肃宗，当时情况非常仓皇狼狈。唐玄宗远避四川，半壁江山都在安禄山手里，肃宗身边文武官员不满三十人，这时肃宗想起好朋友李泌，就派人把李泌从颍阳接到灵武来。李泌想到朝廷正遭到困难，就到了灵武。
肃宗看见李泌，非常高兴，要封他当宰相，李泌不同意。他说：“陛下待我像知心朋友一样，这就比当宰相的地位还贵了，何必非要我挂个名不可呢？”肃宗只好作罢。
肃宗对李泌的信赖非同寻常，朝中事无巨细，全都请教于他，连宰相的任免、太子的人选也要征求他的意见。每当朝中议事时，皇帝和李泌联袂而坐，将士们指点说：“那个穿黄袍的是皇上，穿白褂子的是山里来的隐士。”因李泌在乡间隐居的时候穿的是布衣，到了灵武，还是那件旧的布褂子。
当李泌和郭子仪、李光弼等一起运筹帷幄，收复了长安和洛阳，平定了安史之乱后，李泌对肃宗说：“我已经报答了陛下，请让我回家再做个闲人吧！”肃宗说：“我和先生共了几年患难，现在正想跟您一起享受安乐，怎么您倒要走了呢？”李泌恳切的说：“我和陛下结交太早；陛下太重用我，信任我。就是因为这些缘故，我不能不走。”经不住李泌一再请求，肃宗无法勉强，也只好同意。
李泌到了衡山，在山上造个屋子，从新过他的隐居生活。
唐代宗时，征召李泌授官为秘书监。
唐德宗时朱泚作乱，德宗奔往奉天，征召李泌为宰相，李泌运用机谋，挽救时弊，因有功受封邺侯。
德宗对李泌说：“建中祸乱是术士占验都中有变，这是天命，并非尽关人事。”
李泌严肃的说：“天命是指要遵循天理做事，并非以天命为由而逃脱应尽的责任。国君与宰相有造就国家命运的职责，要引导百姓顺应天道。假若国君不尽职责而妄言天命，那么礼乐政刑，便统统可以不用了。古来暴君例如桀纣，都说自己有命在天，以命数自我开脱，人君恐怕便如同桀纣了。”
李泌清廉端正，洁身自爱，为官时秉公执法，两袖清风；归隐后志在山川，感悟人生真谛。他恰当的把握时局，选择自己应该走的路，真正做到了淡泊以明志，宁静而致远。