开元二十七年（739）年末，李白和王昌龄分别后，日夜兼程赶回安陆，急急忙忙回家。
李白回到家，才知道许氏已病了多日，连忙嘘寒问暖，查看病情，并看了医生处方。李白在匡山时，跟赵蕤学过医，他知道许氏是产后虚损，更兼操劳过度，所以吃药总不见效。许氏本来体弱多病，经这一折腾，拖了半年，竟至不起。许氏的死自然使李白悲痛不已，使他抱恨终身，对他的打击非常大：一是许氏为他茹苦含辛，生儿育女，勤俭持家，而自己却四处游浪，对许氏的关心关怀关爱太少；二是遍谒权贵，到处碰壁，终无所成，妻子寄予的厚望常常落空，使她死不瞑目；三是儿女尚幼，生活方面丹砂夫妻还能照顾，教育培养方面有谁能帮助？四是作为赘婿的李白在安陆生存将会更艰难。妻子的去逝，安陆再也没有什么留恋的，况且睹物思人情何以堪，于是李白决定移家任城。
开元二十八年（740）初，李白把安陆的田地和其它产业变卖完后，就带着五岁的女儿，两岁的儿子，及少许家产，拖家带口地迁往东鲁任城（今SD省济宁）。李白的侍童丹砂和许氏的侍女碧桃，在此之前，在主人的安排下，已经结为夫妻。他们夫妻不忘主恩，主动要求随行，照顾少爷、小姐，李白就带着他们一同迁往任城。
李白之所以移家任城，因为他有一个远房叔父在任城当县令，另外还有几个远房兄弟在瑕丘等县当佐吏。诸人虽非至亲骨肉，总算是陇西李氏之族，好歹有个依靠。李白全家到任城后，暂时寄住任城县令六叔家中，但这位县令快要秩满归京了。他想在任城附近找个安家之所，只好求助于两位远房兄弟，即在瑕丘任主簿的李冽和在单父任主簿的李凝。在他们的帮助下，李白在瑕丘东门外泗水西岸的沙丘之旁，置了一处房屋，一楼一底带个小院；又在泗水东岸的南陵村中置了十来亩田地，交与丹砂夫妇料理，两个孩子也住在那边。两处相距十里左右，中间隔着一条泗水，有一带石筑的堤坝可通行人。堤坝名叫金口，“金口秋光”是兖州有名的八景之一。
李白对他的任城新居相当满意，一家之人可以安居，美中不足的是，中年丧妻，鳏居无偶。关于李白在任城的婚姻状况有点模糊，大约曾与一个姓刘的妇人同居，但不知为何，两人没过多久便和平分手。其后，与当地一位妇人成婚。婚后，妻子为他生了一个儿子。李白给小儿子取名为李天然，小名颇黎。之所以给他取这个小名儿，是因为李白希望他能像水晶一样光彩夺目，卓尔不凡。
李白在任城安完家后，就像在安陆时一样，便以任城为中心，四处漫游，结交朋友，干谒官吏，在学道与从政的矛盾中饮酒作诗。凭着不大不小的名气和倚马可待的捷才，给这个县令、县丞写首诗，给那个刺史、长史作篇序，按规矩，他们就会留他住个十天半月，临行还会送个千儿八百盘费。李白就这样，常在酒楼与达官贵人、文人骚客、歌姬美人宴饮，生活惬意，风流自在。喝到尽兴之时，就文思泉涌，吟诗作赋，赚点润笔费。
李白移家任城，还有一个原因就是打算拜裴旻为师学习剑术。当时裴旻的剑术，与吴道子的绘画、张旭的草书，并称“三绝”。李白见干谒不成，也想学学剑术，走投笔从戎之道，由此博取功名。裴旻虽然热情款待李白，却一直不说传授剑术的话。原来据裴旻的侄子裴仲堪所说，裴将军不仅精于剑术，而且深于兵法，本是一位智勇过人的将领。从前镇守边塞，曾立下不少战功。但为主将所忌，屈居人下，有志难伸。因此未到五十岁，就解甲归田。几年前蒙皇帝在东都召见，看了他的表演，赏赐了不少东西。回来后越发消沉，感叹道：“我空有一身本领，不能扬国威，安四境，只落得供人观赏，几同俳优杂戏，焉得不令人惆怅！”从此不再授徒传艺。
李白移家任城，而任城属东鲁即兖州管辖，古称鲁郡，由来是礼义之乡，儒学圣地。而李白受道家浸染很深，看不惯道貌岸然的儒生，尤其是那些之乎者也的腐儒。也许是酒喝高了，李白趁着酒兴写了一首讽刺诗《嘲鲁叟》。这首诗以辛辣的笔调，淋漓尽致地刻划了腐儒行动迂阔、装腔作势，只会死读经书、不懂治国之策的丑恶形象。全诗采用了以古喻今和对比的写法，用典贴切，形象鲜明，讽刺辛辣，显示了高超的艺术水平。
《嘲鲁叟》：
鲁叟谈五经，白发死章句。
问以经济策，茫如坠烟雾。
足著远游履，首戴方山巾。
缓步从直道，未行先起尘。
秦家丞相府，不重褒衣人。
君非叔孙通，与我本殊伦。
时事且未达，归耕汶水滨。
李白对于志在经国济世的孔子、孟子以及后世的大儒其实都是很尊敬的，而且拜谒的权贵大多是儒学造谐很深的，但他就是看不起白首穷经、死守章句的小儒，特别讨厌他们身著汉时的宽衣博带，道貌岸然，以圣人之徒自居，却是欺世盗名之徒。李白写得痛快，讽刺得到位，却得罪了一大批儒生，在任城再也无法呆下去。后来在好友裴仲堪的安排下，到兖州东北的徂徕山暂避锋芒。
徂徕山，是泰山的姊妹山，位于泰山东南，属泰山支脉。是诗人孔巢父等人的幽栖之地，这些人都是怀才抱艺之士，也是因为入仕无门，便知难而退，好在徂徕山中都各有祖业，就在此隐居读书。李白在此与巢父等人倒是十分相得，无非是登高远足，饮酒赋诗，日子也过得悠闲自在。常在一起的朋友有孔巢父、韩准、裴政、张叔明、陶沔，加上李白，人称“竹溪六逸”。在徂徕山期间，他写了一首《送韩准裴政孔巢父还山》：
猎客张兔置，不能挂龙虎；
所以青云人，高歌在岩户。
韩生信英彦，裴子含清真；
孔侯复秀出，俱与云霞亲。
峻节凌远松，同衾卧盘石；
斧冰嗽寒泉，三子同二屐。
时时或乘兴，往往云无心；
出山揖牧伯，长啸轻衣簪。
昨宵梦里还，云弄竹溪月；
今晨鲁东门，帐饮与君别。
雪崖滑去马，萝径迷归人；
相思若烟草，历乱无冬春。
李白在任城时，正是他入世之心很强，从政的愿望大过学仙的时候。他写有《咏邻女东窗海石榴》：
鲁女东窗下，海榴世所希。
珊瑚映绿水，未足比光辉。
清香随风发，落日好鸟归。
愿为东南枝，低举拂罗衣。
无由一攀折，引领望金扉。
这是一首咏物言情之作，诗人描绘出一幅海石榴倚立在鲁女东窗旁的怡人景致，衬托出鲁女、海石榴皆是世上稀有之物。而后用暗喻手法巧妙地赞美鲁女丽质脱俗的意蕴，暗示自己已心生爱慕，怎奈迫于“男女授受不亲”，也只能“引领望金扉”，以示心中无限怅惘。诗的最后两句是作者内心的独白，是情感的自然流露，表达出作者的情感是强烈的、真挚的，同时又是微妙、细腻的。作者采用屈原《离骚》笔法，以美女喻君王，希望得到君王的关注和青睐，是“君子在野，思见君子尽心事之”之作。
正当李白漫游干谒，州县里有头有脸的官吏们都是敷衍了事，使得他四处碰壁，弄得灰头土脸的时候，没想到却有一位没品没衔的小吏来访，给他莫大的温暖。那天李白正在逆旅中郁郁寡欢，忽然店小二来报，有故人来访。李白正莫名其妙的时候，只见一个三十上下的青年人，右手提了两尾鲜鱼，左手提了一坛黄酒，走了进来。青年自我介绍：自己是中都县小吏逢七朗，是先生的粉丝，自弱冠以来，就诵先生之诗，仰先生之名，诗卷中日日相见，口碑中处处相逢，所以自称是先生的故人，希望先生别见怪。早就想过来拜访先生，只怕先生不愿接见，故谎称先生的故人。李白一听呵呵一笑，他本是洒脱不羁之人，不拘俗人之礼。两人相见恨晚，想谈甚欢，饱餐了一顿，痛饮了一番。酒足饭饱之后，逢七朗趁机把笔墨纸砚准备好，请李白留诗一首作纪念，李白来者不拒，提笔就写下《酬中都小吏携斗酒双鱼于逆旅见赠》：
鲁酒若琥珀，汶鱼紫锦鳞。
山东豪吏有俊气，手携此物赠远人。
意气相倾两相顾，斗酒双鱼表情素。
双鳃呀呷鳍鬣张，拨剌银盘欲飞去。
呼儿拂几霜刃挥，红肌花落白雪霏。
为君下箸一餐饱，醉著金鞍上马归。
写完之后，李白意犹未尽，酒意尚在，提笔又写一首《客中行》相赠：
兰陵美酒郁金香，玉碗盛来琥珀光。
但使主人能醉客，不知何处是他乡。
李白最佩服鲁仲连，因为他“义不帝秦”，解了HD之围，拯救了赵国，又功成身退，高蹈而去，不受任何人的拘束，这正是李白所追求的理想，很好地解决从政和学道的矛盾。李白在《别鲁颂》一诗中，通过称颂鲁仲连来表达对友人的赞美与朋友间的深情厚谊。
《别鲁颂》：
谁道泰山高？下却鲁连节；
谁云秦军众？摧却鲁连舌。
独立天地间，清风洒兰雪！
夫子还倜傥，攻文继前烈。
错落石上松，无为秋霜折；
赠言镂宝刀，千岁庶不灭！
李白在东鲁时，虽然有心用世，依然没有成就，在汶上时曾受一老翁讥笑。他写有一诗回应，诗中将自己同讥笑者作尖锐对比，明确提出自己从事政治活动的原则立场，塑造了鲁仲连功成不受赏的高士形象，这其实就是李白追求的目标。诗中还谈到学剑来山东，李白虽未得到裴旻的指点，可剑术确实提高了不少。这首诗就是《五月东鲁行答汶上君》：
五月梅始黄，蚕凋桑柘空；
鲁人重织作，机杼鸣帘栊。
顾余不及仕，学剑来山东；
举鞭访前途，获笑汶上翁。
下愚忽壮士，未足论穷通；
我以一箭书，能取聊城功。
终然不受赏，羞与时人同；
西归去直道，落日昏阴虹。
此去尔勿言！甘心为转蓬。
李白在东鲁时，功业无成，但他仍对未来充满了希望机会。李白听说挚友元丹丘接到诏令，在开元二十九年秋冬之际赴京，连忙赶到元丹丘的颍阳山居。他一来是道喜，二来是送行，三来是对这位即将入朝的挚友抱有厚望。并写有一诗《秋日炼药院镊白发赠元六兄林宗》：
木落识岁秋，瓶冰知天寒。
桂枝日已绿，拂雪凌云端。
弱龄接光景，矫翼攀鸿鸾。
投分三十载，荣枯同所欢。
长吁望青云，镊白坐相看。
秋颜入晓镜，壮发凋危冠。
穷与鲍生贾，饥从漂母餐。
时来极天人，道在岂吟叹。
乐毅方适赵，苏秦初说韩。
卷舒固在我，何事空摧残。
正在这时，李白的一位道教徒朋友吴筠被唐玄宗宣召入京，吴筠推荐了李白。李白的受推荐，元丹丘肯定功不可没。还有唐明皇的姊妹玉真公主，后来也出家当了道士，称为持盈法师，也耳闻李白之名，十分愿意李白来京。当然，像李白这样突出的人物，唐玄宗也早听说了。李白的机会终于到了，他接到了三次邀请，约他入京。
李白接到邀请，赶忙回家，安排好家里的一切，准备入京。并喜不自禁地写下《南陵别儿童入京》：
白酒新熟山中归，黄鸡啄黍秋正肥；
呼童烹鸡酌白酒，儿女嬉笑牵人衣。
高歌取醉欲自慰，起舞落日争光辉；
游说万乘苦不早，著鞭跨马涉远道。
会稽愚妇轻买臣，余亦辞家西入秦；
仰天大笑出门去，我辈岂是蓬蒿人？
李白此时已过不惑之年，才接到朝廷召他入京的诏书，多年的奔波终于有了回报。此时他志得意满，扬扬得意，多年的抑郁一扫而空，仿佛马上就可实现自己多年的政治愿望，辅佐帝王，建功立业，功成身退！
“仰天大笑出门去，我辈岂是蓬蒿人！”李白春风得意马蹄疾，从东鲁到西秦两千余里，不到十天就赶到了长安。