1936年2月20日至5月5日，毛澤東率中國人民紅軍抗日先鋒軍渡過黃河進入山西，進行東征戰役。
鄧小平始任紅一軍團政治部宣傳部部長、后任政治部主任，隨紅一軍團東渡黃河，作為右路軍沿汾河和同蒲鐵路南下作戰。這是他第1次抵達臨汾地區。3月17日，為突破晉綏軍汾河防線，紅一軍團包圍了霍縣縣城。19日繼續南進佔領霍縣、趙城、洪洞、臨汾、襄陵、曲沃等縣的廣大鄉村地區，並攻克襄陵縣城，分兵古城、汾城、侯馬、安澤、浮山、翼城等地。爾后進至鄉寧、大寧、蒲縣、隰縣、永和地區，攻克吉縣縣城，逐一掃除了晉綏軍黃河沿岸的堡壘。於5月初從永和縣勝利揮師西渡。鄧小平隨軍轉戰幾乎走遍臨汾所有縣境。
抗戰全面爆發后，鄧小平任八路軍政治部副主任，於1937年9月中旬和朱德總司令、任弼時主任等乘船東渡黃河輾轉抵達晉東北。
10月23日，毛澤東針對戰局變化和日軍的戰略企圖指出，我軍在山西，集中於五台山一區難以立足，“應分為晉西北晉東北晉東南晉西南四區”，以互為犄角，密切協同，在日軍壓力面前才能站得穩，頂得住。再明確指出，“太岳山脈之晉東南與呂梁山脈之晉西南，雖目前距敵尚遠，然亦不可不於此時作適當之部署”。
八路軍總部領導研究決定：鄧小平到晉西南“適當部署”。10月下旬，鄧小平率領傅鐘、陸定一、黃鎮等總政宣傳部、民運部的一些同志及韋國清帶領隨營學校3個隊總數不過五六百人，遠離主力部隊，單獨向晉西南開進。這是他第2次抵達臨汾地區。根據他的部署，總政機關干部和隨營學校人員分散在孝義、平遙、介休、永和、石樓、蒲縣、隰縣、大寧8縣發動群眾參軍參戰，組建抗日武裝，籌糧籌款，開展抗日工作。這一帶迅速掀起抗日熱潮。
1937年底，按照朱、彭、任首長指示，鄧小平率總政宣傳部、民運部的部分同志和隨營學校4個隊（途中擴編1個隊）抵達洪洞縣與總部會合。總部領導聽取了鄧小平一行孤軍深入呂梁山脈、開辟晉西南抗日工作的匯報后，對他們的出色工作表示十分滿意，並向他通報了當前山西抗戰的形勢。
1938年1月，鄧小平接任一二九師政委，離開洪洞總部，前往遼縣（今左權縣）西河頭村一二九師師部與劉伯承一道揮師殺敵，創建太行抗日根據地。為后來的晉冀魯豫根據地黨的建設、政權建設、經濟建設和軍事斗爭，嘔心瀝血，無私奉獻。
1942年春，日軍對晉冀魯豫抗日根據地進行規模空前的大“掃蕩”，給根據地造成很大損失。為扭轉局面，准備對付將來更大困難，徹底粉碎敵人“掃蕩”，鞏固擴大抗日根據地，劉鄧決定：劉留太行，鄧去太岳。
3月19日，時任中共中央北方局委員、太行軍政委員會書記、第一二九師政委的鄧小平率七七二團到達太岳軍區駐地沁源縣閻寨村。這是他第3次抵達臨汾地區。
鄧小平認真聽取了太岳軍區司令員陳賡等的工作匯報，重點了解了開辟岳南的情況。岳南地區泛指同蒲鐵路以東、白晉鐵路以西、臨屯公路以南、曲高公路以北的地區。包括臨汾、襄陵東部，安澤南部、曲沃、翼城北部和浮山、高平、沁水、長子等縣，戰略位置十分重要。
岳南開辟后，成立了中共岳南地委、山西第三專署岳南辦事處和岳南軍分區，並先后組建了翼氏、長子、士敏、高平、沁水、浮山、臨汾等縣委和抗日縣政府，初步打開局面。
進佔浮山、翼城地區的閻錫山第六十一軍勾結日軍以7000余兵力向根據地不斷進犯，步步緊逼，絞殺抗日武裝，殺人放火，掠取民財，無惡不作。經多次交涉警告毫無收斂。3月31日，該部再次向太岳部隊浮山縣佛廟嶺陣地進攻。
鄧小平權衡再三，縝密考慮，果斷決定集中優勢兵力發起浮（山）翼（城）自衛反擊作戰。在鄧小平組織指揮下，以三八五旅、三八六旅、決一旅、二一二旅4個旅共10個團的兵力，組成左、右兩個縱隊，在努力粉碎日軍春季“掃蕩”的同時狠狠打擊閻軍。部隊於4月15日發起反擊作戰。右縱隊在陳錫聯、謝富治指揮下，給浮山東北左村一帶的閻頑軍六十九師以沉重打擊，攻克茶房、楊家掌、李家堡、胡子嶺等據點﹔左縱隊在李聚奎、劉忠、周希漢指揮下，給浮山東南的閻頑軍四十六師、四十八旅以痛擊，攻克天檀裡、遆家垣、米家垣、大疙塔山一帶陣地。戰斗於16日勝利結束，共俘閻頑軍718人，斃傷392人，繳獲重機槍5挺、輕機槍43挺、步槍352支。閻部受到沉重打擊后懼怕繼續進犯會被全殲，由其第六十一軍軍長梁培璜急忙寫信求和。為集中力量對付日本侵略軍，鄧小平與薄一波、陳賡等遂決定停止反擊。經談判，閻部作出分步撤出岳南的許諾。到7月撤回汾河以西地區。
浮翼自衛反擊作戰的勝利，扭轉了岳南的嚴峻局勢，逐步建立恢復了浮山、青城、臨汾、襄陵、曲沃等縣抗日民主政權，一些被破壞的區村抗日政權亦迅速恢復並建立了縣、區抗日游擊隊，社會秩序逐步趨於穩定，整個岳南地區抗日斗爭出現新局面。
之后，鄧小平抵達安澤縣石槽村一帶視察。他立即指示中共岳南地委，要抓住有利時機迅速部署鞏固根據地的各項工作。為此，中共岳南地委於4月26日在冀氏縣（今屬安澤縣）石槽村召開由各縣縣委書記、縣長、縣大隊和群團組織負責人參加的黨政軍群領導干部會議。鄧小平指出：岳南地處太岳區前沿，是聯結太岳區與中條區的要道，要盡快把這塊“寶地”鞏固起來，為在中條地區建立鞏固的根據地創造條件。鞏固和建設岳南根據地，要依靠軍隊打開局面，迅速建立抗日民主政權，發動群眾進行減租減息，發展民兵、游擊隊，壯大黨的組織，正確執行抗日民族統一戰線政策，把打擊目標集中對向日偽軍。
會議確定了轉變岳南局勢的策略方針，同時對開展各縣抗日工作和消滅紅槍會反動武裝作了具體部署。這次會議從思想上政治上組織上為開創岳南抗日斗爭的新局面奠定了堅實基礎。
隨即，中共岳南地委抓住機遇發展自己。集中黨政軍各方面的力量組建了兩個行動委員會。一個由岳南軍分區副政委帶領，以第十六團參謀長周學義率第三營為骨干，結合當地的黨政干部，負責開辟塔兒山以西地區的工作。�