七七事变爆发后，根据党中央的决策部署，邓小平和刘伯承率八路军一二九师深入日军占领区的后方，以太行山为中心，开展了艰苦卓绝的斗争。作为一二九师政治委员，邓小平与师长刘伯承密切配合，放手发动群众，组织抗日武装，建立抗日民主政权，到1945年8月日本投降时，围绕太行山建立起当时全国最大的解放区——晋冀鲁豫解放区，为1947年刘邓大军千里跃进大别山打下了坚实基础。在太行山的十年，是邓小平为争取民族独立和人民解放不懈奋斗的十年，也是他科学运用统一战线、武装斗争、党的建设三大法宝取得一个又一个胜利的十年。巍巍太行山，见证了邓小平一段段统战佳话。
1937年，日本帝国主义向中国发动了全面的侵略战争。大敌当前，国共两党实现了第二次合作。中国工农红军改编为国民革命军第八路军。1937年8月，邓小平任八路军政治部副主任，奔赴华北抗日前线。1938年1月，邓小平任八路军一二九师政治委员，师长是刘伯承。
根据党中央的决策部署，邓小平和刘伯承率一二九师深入晋东南，以太行山为中心，依托山区，并向平原发展，开辟抗日根据地。晋东南位于太行、太岳山脉，历来是用兵之地，战略价值极高，毛泽东同志对创建以太行、太岳山脉为依托的晋冀豫边抗日根据地作出了明确指示。1938年2月，邓小平到任不久，立即召开团以上干部会议，部署实施战略展开和创建根据地的任务。通过一系列战斗，我们党很快在太行山站稳了脚跟后，建立起晋冀豫抗日根据地。随后，邓小平又率部越过平汉铁路，东进冀南平原，开辟了冀南抗日根据地；此外，还先后建立了太岳抗日根据地、鲁西等根据地合并而成的冀鲁豫抗日根据地。
1938年，八路军在作战中缴获日本汽车1939年12月，国民党顽固派发动了第一次反共高潮，向八路军总部和一二九师所在的太行地区发动大规模军事进攻。山西的地方实力派阎锡山就制造了“十二月事变”。阎锡山调兵遣将，并与日寇勾结，向山西新军进攻，企图消灭这支实际由中国共产党领导的抗日民族统一战线性质的武装。面对这一危局，邓小平和刘伯承迅速派一二九师三八六旅主力进入太岳地区驰援。山西新军在三八六旅有力配合下，粉碎了阎锡山的阴谋，为我们党保存了一支武装力量。这次事变后，这支山西新军正式成为八路军的一部分。粉碎“十二月事变”后，全面巩固和发展根据地成为紧迫任务。当时，有两个问题亟待解决：一是随着根据地的发展，要求冀南、太行、太岳三个分散的根据地逐步统一起来；二是在爱护干部和群众的前提下，纠正“十二月事变”后一度产生的“左”的倾向，继续贯彻执行抗日民族统一战线的各项方针政策。
中共中央北方局和刘伯承、邓小平审时度势，迅速采取措施。1940年4月11日至26日，在山西黎城召开了冀南、太行、太岳地区高级干部会议（黎城会议）。会议传达了毛泽东同志同志同年3月11日关于《目前抗日统一战线中的策略问题》的讲话内容，部署了“建党、建政、建军”三位一体的任务。4月22日，邓小平在会议上做了报告。他着重分析了统一冀南、太行、太岳三区政权，逐步过渡到统一的晋冀豫边区抗日政权的必要性，强调中央关于晋东南有建立最大根据地之前途的重大意义，并阐述了当前必须实行的若干财经政策。会议决定将原太北军政委员会改为太行军政委员会，统一领导太行、太岳、冀南三区的工作，邓小平任书记，刘伯承等为委员；8月，在黎城西井正式成立冀南、太行、太岳行政联合办事处（简称冀太联办），作为过渡性质的全边区统一的政权组织。冀太联办成立后，根据邓小平的提议，制定颁布了《冀南太行太岳行政联合办事处施政纲领》。《纲领》明确提出了“彻底实现民主政治，建立廉洁政府”的目标。针对有些同志主张和阎锡山完全决裂，北方局和刘伯承、邓小平坚决执行党中央和毛泽东同志的决策：“要继续团结阎锡山留在抗日阵营内”。山西新军加入八路军序列后，仍保留新军番号，有些电文仍抄报给阎锡山。尽管阎锡山是只打收条不复电，但在蒋介石发动第二次反共高潮时，阎锡山保持了中立，我们党同阎锡山的这种合作关系也一直维持到抗战结束，基本上稳住了山西的抗战局面。事实证明，这种策略以抗日的大局为重，坚持有理、有利、有节，符合中华民族的根本利益，充分体现了毛泽东、邓小平等领导同志的远见卓识。黎城会议后，北方局和邓小平紧紧抓住根据地的政权建设问题不放。1941年2月16日，邓小平代表北方局提出《关于成立晋冀豫边区临时参议会的提议》。这时，邓小平有一个很重要的思想，就是要坚持党对抗日民主政权的正确领导。邓小平批评有些同志“误解了党的领导，把党的领导解释为‘党权高于一切’，遇事干涉政府工作，随便改变上级政府法令”，“甚有把‘党权高于一切’发展成为‘党员高于一切’者，党员可以为非作歹，党员犯法可以宽恕”，结果，造成群众把一切错误都归结于共产党，“这实在是最大的蠢笨”。邓小平提出，党对抗日民主政权的正确指导原则是指导与监督政策。党对政权要实现指导的责任，使党的主张能够经过政权去实行，党对政权要实现监督的责任，使政权真正合乎抗日的民主的统一战线的原则。党的领导责任是放在政治原则上，而不是包办，不是遇事干涉。邓小平强调，三三制的抗日民主政权原则，为我党中央所提出的真实政策，已取得广大群众的拥护，尤应为全党同志所奉行。因为这种政权表现为几个革命阶级对汉奸、亲日派、反动派的联合专政，既能合乎统一战线原则，团结大多数以与日寇、汉奸、亲日派、反动派进行斗争，又能保证由共产党员与进步势力结合起来的优势。邓小平经常给党员干部讲这个道理，还写成题为《党与抗日民主政权》的文章发表在北方局的机关刊物《党的生活》上，这对教育广大党员干部有着重要意义。7月7日，晋冀豫边区临时参议会在辽县（今左权县）隆重开幕，邓小平作为共产党参议员的首席代表参加了会议，并被选为驻会参议员。根据我们党的建议，会议决定将鲁西33个县划入本区，临时参议会改名为晋冀鲁豫边区临时参议会。会议根据邓小平代表北方局提出的《对晋冀鲁豫边区目前建设的十五项主张》，制定了《晋冀鲁豫边区政府施政纲领》，会后正式颁布施行。据此，各地普遍进行了村选举，各县政府都基本上实行了“三三制”，即共产党员占三分之一，非党的左派进步分子占三分之一，中间派占三分之一。边区空前统一，抗日民主政权更加巩固。
由于实行了一系列政策和措施，晋冀鲁豫边区建设呈现一派朝气蓬勃的景象，为后来发展成为全国19块根据地中最大的一块奠定了基础。