八路军第129师各工作团和部队，到达活动地区后，依靠中共地方组织，大力宣传抗日救国十大纲领和共产党的各项方针政策，放手发动群众，组织各种抗日团体和群众武装，开展游击战争，实行合理负担政策，既扩大了部队，又在太谷、榆次、寿阳、平定、井陉、获鹿、昔阳、元氏、赞皇、高邑、临城、内丘、邢台、沙河、磁县等地，建立了一批抗日民主政权。至此，同蒲铁路以东、正太铁路以南、平汉铁路以西、黄河以北的晋冀豫边区的游击战争全面展开，抗日根据地基本形成。

    4月下旬，晋冀豫军区成立，该军区对外称第129师后方司令部，师参谋长倪志亮兼司令员，政治委员黄镇，副司令员王树声，政治部主任赖际发。5月15日，按游击支队活动的地区和方向，建立5个军分区：独立支队兼第1军分区，司令员秦基伟，政治委员赖际发，政治部主任朱效成，辖区为晋中地区；游击支队兼第2军分区，司令员桂干生，政治委员张贻祥，辖区为冀晋边地区；先遣支队兼第3军分区，司令员张贤约，政治委员张南生，辖区为冀豫边地区；游击大队兼第4军分区，司令员张国传，政治委员谢家庆，并指挥太岳游击大队，辖区为浊漳河流域地区；独立游击支队兼第5军分区，司令员赵基梅，政治委员涂锡道，辖区为太（行山）南（部）地区。

    晋冀豫军区的任务是：一方面组织自卫队、游击队，补充兵员，安置伤病员，积蓄武装力量；另一方面指挥基干武装部队，独立作战或配合正规部队作战。