1937年8月，红四方面军改编为八路军第129师，桂干生以第129师高级参谋身份，投身山西抗战事业。当年12月，他带领第129师教导团30名干部奔赴冀西地区，走村串户宣传中共抗日主张，广泛发动群众武装自卫，在短短几个月时间内，建立起一支800多人的抗日武装——第129师游击支队，桂干生担任支队长，因此该部又称“桂支队”。

1938年5月，桂干生担任晋冀豫军区第二军分区司令员，他指挥“桂支队”活跃于正（定）太（原）、（北）平汉（口）铁路沿线，采取小群多路、声东击西的游击战术，破坏敌人铁路，袭击敌人据点，卡断敌人运输，弄得敌人左右支绌。晋冀豫军区司令员倪志亮称赞，“桂支队”是太行地区游击支队中的劲旅。

1940年5月，桂干生调离太行山区，担任新9旅旅长兼冀南军区四分区司令员。当时，日寇大力推行“囚笼政策”，碉堡工事遍布平原，妄图断绝冀南抗日军民的生存条件。桂干生坚决执行中央关于发动群众、打破封锁、长期坚持的方针，团结全分区军民，与敌人展开针锋相对的斗争。7月22日至28日，他指挥新9旅主力对敌人发起连续破袭战，先后作战21次，破坏敌人铁路25公里、公路180公里，取得了交通作战的胜利。7月25日，他指挥新9旅在武邑、衡水之间设伏，歼灭衡水出犯之敌40余人，缴获野炮1门，创造了平原地区伏击歼敌的又一范例。

1940年冬至1943年秋，正是抗战艰苦相持阶段，桂干生北调冀南一分区司令员。一分区靠近战略要地石家庄，对敌斗争形势特别严峻，桂干生大力开展抗日统一战线工作，团结一切可以团结的力量，巧妙与敌周旋。为分化瓦解敌人，他不避艰险，多次到驻守在魏县的伪“东亚同盟自治军”第一旅旅长李成华部做策反工作，使李成华率部起义，极大削弱了冀南日伪力量。

1945年6月13日，桂干生被任命为新四军第5师干部队副队长，前往大别山抗日前线。7月7日，干部队行至山西祁县、平遥之间，不期而遇日伪军，桂干生不幸中弹牺牲，时年34岁。

2014年9月1日，桂干生英名入选民政部公布的第一批著名抗日英烈和英雄群体名录。