大战前一阶段，阎军和冯军进展顺利，不到半年工夫即进占了半个中国。危急中，蒋介石许以金钱和地盘等条件，诱使张学良出兵山海关并包围了阎冯联军的后路，致使整个战局急转直下。蒋介石转败为胜后，迫使阎锡山和冯玉祥下野。阎军由张学良代蒋收编，由原来的15个军缩编成4个军。所有编余军官共8000余人，在太原成立了一个编余军官教导团收容之。王辅亦在编余之中，担任教导团教官。乔日成被编余后不愿入团受训，带着一个护兵闲住太原。
到1931年，年仅22岁的乔日成因断绝经济来源，又变得囊空如洗，再度陷入困境之中，于是重旧业。
乔日成原所在3旅3团的团长邓兰友是太原附近一有名的地主和兼营煤窑的资本家。在部队时，邓曾与乔发生过争吵，故乔对邓怀恨在心，一为抢钱，二为报复，乔此次将抢劫对象定为邓兰友家。
这年夏季一天上午，乔与护兵全副武装，乘马直奔邓家。乔让护兵守住大门，监视院内外动静，他独自假冒邓团长同事入院，劫得两包银元烟土，骑马朝北飞奔而去。
邓团长听家人述说匪之相貌特征，知是乔日成干的，遂直接呈报了山西省主席徐永昌。徐严令应县政府缉乔归案。应县县长周敦信派出大批警探到下社侦缉，根本不见乔的踪影，又将乔父带到县城讯问未果，只得将乔父放回。
到了1935年秋季，乔日成因经济拮据，手又痒痒起来。于是便与其兄乔日昌合计，准备做个大买卖，目标是离应县不远的浑源县黄崖村的张凯家。张家是当地最有钱的大地主，以放高利贷和种黄芪发财，有护院家兵。
乔日成将同他抢过南山的两个小匪召来，连他哥哥共四人各带手枪一支，夜间出发，次日上午到达黄崖村。他们进村后找到张家住处，察看了进出村的路径、街道情况及张家收晒黄芪的场院，然后开始行动。
乔日成独自从容走进张家前院，经过厅直至后院的正庭，见到了张老太爷。他假称是买黄芪药材的客商，与老太爷寒暄后即谈论起黄芪价钱，并约定秋后再来收购，然后辞别出村。
乔与同去的三人见面后，商定当天下午待村民和张家长工都下地后即行下手。他们四人潜伏村外，吃过干粮休息一阵子后即奔张家而去。乔让两个小匪守前院和街门监视院内外动静，让其兄守卫过厅监视内院。布置停当，他独自走到正房。
当时，老太爷和老太太正在午睡，乔掏出手枪照老太爷头部砸了一下，随即砸了老太太背部一下后厉声说：“快把你家的金条法币银元全拿出来，不然开枪打死你们两个老狗”，乔日成见两个老东西发愣，威胁说：“我们是土匪，来的人很多，已经把你家包围了。”
两个老人哪见过这阵势，老头子忙催老婆子开箱取钱交给乔日成。乔拿了钱后，还觉不过意，亲自砸开一个大板箱，找出一些金银、钞票和烟土，然后分成四包，将其兄和两个小匪叫到屋里，每人背上一包逃之夭夭。
乔日成等四人走出村外四五里许，就见张家十多名护院从后边追来，用步枪朝他们射击，将乔日昌击伤。没办法，为了脱身，乔日成只好开枪，一梭子弹将跑到前面的几个人撂倒，双方成对峙状态。乔日成将其兄伤口包扎好后，吩咐两小匪掩护其兄就地对抗，待天黑再作打算，自己便悄悄返回村中，窜至张家晾晒黄芪的场院，放火将场中黄芪茎点燃，顿时火光冲天。张家护院见场中起火，急忙撤回救火。乔日成亦趁机返回原地，令两小匪搀扶其兄先走，到前面村子雇一毛驴将乔日昌送至家中。
乔日成掩护其兄脱险后，独自趁星夜走出数十里宿在浑源县一小村庄。张家人伤了他的哥哥，他决意再进行报复。翌日下午，他酒足饭饱之后重返黄崖村。天近黑时，他窜到张家场地，见不少人正整理被烧焦的黄芪，掏出手枪就朝人群射击，当场打死打伤五六人，趁着场中乱成一团。乔复见仇目的达到，便扬场长而去。
这起抢劫案和枪杀案使浑源县上下震惊，成为全省的大案。经查，此案又是乔日成所为。除浑源县派警察四处巡查追捕外，阎锡山亦下令各县严密侦察并悬赏重金通缉之。谁能料到，乔日成此次带上金条元宝烟土和银钱，连夜跑到阳高县，化装成商人乘火车往北平天津游玩去了。乔日成到平津后，住的是高级饭店，吃的是山珍海味，包的是高级，看的是四大名旦，凡是好玩有名的地方都去观赏游玩，真是随心所欲，大开了眼界。此案发生后，受阎锡山之命，应县政府再度派警察到乔堡抓人未果，就将乔父并其兄抓去拷问。乔父言道：“我痛恨这坏小子比你们当官的还恨，他每次回村我都报告官府，你们抓不住他，扣我有什么用。我跟你们发誓，如他再回来，我一定杀了他。”县长当堂嘉奖他大义灭亲，便即开释。随之审讯其兄乔日昌时，判定四名劫匪中有他，乔日昌无言可辩，供认不讳，遂被押往浑源县处决。其他两名小匪早已闻风逃匿。
乔日成在京津混荡了一年多光景，不仅目睹了有钱阔人的奢侈欢乐，也看到了破衣烂衫，露宿街头的穷人苦难，从而使其思想受到刺激，尤其是“一二？九”学生运动中爱国学生的抗日激情使其受到感染，萌生了做一番正经事业的念头。乔日成认为山西可能已不注意他这个土匪了，遂于1936年秋季返回应县。
其父见他回家，如仇人相见，顿生杀子之念。一天夜间，乔父带一把菜刀潜入乔日成所居宅院，从窗孔窥见匪儿与其妻在一条炕上头朝外躺着，正在吸大烟，便轻轻撬开房门，举刀朝乔的头部砍下。
乔日成已听得门响并机敏地移身起坐，枕头被劈烂了，却未伤着一根毫毛。乔日成随即拿起手枪对准其父的脑袋说：“念你生养我一场，这一刀饶了你，如再行凶，我崩了你。”吓得其父抱头鼠窜，也不敢进城去报告官府了。一日，乔日成进城联络故旧，听到官府要抓他，便越墙而出，渡过桑干河，再度到绥远一带避风去了。
1936年秋，乔日成在口外的绥远、包头等地联络了许多朋友，其中有他应县的老乡，也有兵痞、匪痞等一些无正当职业的人，为成立一支队伍作了必要的准备。绥东抗战爆发后，他认为时机到来，便急速返回家乡准备举事。当他走进下社村后，见村里驻满了军队，是阎锡山的七十二师，师长陈长捷，师部驻扎在乔堡的天王寺大院，与乔家邻近。乔认为军队不管政府通缉他的事，加之官兵们又不认识他，便毫无顾忌地回到家中。
万没料到，乔父见儿子回来，便悄悄到师部报告了陈师长，陈师长遂派出特务连于拂晓时包围了乔堡，以一个排的兵力进入乔家院内并上了房顶喊话。乔在酣睡中惊醒，知是大军来抓难以脱逃，如抗击拒捕定会危及老婆孩子的性命，遂开门出降就擒。
乔被带到师部后，陈师长端详一会儿说：“好样的，可惜不走正路走了邪路。”乔幽默答道：“世上哪有正路邪路之分，成者王侯败者匪嘛。”说得陈师长慨叹良久无话可说。经师部军法处讯问毕，便将乔五花大绑押往城内交应县政府处理。应县申报到省政府，省政府的人说是乔在本县查无抢案又无原告，最近犯案的地方在浑源县，应移交浑源县予以案审理。到1937年春，省里复令将乔转解浑源县。
乔日成被解往浑源后，其父认为除了一害，感到松了口气。其母却整日哭哭啼啼，寻死觅活，为其两个儿子都被送往浑源县处死而痛心至极，终于急疯了，日夜厮打老头子，说是他害了全家。不久，老太太即喝大烟自杀了。
乔日成到浑源县被下在死牢，待县政府将全部案情调查完毕，已是入春时分。
公审乔日成时，轰动了整个浑源县城，人们都知道应县有个悍匪乔日成，胆大心黑，杀人如麻，此人不光在浑源作案，就连省城太原都血债累累，阎锡山几次抓捕都未果。这样一个具有轰动效应的人，一辈子都难得一见，因此，那天，浑源万人空巷，争相一睹乔日成的面容。
升堂后，县长一喝，高声问道：“底下何人？”
“应县乔日成。”
“你可知罪？”
“县长大人，小民不知。”
县长气得一拍桌子，喝道：“把你在浑源枪杀张家护院的事实一一交代清楚，或许可给你个痛快。”
乔戏谑道：“你们当官的贪污受贿了多少钱，也请向观众详细供出。”
底下看热闹的人会心一笑，都为这个胆大的囚犯佩服，敢顶撞县长，看不出一点害怕之意。
县长一见，这个悍匪乔日成真是刁民，敢当场顶撞政府最高长官，气得大喊：“大胆刁民，本是待罪之身，却扰乱公堂，张嘴。”
乔日成被公堂上的人打得口鼻流血。
人们见乔日成浑不在意，仿佛被打得是旁人，都暗中叫好。
就这样，乔日成成了浑源监狱的一名死刑犯。