同年7月，全师调赴皖北的临泉及豫皖边界的沈邱两县，并整编为骑兵第八师。为了便于指挥，有利于战斗，取消了旧的旅、营建制，改为新的师、团、大连编制。当时全师共编为3个团，一、二两个团为骑兵团，第三团为步兵团。此外，尚有师直属营、连等，马彪仍然担任师长。整编后，依然属于洛阳第一战区战斗序列，同时接受第五战区李仙洲集团军的指挥。
后面内容更精彩 点击图片进入下一页
8月间，调赴皖北的涡阳、蒙城、怀远等县，驻守涡河以南、沙河以北三角地带，牵制津浦铁路蚌埠沿线的日军。当时日军在蚌埠一线为六十师团，伪军两个师，经常与我对峙。其间，我军经常进行出其不意地奇袭，破坏敌占区的铁路、公路、桥梁等，以断敌通路，使其运输物资困难，并牵制了敌军的行动。据当时情报侦悉，日伪军称我师为“马回子军”或“马胡子军”，对我戒备甚严。此时马元祥副师长回青海探亲，被马步芳留用，未再回皖，于是，孟全禄就代理了副师长的职务。
1940年9月间，我师工兵连和一个步兵大连，进驻怀远县境涡河北岸的一个重镇龙岗镇。并修筑了两道防御工事，埋设了很多地雷。日军认为对其构成了威胁，便以大炮、坦克、装甲车配合步兵，围攻龙岗镇，首先以大炮连续轰击后，以坦克冲我阵地，而我军就大大发挥了地雷战的威力，当时一辆坦克被炸毁，敌人暂时停止了进攻。接着，日军却以猛烈炮火掩护，派步兵持探雷器寻找地雷，我军便在隐蔽工事内，以机枪扫射日军的探雷部队及出动的步兵，因而屡挫日军的锐气，使日军遭受了重大损失，打死日军有好几百人。此时，忽见日军的一面太阳旗突然倒下，敌阵出现混乱情况，于是马彪师长当即命令两个骑兵大连，由附近的一个渡口，渡过涡河，迂回袭击来犯龙岗之敌，敌军急忙溃退，而被我军击毙的日军尸体，因来不及运走，仅仅割走了各尸体的每只胳膊(据说日军把烧化的骨灰送回日本，叫做无言回国)。就在龙岗镇战场上，尸体纵横，不下三四百具;在退却中日军大放毒气，我军未敢穷追。经过这次战役后，皖北一带的日军，犹如惊弓之鸟，再不敢轻举妄动了。从此，“马胡子军”的声誉传遍附近敌占区群众之间。
蒋介石历来把他的嫡系部队摆在后方，把地方等杂牌部队摆在前线充当炮灰。1941年夏，日军以优势兵力，由皖北的寿县、凤台两县出发，三面包围我军。当时马彪师长考虑到我军防守之地，是涡河、沙河之间的一个狭长地带，日军六十师团和一个师多的伪军，沿沙河西进，是在骑八师的右后方，我师腹背临敌，难以支撑，并判定敌军的出动是扫荡，而不是西进。因此，决定我军由怀远的河溜集，蒙城的双涧集、陆瓦房等地，转移到阜阳、颖上沙河以北地区。这个时期，敌我仅发生小部队遭遇战，并无大的接触，日军扑空后仍退回原据点。当我军返驻原防地时，曾与新四军彭雪枫部接触，发生冲突，双方在黑夜中展开战斗，结果，彭部与我师双方都受到了一定损失。后来才知道，我师与新四军彭雪枫部所以发生战斗，完全是奉蒋介石之命行事。这次发生的不幸事件，正值抗战第二阶段(武汉沦陷后)，蒋介石包藏祸心，对日采取消极抗战，对八路军、新四军则暗中采取冲突磨擦，充分暴露出了积极反共的真面目。回忆马彪部队初到皖北时，全师官兵都认识到是来打日本侵略军的。因而与友邻部队彭雪枫支队双方经常派员联络往来，彭雪枫曾派人给骑八师100匹军衣布料，马彪骑八师也派人给彭部送去战马10匹和20枝步枪，还随时互通情报，共同对付蚌埠的日军，为此还受到过国民党军事委员会和战区来电报责备。以后不久，彭部就调到津浦路以东去了，再未发生过联系。
马彪离职与马步康接任骑八师师长
1941年以后，马彪师的内部勾心斗角，意见分歧，当时马彪因兼任何柱国骑兵第二军副军长，并有升任六十四军军长的传说。于是有人即向青海马步芳告密，说马彪有野心，想脱离青海，加之补充兵源，多是来自豫皖陕西地区所抽调的壮丁，大有摆脱青海的表象。1942年夏，马步芳生怕骑八师的兵权完全落到蒋介石中央军的手里，因而急忙由青海飞往重庆，向何应钦进行活动后，就向蒋介石当面报告说：“马彪因年老申请退休，拟由马步康去接替……。”蒋介石随即准其所请。马步芳返青后，即派马步康带领部分人马(马步康系马步芳的堂兄，时任马步芳的一百师二九八旅旅长职)，前往皖北阜阳东北的马店子与马彪办理交接手续。马彪至此含冤未回青海，索性居住西安。不久，马彪接到蒋介石电召，旋去重庆面谒蒋介石，当面诉说他并未要求退休，并表示：当此抗战紧急关头，宁愿当个老黄忠战死沙场，死而后已。而蒋介石也假意地嘉许马彪勇敢善战，屡立战功，犒赏了银币10万元。并分别电示西安胡宗南，及苏鲁豫皖边区总司令汤恩伯，妥善安置。汤恩伯接电后，便在沈邱筹备成立骑兵纵队，打算由马彪来领导，曾派人在甘肃夏河等地买马数百匹，先成立了第一团，当时由谁来任团长还未加肯定。但在继续买马中受到了马步芳的忌恨刁难，买马事宜很难进行。马彪在这种情况下，看到成立骑兵纵队的计划就要落空，于是他只好仍返回西安，即以中将参议的名义，休居西安市。
