1942年，有人向马步芳告密，说马彪有野心，想脱离青海，马步芳听后，便飞往重庆，向蒋介石报告说：马彪因年老申请退休，拟由马步康去接替，不久，马彪便被调往有职无权的虚职。
马彪是甘肃临夏人，生于1885年，回族，早年参加过1900年庚子事变，随甘军在北京廊坊和正阳门一带打过仗，包括和日本士兵交手。那段经历让他对日本军队有直接认识。
1932年他担任玉树防守司令，在高原面对数千藏军进攻，率部坚守两个多月，顶住多次攻击，直到援军到来后反击成功。
1937年卢沟桥事变后，马步芳组建暂编骑兵第一师，约八千人，以马彪为师长。这支部队大多是老弱，装备旧，还包括不少回族、撒拉族等西北各族士兵。部队从青海出发，经兰州、平凉到陕西，隶属第八战区。
部队初期驻防潼关到黄河一线，夜间派小股骑兵渡河袭击山西运城日军据点，取得一些战果。1939年春末，师部移到河南周口至界首一带，主要防御淮阳日军。淮阳是日军在苏鲁豫皖边区的重要据点，马彪部多次以小骑群方式游击袭击。
一次二旅渡过颍河攻占淮阳西关，日军从开封调来大批援兵，包括坦克和炮兵反扑。战斗中二旅旅长马秉忠牺牲，马彪指挥其他旅侧翼包抄和迂回夹击，日军丢下近千具尸体退走。之后部队又和日军骑兵联队近战，歼灭五百多名敌骑兵。
日军内部把这支部队叫“马胡子军”，冈村宁次在作战记录里写下“恶战马彪”。这些战绩让骑一师在中原有了名声，但也让后方产生不同看法。
1940年部队整编为中央陆军骑兵第八师，仍由马彪任师长，调到皖北涡阳、蒙城、怀远一带，任务是牵制津浦铁路蚌埠段日军。师部把三个团分散驻板桥集、河集、王市集。
1940年11月17日，日军独立第十三师团和第二十一师团发动合围。骑八师孤军抵抗七天七夜，最终只剩两千多人突围，八百多名伤兵失散后沿路乞讨才陆续返回西北。
整个抗战期间，这支从青海出来的部队累计伤亡超过八千人，基本拼光了最初的底子。补充兵源多来自豫皖陕本地壮丁，番号和指挥关系也有调整，马彪还兼任骑兵第二军副军长，外面传出可能升任军长的说法。这些变化传回青海，成了后来事件的导火索。
马步芳对骑八师的掌控一直很在意。这支部队是他从青海拼凑出来的，最初目的是保存实力又应付中央要求出兵抗日。1941年后，部队补充本地兵源，指挥上出现新情况，有人就把马彪可能脱离青海控制的消息报给马步芳。
马步芳担心部队完全脱离自己掌握，也怕蒋介石把马彪位置提得更高，影响自己在青海的地位。1942年夏，他决定亲自去重庆处理。从西宁乘飞机出发，先向何应钦述职，然后面见蒋介石，说马彪年纪大、身体不行，已经申请退休，建议由马步康接替师长。
蒋介石听后没有多问就批准了。马步芳回到青海，马上派马步康带人去皖北阜阳东北马店子办理交接。马步康是马步芳堂兄，当时任一百师二九八旅旅长。调令到达后，马彪被解除骑八师师长职务，调到有职无权的虚位。
整个过程符合当时国民党军队内部派系和地方势力之间的常见矛盾。马步芳通过这种方式保住了对部队的间接影响，而马彪多年带兵抗日的经历就这样被中断。骑八师继续在皖北驻防，马步康接手后维持原有作战任务，直到抗战后期。
马彪本人没有马上回青海，先住在西安。部队从青海出发时的八千多人，经过八年战斗，损失极大，回到西北的只是少数。1945年马彪当选青海省第一届参议会参议员。1948年，他在西宁遭遇车祸去世，终年63岁。