1937年8月，國民政府委員會命令青海調派一個騎兵師參加抗戰。青海省政府主席馬步芳即調配人馬，組成抗日騎兵師。騎兵師以原青海海南警備司令部所屬第1旅為基礎，合并駐防河西走廊的馬步青部的部分官兵，并征調大通、互助、湟源三縣的民團，以回、東鄉、撒拉、保安、藏等族人員組成，共8000多人，其中回、東鄉、撒拉、保安族民族的人員占部隊總人數的70%以上。同月，國民政府軍事委員會頒令給這支騎兵部隊予暫編騎兵第一師的番號，正式任命馬彪（回）為師長。馬步芳乘擴充軍隊、擴大勢力之機，在甘、青兩省宣傳抗日救國，客觀上起到了揭露日本侵略者的罪行和動員民眾的作用。同年9月19日，西寧各界在大教場舉行隆重的歡送大會，城鄉父老云集會場、街頭歡送暫編騎1師東下抗日。騎一師自西寧出發，經蘭州、平涼，到達陜西乾縣，沿途受到人民群眾勢烈歡迎、歡送，官兵士氣昂揚。騎一師抵陜后，即歸第8戰區西安行營指揮，各旅分駐興平、扶風、醴泉、永壽和咸陽等縣待命。次年二月，騎一師分駐西安以東、河南陜州以西的隴海鐵路沿線，擔負防守鐵路、保衛公路安全的任務，同時又不時派出小分隊，北渡黃河到晉南芮城一帶以輕騎襲擊運城日軍，確保潼關安全。1938年4月間，騎一師奉命進剿西荊公路龍駒寨一帶由日本浪人操縱指揮、漢奸參加的反動武裝。當時，這股武裝千余人盤踞華山南麓，不時出沒于西荊公路，肆意攔截車輛，搶奪物資，致使西荊公路無法暢通，嚴重影響華中戰備物資的運輸與供應。騎一師殲滅了這股反動武裝，受到西安行營的傳令嘉獎。不久，騎一師奉命調赴許昌，繼而進駐黃泛區的扶溝、鄢陵、西華等縣，擔負這一線的河防任務，受第一戰區孫桐檀集團軍的指揮。

    1939年春，騎一師第3旅馬祿（回）部自鄭州調赴陜西耀縣，與從駐防甘肅武威的騎五軍中調來的兩個旅，組成暫編騎兵第二師，馬祿任師長，駐防北同官（今銅川）等地。同年春末，騎一師第三旅旅長馬秉忠（回）調為二旅旅長，從青海又調來一旅官兵補充第三旅。不久，騎一師調駐周口至界首一帶的黃泛區，主力駐項城，其任務是防御淮陽一帶的日軍。時淮陽為蘇、魯、豫、皖邊區日軍主要據點之一，騎一師所駐河防，地處平漢線中段，為華東、華中戰略要地。日軍不惜調集各種兵力，加強防守并做好隨時出擊騎一師之態勢。騎一師為牽制敵人，各旅先后輪流渡過黃河，以輕騎游擊形式不時襲擊淮陽一帶日軍，并不斷偵察敵人的行動。
 

   同年八九月間，騎一師乘淮陽日軍空虛之機，二旅旅長馬秉忠率部渡河進駐寶塔、孔莊一帶，進而圍攻淮陽城，攻占淮陽城西關。城內日軍固守待援，對峙激戰中，日軍從開封調來100輛卡車的援兵，與淮陽城日軍，配合步、炮、坦克各兵種，向騎一師陣地瘋狂進攻。激戰中，雙方展開沖鋒，形成了白刃戰。二旅官兵奮勇迎敵，旅長馬秉忠在戰斗中中彈身亡。四團團長馬成翰（回）接替指揮繼續浴血奮戰。師長馬彪下達命令要血戰到底，并速派一旅旅長馬元祥（回）率部渡河赴前線支援。此役最后以日軍潰退而告終。戰斗結束后，在項城為陣亡將士開了追悼大會，并建立了紀念碑。

    不久，騎一師又在一次突襲圍殲敵軍的戰斗中，全殲敵騎兵500余人，繳獲戰馬數十匹。騎兵師英勇頑強善戰，使日軍惱羞成怒。時間不長，日軍抽調重兵，配備重炮、坦克，向騎一師寶塔一線強攻。騎一師立即組織反攻，官兵戰馬馳騁，迂回沖殺，以血肉之軀與敵拼搏。終因敵我力量懸殊，騎一師主力迅速撤退，留下百余名官兵阻擊。在主力安全撤退后，留下阻擊的官兵背水作戰，直至彈盡糧絕，集體投水自溺，壯烈殉國。

    經過多次與日軍作戰，騎一師損失較大，1940年5月，奉命調赴豫西葉縣、舞陽一帶，7月又調至豫皖邊界的臨泉、沈丘兩縣。為了便于指揮，部隊經整訓后取消了舊的旅營建制，改為師、團、大連編制，番號改為騎兵第八師，馬彪仍任師長，屬第一戰區戰斗序列。同年8月，騎八師奉命駐守在渦河以南、淮河以北的三角地帶，以牽制津浦鐵路蚌埠沿線的日軍。部隊經整訓后，補充了豫皖等省的子弟，不時出其不意地襲擊并破壞敵占區鐵路、公路、橋梁等，斷敵交通要道，阻滯其物資運輸。9月，騎八師工兵連和一個步兵大連，進駐渦河北岸的重鎮----龍崗鎮，并構筑了兩道防御工事，用機槍掃射尾隨坦克沖鋒的敵步兵，并派出兩個騎兵大連，疾速渡渦河迂回突襲來犯之敵。此役，日軍傷亡慘重。經過這次戰斗，騎八師的聲威傳遍附近敵占區，使敵軍不敢再輕舉妄動。

    1942年夏，馬彪離職，馬步康（回）接任，不久騎八師歸第五戰區指揮。1943至1944年之交，日軍為了打通平漢縣，先是攻占洛陽，不久又攻打漯河外圍的阜陽重鎮。在保衛阜陽的戰斗中，騎八師作為側翼掩護，參加了戰斗。官兵們以高梁青紗帳為掩護，多次奇襲敵軍，破壞敵軍輜重車輛不計其數。
 
   在中華民族艱苦抗戰的八年中，騎八師這支回、東鄉、撒拉、保安等族為主體的青海地方軍隊，浴血奮戰，打擊了局部地區敵人的囂張氣焰，為甘、青兩省贏得了“抗日大后方”、“抗戰救國基地”的聲譽，在廣大人民心中留下了深刻印象。