據《蒙古秘史》記載，鐵木真尊稱成吉思汗之際，就有花刺子模回回商人阿三來往于汪古部與蒙古之間。汗國建立之后，花刺子模的算端（蘇丹）摩訶末曾派使團晉見成吉思汗，達成自由通商的協議。當時花刺子模境內的各族穆斯林，統被稱為“回回”。糧食、鐵器和各種手工業品是蒙古族需要的，但是他們不善經商，便出資委托回回商人代他們貿易生意。他們從中得到的金銀、絲綢，通過回回商人交換西方的玉石珍寶、織錦等物品。公元1216年成吉思汗的西征，正是由于摩訶末背約使商隊受阻引起的。在很大程度上成吉思汗的軍事行動有打通商路的目的。商路一旦暢通，回回商旅不絕于途。在土漠川上也不會不留下他們的足跡。萬部華嚴經塔（下用俗稱“白塔”）所在，即遼、金、元三代的豐州城（呼和浩特一帶）。因遼豐州受天德軍節制，故經金至元初，又稱為天德。馬可.波羅行經豐州時仍記為“天德城”《馬可.波羅游記》陳開俊等譯。白塔上“歷代游人題記甚多”。有漢文的、也有少數民族文字書寫的。民族文字題記中，“包括八思巴字、畏畏兒字和敘利亞字等幾種”。白塔所見其中第七層一條較長，共七行，為“亦思替非文字”《內蒙古文物考古工作三十年》，載《文物考古工作三十年》（1949~1979）。 
    著名元史專家韓儒林先生據《元史》有關資料，認為“亦思替非文字是與回回人分不開的”。還說，在回回國子學、國子監學中所講授學習的亦思替非文字，即“波斯文”。由白塔發現“亦思替非文”題記，可以推斷自蒙古汗國建立，中西之路暢通時，就有伊斯蘭世界色目人中的穆斯林，即回回商人、回回軍士、回回工匠駐留和經過。 
    據《元史》載：“贍思字德之，其先大食國人。國既內附，大父魯坤，乃東遷豐州”。所謂“國既內附”，指當時他們已隸屬于蒙古汗國。故贍思家族系色目人穆斯林。延佑初（公元1314年），“詔以科等取士，有勸其就試者，贍思笑而不應”（《元史.儒學列傳二.贍思傳》，土默特旗文化館編輯，1981年印）。他即可應試，應至“弱冠”之年，如以每代隔二十年計，上推60年，即公元1274年（至元二十一年），他大父（祖父）魯坤已遷居內蒙古呼和浩特（即豐州）。與魯坤家族前后遷來的不見經傳的一般人一定還有。可見蒙古汗國至元代初葉，豐州城內已出現了回回人的第一個聚落，即回族定居呼和浩特的開始。因此，馬可波羅至“天德城”時，才可能記述該城“居民中有佛教徒、穆斯林和基督教徒”。 
    現居內蒙古回族大多是明清時期及其以后從內地遷徙來的。《土默特沿革》所引《明史紀事本末》：“我（按俺答）百戶張彥文，游擊家丁劉天祺，邊民馬西川等二十八人悉往從之”。榮祥先生推斷馬西川是回民，足可憑信（《土默特沿革》）。白塔題記中有“曲口（按：恐系曲阿）在城回回一人宋吉到此提筆口（記）耳”（李逸友：《呼和浩特萬部華嚴經塔的金元明各代題記》，《文物》）。這是明代人的題記。“曲阿”是江蘇丹陽的古稱，是東漢末揚州刺史的治所。揚州是唐宋以來阿拉伯、波斯商人的聚居地。而明代南京、揚州一帶也曾是伊斯蘭文化的中心。這則題記可能是揚州一代朝覲者宋吉在旅途中留下的。從而也說明內蒙古地區與江南穆斯林的交往開始很早。清以后，內地回民成批遷徙到內蒙。回族遷徙內蒙古的原因是多樣的：東部區的回族原籍山東、河北一帶。他們迫于生計而出關到海拉爾、大興安嶺一帶謀生。而西部區的回民大多是從陜、甘、新遷來的，有的因受左宗棠借口“要圖百十年之安”，而強迫回族大遷徙；有的則因販賣牛馬而從陜西大荔等地前來呼、包一帶落戶；有的則因護送香妃進京，清帝乾隆賜給呼和浩特八拜村“一馬之地”而定居下來。到清末民初，交通發達的直、魯、豫等省回民接踵而來，回民從不定居到定居，漸漸成為內蒙古民族大家庭中的重要一員。