清真寺是穆斯林履行宗教功課、進行宣教、傳播伊斯蘭文化知識和舉辦經堂教育的場所。隨著伊斯蘭教在中國的傳播和發展，唐宋時期在穆斯林居住的東南沿海一些地方已出現了清真寺。東南沿海地區是中東穆斯林經海上“絲綢之路”最早來到的地方，廣州懷圣寺、泉州清凈寺、揚州仙鶴寺、杭州鳳凰寺是我國穆斯林先民遺留下來的四座古老清真寺。它們大約興建于唐宋年間，是舉世聞名的海上“絲綢之路”的珍貴遺物。這里曾發掘整理出了大量歷史文物，是早期阿拉伯穆斯林來華經商、傳教的佐證。這四座古寺，從建筑風格上看都同時吸取了中國古典建筑和阿拉伯建筑的特點，寺內保存至今的石碑石刻，可以把人們的思緒拉回到1000多年前。據史書記載，1300多年前廣州、泉州等地居住過大量阿拉伯、波斯商人，他們在那里聚居經商，勞動、生產、生活，娶妻生子，繁衍生息，逐漸形成了一個特殊的信仰群體，他們在接受中國傳統文化的同時，認真遵行伊斯蘭教法，建立了以清真寺為中心的穆斯林社區，為伊斯蘭教在中國的傳播和發展創造了條件。

伊斯蘭教東傳的另一條路線是橫貫東西的陸上“絲綢之路”，宋代以后我國的內陸城市西安、北京、開封、濟南等地的政治、經濟有了很大的發展，由于經商的需要，穆斯林也逐漸從沿海向這里聚集。據傳，北京牛街禮拜寺建于996年，是我國北方地區的古寺之一。這是一座典型的中國古代建筑形式的清真寺，全寺建筑集中對稱，系宮殿式磚木混合結構，禮拜殿的墻壁、柱廊、門窗裝飾的設計構思富有阿拉伯伊斯蘭藝術特色，在這座禮拜寺南講堂的東邊，有一個小院落，院中有兩座古老的墳墓，埋葬著為伊斯蘭教傳入中國作出貢獻的兩位來自中亞的篩海，他們長眠在這里，是中外穆斯林友好交往的歷史見證。到過牛街禮拜寺的人們無不為它精美的建筑藝術和珍貴的歷史價值贊嘆。西安是我國著名的六大古都之一，它擁有秦兵馬俑、秦皇陵等一大批堪稱世界級的文物，許多到過那里的人們還對化覺巷清真寺產生了濃厚的興趣。據傳這座清真寺始建于唐朝，距今約有1000多年的歷史，它是一個龐大的中國古典庭院式建筑群，建筑面積12000多平方米，全寺分四進院落，每進庭院均為四合院模式，設廳、殿、門樓，前后貫通。庭院寬闊，建筑空間錯落有致，猶如意境中的天國花園。大殿木制圍墻上鐫刻著精美的阿拉伯文《古蘭經》，經文書寫精美，阿拉伯韻味濃重，是國內少有的伊斯蘭文物。類似這樣的清真古寺在我國的河北、山東、河南、甘肅等地也有多座，如河北泊頭清真寺、山東青州真教寺、濟南清真東大寺、山西太原古寺、北京東四清真寺、甘肅蘭州西關清真寺、青海西寧東關大寺和寧夏同心大寺等，它們各具不同的建筑風格，是中國古典式清真寺建筑形式的代表。新疆地處我國西北邊陲，歷史上受到中亞和兩河流域文化的影響較多，那里的清真寺多數是中亞式伊斯蘭建筑藝術的杰作，穹頂式的建筑結構、寬闊的廣場和高大的邦克樓構成了中亞式清真寺的突出特點。聞名遐邇的喀什艾提卡爾清真大寺、庫車清真大寺和吐魯番蘇公塔大寺都是這一建筑形式的代表。

近20年來，我國各族穆斯林在政府有關部門的關懷下，設計新建了一批清真寺和經學院，堪稱中國現代伊斯蘭建筑藝術精品，如北京伊斯蘭教經學院，新疆伊斯蘭教經學院，寧夏伊斯蘭教經學院等。