13世紀(jì)，蒙古人興起于漠北高原，他們征服了亞洲和東歐，建立了蒙古帝國。天山以南及中亞廣大地區(qū)是成吉思汗次子察合臺的封地，察合臺死后，蒙古宗王為了爭奪繼承權(quán)，引起了長期的軍事紛爭。從14世紀(jì)末到16世紀(jì)末的兩百年間，察合臺的封地(察合臺汗國)分裂為許多互不統(tǒng)屬的小王國和“地面”，相互征戰(zhàn)。為了躲避戰(zhàn)亂，人們紛紛外逃。其時的蒙古貴族是封建農(nóng)奴主，他們大量掠奪貧民為奴，在自己的部落、莊園里從事勞動，充實自己的軍隊，刀郎人就產(chǎn)生于這些難民和奴隸。(在察合臺時期，“刀郎”一詞是“集中”、“成堆地聚在一起”的意思。)他們不堪忍受欺侮，為了反抗壓迫剝削和躲避戰(zhàn)爭的災(zāi)難，就逃到葉爾羌河下游平原荒無人煙的大漠胡楊林里，聚在一起過著自由自在的迂徙流浪生活，于是就有了“刀郎”的稱謂。

刀郎人反抗壓迫，爭取自由幸福的信念，吸引了不同地方不同民族的窮苦人加入他們的行列，“刀郎”不斷壯大。初時的刀郎人是蒙古杜格拉特部與維吾爾人融合而成，后來的刀郎人已并不限于某個民族的人了，而是各民族下層階級的組合，并成了反抗統(tǒng)治者而自立的人的代名詞。

在漫長的歲月中，刀郎人在遠(yuǎn)離人世的荒漠曠野、原始胡楊林中狩獵游牧，或從事落后的農(nóng)耕，與大目然作著不息的抗?fàn)帲^著艱苦的生活。在閉塞的環(huán)境里，刀郎人形成了獨特的生活習(xí)俗、語言、文化、藝術(shù)和心理特征。到清朝初年，已與其他維吾爾人迥然有別?！按说然厝?，以遷徙為常，性與各城有異"，已成為“回子中別一種了”(椿園《西域風(fēng)土記》)。