右玉县自古为我国北方要塞,这里自春秋以前一直为北方少数民族所占领。三国时,由于连年混战,匈奴侵边,人口流失,右玉一带成了荒无人烟之地。秦初置善无县,因拓跋圭建都盛乐(今和林格尔北),右玉属都城近郊,史称“盛乐金陵”。西汉高祖初,境内又增设中陵县,隶雁门郡。明洪武二十五年置定边卫。永乐七年又设大同右卫。正统年间又将边外玉林卫并入右卫,改称右玉林卫,属大同府。清初改名右玉卫。雍正三年设立右玉县,归朔平府,府治设在右玉。民国时废县留府,归雁门道。在抗日战争和解放战争时期,是革命根据地。
右玉县历史悠久,人文昌盛,是山西省的文物大县、文化大县,有100多件文物被省博物馆收藏。在这片古老文明的土地上,出现过不少名人志士。如北齐的高市贵,为骠骑大将军,战功显赫,官至晋洲刺史。明代的孙祥、何廷魁以及麻贵、麻承训、麻承宣、麻承宗父子均是见诸史书的将领,官职皆在总兵以上。尤其是麻贵更为出类拔萃,官至右都督,与李成梁并为名将,时人有东李西麻之称。清代亦有文武进士5人,出任知县、知府。解放后,被誉为中国“装甲兵之父”的耿耀张,爱国将领王国相,著名医学家刘治汉,著名学者、教授刘子威等都是右玉县的佼佼者。解放以来,在党和国家的领导下,全县宣传文化事业在继承中创新,取得了长足的发展。县委宣传部、县文化体育局以及文化馆、博物馆、图书馆等多次受到国家、省、市嘉奖;县道情剧团多次在全省文艺调演中获奖;由原县文联主席付品创作的小说《借姑娘》曾被中央电视台改编为电视剧,先后获得过“赵树理文学奖”三等奖、山西省文学艺术创作铜牌奖。