20世纪50年代，考古学家在武川县大青山乡二道洼村北，发现一石器制造场。据考，所制石器为人类由旧石器时代向新石器时代过渡时期的工具。可见，距今一万年前本县境内已有人群部落。
县地归属，商、西周时属鬼方，春秋时属猃狁，战国时属林胡、楼烦，其种族“食肉饮酪”、“以穹庐为舍，逐水草迁徙”。境内纳令沟乡现有保存较完好的秦长城，据考证为蒙恬所筑。据《史记》蒙恬、李广、卫青等人列传，查证本县的秦砖汉瓦等文物及汉代城堡遗址，可知秦汉时县境为匈奴与秦汉争战之地，以属匈奴时间较长。三国、两晋时，属鲜卑族拓拔氏。
北魏天兴初（公元398年），道武帝拓拔圭将其东部地区的高门弟子及豪杰两千户迁到北部居住，以镇守边塞。宇文陵“随例徙居武川”（《北史》卷9第311页），此为“武川”一名最早的记载。北魏设“六镇”，武川为其中之一。《隋书》载隋文帝杨坚的五世祖杨元寿“魏初为武川镇司马”。《旧唐书》载唐高祖李渊的四世祖李熙“领豪杰，镇武川，因家焉”；《新唐书》记为“戍于武川，因留家焉”。北魏正光六年（公元525年），破六韩拔陵的起义军占领武川镇。后来，柔然族接受了北魏朝廷的请求，出兵攻打起义军，首领阿那瑰“拜受诏命，勒从十万，从武川镇西向沃野镇”（《魏书蠕蠕列传》2302页）。北朝后期，武川先后属东魏、北周。北周的皇帝孝闵皇帝宇文觉、世宗明帝宇文毓、高祖武帝宇文邕、宣帝宇文赟和静帝宇文衍（阐）等五位皇帝及许多大臣均为武川人。保定三年（公元563年），隋国公杨忠“出武川，过故宅，祭先人，席卷二十余城”（《北史》卷11第398页）。
县地隋时属突厥，唐时属唐，先后归云中都督府、单于大都护府及安北都护府辖。神册元年（公元916年）入辽，属西南招讨司辖，后为西京道丰州北境。入金后，属西京路净州辖。大定十八年（公元1178年），置净州天山县，辖今武川县地。明昌元年（公元1190年），金大臣宗浩、独吉思忠主修堑壕。金末，汪古部首领“阿剌兀思剔吉忽里以一军守其冲要”，入元后，其子孛要合为北平王，娶成吉思汗女阿剌海别吉公主为妻。
明朝时，县地为西土默特牧场。清初，属归化厅土默特及喀尔喀右翼旗。康熙、乾隆年间，汉族人民迁入渐多，租垦日众，聚居点渐增。今县城初名克克伊尔根（正音为呼和额日格），后渐演变为可可以力更。
光绪二十九年（公元1903年），置武川厅，为口外十二厅之一，属山西布政使归绥兵备道，称武川直隶厅，设抚民同知，加理事衔。原拟在翁衮城设治，因地偏远，寄治于归化城。
民国元年（公元1912年），改厅为县，置县时，县境总面积两万多平方公里，包括今之乌兰花、大滩、旗下营等地。中华人民共和国成立后，区划逐步演变为现境。民国三年（1914年），绥远与山西分治后，武川县隶属绥远特别行政区。民国四年（1915年），县府由归化城迁到可镇。民国十七年（1928年），绥远特别行政区改为绥远省，武川县隶属于绥远省。民国二十六年（1937年）10月，日伪蒙古军进占县城，11月14日成立伪县公署，属巴彦塔拉盟辖，为二等县。同年，国民党县政府随绥远民众抗日自卫军进驻县内山区庙沟一带。1938年9月，八路军挺进大青山，1939年将武川县一分为四，即归武县、武归县、武川县、武固县。抗战期间，共产党与国民党在本县均存游击县政府，随军转移。1945年8月日本投降后，武川县恢复抗战前辖地，属绥北行政区。
1949年9月19日，武川县随绥远省和平起义获得解放，属绥远省萨拉齐专区；1954年10月，属集宁专区；1956年8月，属平地泉行政区；1958年3月至1996年1月，属乌兰察布盟；1996年1月至今，属呼和浩特市管辖。
