临河历史悠久。早在战国时期，七雄争霸，赵武灵王开疆拓土，设置九原郡，临河为九原郡西部地，至此时有隶属。“临河”作为一个具有固定内涵的词组，最早出现在《汉书·地理志》：“朔方郡，户34338，口136628，县10：三封、朔方、修都、临河、呼遒、窳浑、渠搜、沃野、广牧、临戎。” 河套平原的所在地--临河
在战国的时候，赵国在河套地区设有九原城。秦统一六国后，在黄河北岸设九原郡，因河为塞，筑44县城临河，迁徙内地人充实初设之县。汉元朔二年（公元前127年）新设置朔方郡，并改秦九原郡为五原郡。
汉置郡县多因袭秦制，所以历代志书都说：秦蒙恬北击匈奴，因河为塞，筑44城，置临河县（嘉庆一统志·鄂尔多斯）。但有确切文字记载的只有《汉书·地理志》。
由上看出，“临河”一词一出现，就是以一地的方位来命名一级行政建制的，是一个行政建制名，不是一个自然实体名，后来才逐渐有了地名的含义。
此外，有关临河的记述还有水经注。水经注中说：河水自窳浑来为北河，东经高阙南，又东经临河县故城北；又南河自临戎来，东经临河县南。
临河县自西汉元朔二年设，至东汉废。在明末清初以前，临河地区人迹稀少，到处是“天苍苍，野茫茫”的荒原景象。后来内地连年灾荒，加上官逼民反，迫使山西、陕西、山东、河北、河南的“口里人”不断流落到临河，在这里开垦土地，从事农耕，使临河地区逐渐变成农业区。到民国14年（1925年）设县时，考虑到本地历史，于是就采用了西汉时的县名。1949年9月19日，临河和平解放，1950年隶属陕坝专员公署，1954年隶属河 套行政区，1958年隶属巴彦淖尔盟。1984年11月22日，经国务院批准临河撤县设市。
1949年建国后，临河人民大兴农田水利建设，合理开发利用黄河水利资源，先后组织开挖了总干渠、总排干等大型灌排工程，改变了临河地区农业生产的落后面貌。特别是1978年改革开放以来，城乡互为依托、互相促进，临河国民经济有了较大发展。
