呼伦贝尔见诸史籍最早的是东胡。公元前209年匈奴人统一北方草原,呼伦贝尔地区属其三部领地之一左贤王庭辖地。
东汉建武二十五年鲜卑与东汉“通驿使”,这是公元49年。此时,鲜卑人已经走出森林,生活在海拉尔河、伊敏河、根河、额尔古纳河流域以及达赉湖畔,并发展为强大的部落联盟。公元4世纪,鲜卑人进入中原,建立了北魏王朝。鲜卑人余部,在此后的数个世纪,和突厥、回纥、黠戛斯、乌古烈诸部落相角逐与融合
北魏时期,大兴安岭东有乌洛侯等室韦诸部,岭西有地豆于等室韦部。
隋时,室韦分五部,生活于呼伦贝尔的是北室韦、钵室韦和深末怛室韦。唐时,室韦分为九部,居嫩江(那河)沿岸的为达末娄部、达姤部,乌罗浑部和黄头部;居大兴安岭以西者为:居俱轮泊(今达赉湖)南的乌素固部、移塞没部塞曷支部和鲜部(黑车子室韦);居额尔古纳河沿岸的西室韦部、大室韦部和蒙兀室韦部。
7-8世纪,突厥人和回纥人先后进入呼伦贝尔岭西地区,这里一度成为突厥和回纥的东部边地。9世纪末和10世纪初,岭西逐渐成为乌古烈和塔塔儿人的驻地,岭东成为契丹人的势力范围。
10世纪初至12世纪,呼伦贝尔属辽国。
12世纪初至13世纪初,这块土地属金国。
成吉思汗先祖蒙兀室韦部在额尔古纳河流域日益成长壮大起来后,公元8世纪他们西迁到斡难河、土拉河、乌尔逊河发源地肯特山地区。当成吉思汗登上汗位后,他又重返呼伦贝尔,从塔塔儿人手中夺取了呼伦贝尔。成吉思汗最终统一了北方蒙古高原。统一的、强大的蒙古民族,也在这一历史时期形成。蒙古帝国建立后,1214年,成吉思汗将呼伦贝尔先后分封给他大弟拙赤•哈萨尔(故城在今额尔古纳市黑山头),二弟赤温•额勒赤及德薛禅家族,三弟帖木哥•斡赤斤弟(故城在今鄂温克自治旗辉河)。
1368年明朝建立后,元顺帝退守蒙古高原。呼伦贝尔大兴安岭东麓为蒙古阿鲁科尔沁部牧地,岭西直至尼布楚的广阔草原为蒙古四子、乌拉特和茂明安部游牧地。
明朝,呼伦贝尔地区由努尔干都指挥使司下设的一些卫、所管辖。
清朝,1734年建立海拉尔城,隶属五大将军属地——黑龙江将军。
1932年,伪满政府建立后,呼伦贝尔成为省级单位,为"兴安省",省会设在海拉尔。
1945年8月日本投降,10月岭西地区建立呼伦贝尔自治省政府。
1946年10月改称呼伦贝尔自治政府。
1945年10月在岭东地区建立纳文慕仁省。
1946年6月改称纳文慕仁盟,受中共领导的兴安省政府领导。
1947年5月归属内蒙古自治政府领导。
1948年1月1日改称呼伦贝尔盟,归属内蒙古自治区政府。
1949年4月,呼伦贝尔盟和纳文慕仁盟合并,称呼伦贝尔纳文慕仁盟,简称呼纳盟。
1953年4月1日,成立内蒙古自治区东部行政公署 ,简称东部行署 ,署址设在乌兰浩特。同时撤销原哲里木、兴安、呼纳三个盟的建制,其中原呼纳盟的海拉尔、满洲里、乌兰浩特变为内蒙古自治区的直辖市,其工作委托东部行署代管。
1954年4月30日,撤销东部区行政公署 ,将原兴安盟和呼纳盟所辖地区合并,改称呼伦贝尔盟,成立呼伦贝尔盟人民政府,作为地方一级政权,直属内蒙古自治区领导。盟政府设在海拉尔市。
1957年2月21日,呼伦贝尔盟人民政府改称呼伦贝尔盟人民委员会。
1958年6月1日,撤销呼伦贝尔盟人民委员会,改为内蒙古自治区的派出机构,设行政公署设在海拉尔市,改称呼伦贝尔盟行政公署。
1967年12月20日,筹建呼伦贝尔盟革命委员会,设为临时权力机构,行使原呼盟行政公署职权。
1969年8月1日,呼盟大部分地域划归黑龙江省管辖,一部分(原兴安盟的大部分)划归吉林省管辖。
1979年7月,恢复1969年前的行政区划,呼伦贝尔盟重新划归内蒙古自治区管辖。
1980年7月,恢复兴安盟建制,呼盟恢复1954年4月前的区划。
2001年10月10日,国务院批准撤销呼伦贝尔盟设立地级呼伦贝尔市;撤销海拉尔市设立海拉尔区。呼伦贝尔市辖原呼伦贝尔盟的阿荣旗、莫力达瓦达斡尔族自治旗、鄂伦春自治族、鄂温克族自治旗、陈巴尔虎旗、新巴尔虎左旗、新巴尔虎右旗和新设立的海拉尔区;代自治区人民政府管辖满洲里市、牙克石市、扎兰屯市、额尔古纳市和根河市。