
春秋戰國至秦時,今霍林郭勒市境屬東胡游牧地。兩漢時為鮮卑人牧地。三國至西晉時,為東部鮮卑游牧地。東晉時,為契丹人駐地。南北朝時,為地豆于人居地。隋及初唐,為霫人駐地。中唐及晚唐時,屬關內道居延都督府轄地。遼時,屬上京道臨潢府轄地。元朝時,屬中書省全寧路管轄。明朝時,屬奴爾干都司泰寧衛轄地。清朝時,屬哲里木盟(今通遼市)科爾沁左翼中旗轄地。
民國21年(1932)5月,設興安總省,下轄東西南北四個分省,今市境為興安南省科爾沁左翼中旗轄地。民國33年(1944)8月,劃歸科爾沁右翼中旗管轄。1949年8月29日,內蒙古自治政府決定,今市境劃歸扎魯特旗,為扎魯特旗北部3個努圖克(鄉)的游牧夏營地。
1969年7月,今霍林郭勒市隨扎魯特旗劃歸吉林省。1979年7月,復歸內蒙古自治區。1981年10月,為支援霍林河煤田建設,哲里木盟在此設立霍林河辦事處,行使旗縣級政府職能,并籌備建市。1982年2月,辦事處正式掛牌辦公。

春秋戰國至秦時,今霍林郭勒市境屬東胡游牧地。兩漢時為鮮卑人牧地。三國至西晉時,為東部鮮卑游牧地。東晉時,為契丹人駐地。南北朝時,為地豆于人居地。隋及初唐,為霫人駐地。中唐及晚唐時,屬關內道居延都督府轄地。遼時,屬上京道臨潢府轄地。元朝時,屬中書省全寧路管轄。明朝時,屬奴爾干都司泰寧衛轄地。清朝時,屬哲里木盟(今通遼市)科爾沁左翼中旗轄地。
民國21年(1932)5月,設興安總省,下轄東西南北四個分省,今市境為興安南省科爾沁左翼中旗轄地。民國33年(1944)8月,劃歸科爾沁右翼中旗管轄。1949年8月29日,內蒙古自治政府決定,今市境劃歸扎魯特旗,為扎魯特旗北部3個努圖克(鄉)的游牧夏營地。
1969年7月,今霍林郭勒市隨扎魯特旗劃歸吉林省。1979年7月,復歸內蒙古自治區。1981年10月,為支援霍林河煤田建設,哲里木盟在此設立霍林河辦事處,行使旗縣級政府職能,并籌備建市。1982年2月,辦事處正式掛牌辦公。