开鲁县于一九零八年建县，置县以前，春秋战国时期为东胡地；汉朝时期，初为鲜卑地辽东郡西北境，末年为燕北地；隋朝时期属范阳节度使辖境；唐朝时属松漠督都府；辽金时期，辽时属上京道临潢府。金时，行政上属北京路临潢府，防务上属临潢路；元朝时期，先为辽王封地，后划归全宁路辖境；明朝时期属兀良哈三卫的泰宁卫辖境；清朝时期，属热河都统管内昭乌达盟阿鲁科尔沁旗、东扎鲁特旗、西扎鲁特旗三旗王公领地。
清朝光绪三十四年（1908）年置县后，隶属于热河省赤峰直隶州；中华民国时期，民国2年（1913年）属热河道，民国3年（1914年）属绥远、热河、察哈尔特别行政区热河道，民国17年（1928年）属热河行省；东北沦陷时期，民国22年（1933年3月9日）日军侵占开鲁县，划入伪满洲国版图。同年5月10日开鲁县隶属伪兴安西分省，并定开鲁县为省会。
1934年12月1日，开鲁县隶属兴安西省，仍为省会。
1943年，开鲁县隶属伪兴安总省。
1945年8月伪满洲国垮台至同年底，开鲁县由伪街长张念祖为首的伪政权地方治安维持会统治（群众称之为二满洲）。
1946年1月16日，新四军第三师八旅二十四团接收开鲁，开鲁县隶属通鲁工委。同年2月23日，开鲁县隶属于通辽中心县委。同年4月1日，开鲁县隶属于哲里木省民主政府。同年5月，哲里木省政府改制，开鲁县隶属于辽吉区行政公署哲里木盟政府。同年10月25日，中共开鲁县委、县政府战略转移，撤出开鲁县城，开展游击战争。国民党七十一军八十八师十六团占据开鲁县城，筹建起“开鲁县政临时委员会”，统治开鲁县部分地区。
1947年2月27日，开鲁县第二次收复后，隶属于辽北省哲里木盟政府。
1949年4月21日，东北行政委员会命令，哲里木盟由辽北省划归内蒙古自治区，开鲁县隶属于内蒙古自治区哲里木盟人民政府。
1953年2月3日，内蒙古自治区人民政府决定，开鲁县隶属于内蒙古自治区东部区行政公署。
1954年4月20日，撤消东部地区行政公署恢复哲里木盟人民政府（后改制为哲盟公署）。开鲁县隶属于哲里木盟人民政府。
1969年7月1日，哲里木盟划归吉林省，开鲁县隶属于吉林省哲里木盟政府。
1979年7月1日，哲里木盟划回内蒙古自治区，开鲁县也随之又重属于内蒙古自治区哲里木盟。
1999年2月撤销哲里木盟改设地级通辽市，开鲁县由地级通辽市管辖。
