焦作历史悠久，早在8000年前的氏族公社时期就有人类居住。夏朝属冀州，称覃怀地。商及西周属畿内地，分属雍、邗、温三国。东周为晋南阳地，战国时属魏、卫二国地。秦属三川郡，西汉属冀州河内郡。东汉属司隶部河内郡。三国属魏国冀州河内郡。晋分属司州河内郡、汲郡、荥阳郡。南北朝分属司州河内郡、荥阳郡。后魏分属怀州河内郡、武德郡、司州汲郡、东恒农郡。隋分属河内郡、汲郡、荥阳郡。唐分属河北道怀州河内郡、河阳三城使孟州、河南道河南府河南郡、郑州荥阳郡。五代分属怀州、孟州、郑州、开封府。北宋分属河北西路怀州河内郡、京西北路济源郡、京西路郑州奉宁军制、京畿开封府。元分属燕南河北道怀庆路、孟州、河南江北行省卞梁路。明分属河内布政使司怀庆路及开封府。清属河南省怀庆府。

    1913年，河内县改为沁阳县。1927年沁阳县东部划出，成立博爱县。1945年9月8日建立焦作市。1948年3月改为焦作县。1949年10月15日，改为焦作矿区，划归平原省新乡行政专员公署领导。1952年11月15日，平原省撤销，焦作矿区划归河南省新乡行政专员公署领导。1956年7月9日，改为焦作市，由河南省直接领导。1959年12月1日，修武、博爱两县划归焦作市领导。1960年8月15日，撤销修武、博爱两县建置，并入焦作市；撤销温县建置并入沁阳县。1961年10月5日，恢复修武、博爱、温县建置，归新乡行政专员公署领导。1974年1月19日，焦作市属河南省和新乡地区双重领导。1982年3月，焦作市划为省辖市。1983年9月1日，修武、博爱两县划归焦作市领导。1986年1月，温县、武陟、孟县、济源、沁阳五县划归焦作市领导。1988年，济源县改为济源市。1989年，沁阳县改为沁阳市。1997年，孟县改为孟州市，济源市归河南省直接领导。2002，焦作市辖沁阳市、孟州市两市，修武县、武陟县、温县、博爱县四县和解放区、山阳区、中站区、马村区四个城区，计116个乡（镇）办事处。2006，焦作市辖沁阳市、孟州市两市，修武县、武陟县、温县、博爱县四县和解放区、山阳区、中站区、马村区四个城区，辖103个乡（镇）办事处，计1826个村民委员会。