公元前1063年，西周建国后，大封诸侯。周武王的儿子周成王，封自己最小的叔叔聃季载“食邑于沈”，在临泉建立了沈子国。
公元前506年，沈“为蔡所灭”，后楚又灭蔡，遂属楚地。
    秦始皇统一中国（公元前221年）后，废除分封制，推行郡县制。全国分三十六部，三百一十余县，在安徽设有五个部。临泉先属陈郡，后属汝南。临泉当时设平舆县（《史记·王翦传》；沈“在豫东北五十四里。”）
汉承秦制，同时又增加了封国，成为郡国交错的政体。全国有郡国一百零三个，侯国二百四十一个，县邑一千三百一十四个。元封五年（公元前106年）设州级监察区，分巡有关郡国。临泉仍为平舆县，并在西部设同阳县（今同城镇），属豫州刺史，汝南郡。
    西汉末年，王莽建立新朝，乱封乱改地名，把“平舆”改为“闰治”。
东汉仍延西汉旧制，临泉仍为平舆县，在西部为同阳县。汉明帝时，又封阴庆为同阳侯。两县均属豫州刺史，汝南郡。
    汉朝末年，魏、蜀、吴三国鼎立。临泉属魏。魏设州、郡、县三级地方制。仍有平舆、同阳两县并存，属豫州汝南郡。
    西晋于公元280年统一中国以后，地方体制仍是州、郡、县三级管理。晋惠帝时设新蔡郡。平舆划归新蔡郡。因西晋王朝发家于宫廷政变，为了笼络人心，滥置现象十分严重，统治阶级内部矛盾激化，导致“八王之乱”，统一不到四十年，国家即分裂。北方“五胡”少数民族入主中原，南北纷争，天下大乱。北方人民逃避战祸，纷纷南迁。因此，东晋时设了许多“侨郡县”，还有一些是双头设置，一名数处，一名数移。很多空头州、郡、县往往设在一个小小的庄村。南北朝期间，此处为南北争战要冲，先属南宋，后属北魏。仍设有平舆、同阳两县，属豫州新蔡郡。同时，北魏还在县境南前艾亭设财州，临泉也曾设新蔡、南陈留等双头郡县。
    隋朝时实行州（郡）、县两级地方行政区划制。到隋开皇三年（公元583年）平舆废，置沈州，到大业初（公元605年）又废沈州，同时仍有同阳、汝阴两县并存，分别属豫州淮阳郡、汝阴郡。
    唐武德四年（公元621年）复置沈州，贞观元年（公元627年）又废，入汝阴县（今阜阳）；神龙二年（公元706年），十道使唐俭奏请，分汝阴置沈丘县，属颍州。
    五代十国，先后属北方五个小朝廷，仍为沈丘县，属颍州。北宋将全国划分为二十三路，施行路、府、县三级管理，沈丘属京西北路，顺昌府。而西部地区（今黄岭、姜寨、同城、迎仙区）属蔡州。
    元时，地方行政区划为行省、路、县三级管理。沈丘属主京西北路，颍州行省。姜寨、同城、瓦店属河南行省。元暴政七十六年，淮西各县，灾难尤深。公元1351年，刘福通愤于元统治阶级的残酷压迫，在颍州率领农民起义，成立红巾军，英勇顽强地与敌人战斗。元统治阶级残暴地对农民起义军实行镇压，对淮西人民进行大屠杀，有九洗凤阳、十洗颍州之说。据明洪武二十六年（公元1393年）统计，凤阳府所领的泗州、宿州、寿州、颍州、亳州当时仅有七万余户，不足四十三万人口。元至正十一年（公元1351年）沈丘为红巾军攻占，即为明地，刘福通迎来韩林儿，封为皇帝，称为“小明王”。九年之后，红巾军又败走了，此地又被元统治阶级占领。元至正二十六年（公元1366年）元将扩廓铁木儿（蒙古族，汉名王保保）开掘沈丘城东、南、西三面为湖，以拒明兵。并于至正末年（公元1368年）劫城中军民北遁，城空遂废。
    明废元省，改设南京（原称应天府）、京师与公布政使司，下领府、州、县。全国有府一百四十个，州一百九十三个，县一千一百三十八个。洪武初，废沈丘县，降为沈丘镇，属凤阳府，直辖应天府（今南京）。西部的姜寨、瓦店、同城属汝宁府（今新蔡）。弘治十年（公元1497年）害陈、项、颍三处隅地，在距原沈丘县城（今临泉古城址）西北三十里的乳香台北（今河南沈丘老城镇）复置沈丘县。
    清朝建立不久，即实行省、府、县三级管理体制。沈丘镇属江南省（包括今江苏，安徽两省）。康熙六年（公元1667年）安徽省正式成立。雍正十三年（公元1735年）升颍州为府，下设阜阳县，老集设把总，沈丘镇设巡检司。清末，又划为五年镇，即西南镇（吕寨）、西三镇（沈丘）、西四镇（同城）、西五镇（杨桥）、西北镇（今胡集）和西一镇（今老集、宋集的一部分）。临泉即为阜阳西乡之地。
    民国初年，仍沿清朝之旧，只是府名、州名不复存在。1914年，安徽淮北设淮泗道，临泉地方属淮泗道阜阳县。1928年废道存县。临泉地方仍属阜阳县。1929年，在临泉境内废镇建区，全县分成三个区，即：第七区驻滑集；第八区驻杨桥；第十区驻沈丘。1932年，地方绅士以灾民为名，赴省请愿设制。理由为：临泉地处豫皖边界，土地辽阔，距阜阳县城较远，鞭长莫及，豫匪群起，为害甚惨。安徽省府同意建县，遂于1935年1月，正式成立了临泉县，驻地沈丘，属安徽省第七专员公署。县下设三个区，即第一区驻沈丘（后迁黄岭）；第二区驻杨桥；第三区驻滑集（后迁谢集）。中断了五百六十七年的建制又恢复为县。
    1941年抗日战争期间，国民党鲁苏豫皖边区党政分会设在泉河北岸的于老庄，省专设有办事处，以军代政。1945年抗日战争胜利后撤销。
    1947年10月临泉解放。当时，驻临泉的党政军高级人士，认为临泉地区地理位置重要，有设市的必要，遂于1948年7月建立了临泉市，又先后建立了临泉县、泉阳县和泉南县。把县境东北部的泉河以北颍河以南连接阜阳、太和两县的边缘地区划为泉阳县；西部连接沈丘、项城、汝南、新蔡四县的边隅地带划为泉南县；南部连同新蔡县的望城区划为临泉县；县城及周围各乡成立为临泉市。1949年3月，又同归为临泉县，属福建省阜阳地区管辖。同年，阜阳县建县时划走方集区。1953年界首改为县时，泉河以北除保留于寨、荣楼两乡外，余皆并入界首版图。
    现临泉县辖十四个区（镇），84个乡（镇），781个行政村民委员会，4433个自然村，177.4万亩耕地，33.6万户，14.6万人。