清时，临泉地方尚未设县，属颍州府阜阳县管辖。娄时在老集设有把总，沈丘集设有“巡检司”。嘉庆八年又在老集设有同知二府，并升把总为千总。二府为颍州知府之派出机关。仅掌握刑事及盗匪案件，千总管有武装，秉二府之命，缉捕盗匪，维持地方治安。清末，阜阳全县划分19个镇，本县地区当时设镇的有西南镇（吕寨）、西三镇（沈丘集）、西四镇（同城）、西五镇（杨桥）、西北镇（胡集）和西一镇一部分（老集、宋集部分）。
    1927年大革命以后，当时政府废镇，实行保甲制度，县以下划分区、联保、保、甲四级，临泉地区当时有第七区（滑集）、第八区（杨桥）、第十区（沈丘）。区下辖联保，多按当时的村寨划分，联保有联保主任，保有保长，甲有甲长。下面民户实行五家连保连坐，一家犯法，五家遭殃。后来，又划有大联保，临泉地区有三十个大联保，大联保主任一律有当地豪绅充任。
    1935年1月，划阜西七、八、十区和四区的一部分，成立临泉县。省政府委任张国华为首任县长，县政府设秘书一人，下设第一（民政）、第二（财政）、第三（建设）三个科，科设科长、科员、事务员、录事等人。同时还有军法、会计两个室。县直机关有：教育局、地方财务委员会、田赋征收柜、治安捐征收处、卫生院、民众教育馆、电话管理处、无线电台、农业推广所、民生工厂、水利工程委员会、自卫大队、政务警察队、看守所、国术馆、干训同学联络站、公学款产管理委员会、县仓保管委员会、抗日动员委员会等。省属驻肥机关内有“四室六科”，即“秘书科、军法室、会计室、合作指导室和民政科、财政科、教育科、建设科、军事科、社会科。下设机关又增加了县银行、体育场、救济院、补给分会等。
    临泉建县以后，各区以乡镇为单位，组织人员调查户口，以10至15户为一甲，10至15甲为一保，10保以上为一镇，全县共划编50个乡镇，544个保。镇设民政、教育、经济、警卫4股，具有管、教、养、卫4种职能。解放战争开始后，又成立了联防区，乡镇扩大，编为28个，以加强其防共反共力量，成为名副其实的反共体制。