唐朝，唐太宗新开“道”，唐玄宗新开“府”。最早设府在开元元年（713年），唐玄宗升雍州为京兆府，升洛州为河南府。后来，府逐渐增多，成为唐朝行政区划中一个重要的单位。

宋朝，路下设府、州。府虽与州同级，但地位略高于州。国都，陪都，皇帝诞生、居住、巡游过的地方，地位重要的州，改置为府。

明清时期，省府县是地方区划，府与现在的地级市相似。受制于省、府驻扎的县（今主城区）被称为首县。

辛亥革命后废除了府。民国时期，省直辖各县，大多数省会、重要县城设市。县的中心城区以外，保留县的名义，例如南京市与江宁县、上海市与上海县同时存在。

20世纪80年代，在先富带动后富的思维模式下，市管理县。地级市一定程度上促进了所属县的发展，实际权利超越了明清的府。