秦统一后，行来郡县，废分封制
汉代源实行郡、国并行，部分实行郡县制，部分实行分封制。汉武帝始在郡之上设州一级，但是州一开始只是监察区，郡由中央直辖。后来州官的权力逐渐扩大，到了东汉末年，州正式凌驾于郡之上成为地方一级行政区，郡县制由二级制变成了州郡县三级制
魏晋南北朝基本沿袭，但是州、郡数量逐渐增加直至泛滥，州、郡的辖区大大缩小，权力重叠。
有鉴于此，隋文帝废郡，将地方政区从州郡县三级制改为州县二级制，隋炀帝时又改州为郡，恢复郡县制。
唐初改郡为州，后又有反复，唐肃宗最终定为州领县。唐代在州之上还有道一级，道最初是监察区和军区，后来逐渐成为行政区，唐代地方政区也就由州县二级制变成了道州县三级。
宋代实行路州县三级制。宋代也有郡，但是宋代的郡都是府州的别名，比如宋代南海郡就是广州的别名，因此没啥实际意义。到了元朝，不再有郡。