1928年国民党实行训政后，南京国民政府的地方行政体制与以往地方行政体制有所不同，普遍实行了城乡分立的双轨制行政体制。这是我国行政史上的一个重大变化。
一、省政府
省政府是地方最高行政单位，由行政院提请国民政府任命7至9人组成省政府委员会。各厅、处同属省府职能机关，各有其独立组织和预算，能够上对省政府，下对县政府以及各局直接行文，在行政层次上成为独立于省县之间的中间层次。这是南京国民政府地方行政体制的一个特点。
二、行政督察专员公署
行政督察专员公署是省政府的派出机关，是适应国民党部署反共内战的需要而设立的。督察区的设置，也有行政体制上的原因，单从行政管理角度看，专员制度在沟通省县之间联系、整顿吏治、绥靖地方及提高行政效率方面，是起了作用的。
三、市政府
1930年5月新的《市组织法》由国民政府公布。依据该法，市分为中央直辖市(直隶于行政院)和省辖市(直属于省政府)两种。
四、县政府
县为南京国民政府初级行政区域。南京国民政府建立后，于1927年6月明令各省一律采取县长制，废除广州、武汉国民政府一度采用的委员合议制。1928年9月公布《县组织法》。该法经1929年和1930年两次修订，县行政体才逐渐统一起来。五、市、县以下自治组织次县省区为市以下自治组织，设区民大会、区公所、区民代表大会及监察委员等。
县以下自治组织为区、乡(镇)、闾、邻。
