但是这样的调整朱载坖仍然认为不够完善，首先是各都督府和各都司距离太过于遥远，都督府根本无从掌握各都司、行都司、留守司的实际情况，朝廷将五军都督府全都留在京师，固然是便于朝廷直接掌握军队，但是也是使得各都督府和分领的都司卫所之间极为陌生，根本无从了解实际情况。
所以朱载坖决定，调整五军都督府的建制，要设立行都督府或者都督府分司，派遣到所管理分领的各都司的地面上去，直接管理所辖各都司卫所，朱载坖在和臣子们商量之后，决定设立行五军都督府，各行都督府以右都督为长官，分驻辖区，对各都司实施就地管理，左都督仍旧驻京师。不仅仅要设立行五军都督府，还要以地域为划分，将各都司、行都司、留守司等归都督府管理，加强朝廷对于卫所的管理。
按照地域划分，行中军都督府驻开封，管辖京师不属于亲军诸卫的各卫所，和中都留守司，河南都司、山东都司，再析分原湖广都司为湖南都司和湖北都司，还有兴都留守司。
行前军都督府驻节大宁，管辖辽东都司、吉林都司、大宁都司、山西都司、万全都司、宁夏都司。
行左军都督府驻节西安府，管辖山西都司、甘肃都司、青海各卫所、四川都司、贵州都司。
行右军都督府驻节杭州府，管辖浙江都司、福建都司、福建行都司、南直隶各卫所和南京不属于亲军诸卫的各卫所。
行后军都督府驻节广州府，管辖广东都司、广西都司、云南都司、缅甸都司。
各行都督府主要主要负责对所管辖各都司卫所予以监察，督促他们切实屯垦戍边，同时保障脱产士卒的军事训练，对于他们的军事训练予以考核，对于发现的不称职的卫所军官，行都督府右都督可以直接行文在京师的都督府，予以罢黜或者进行题参。
同时作为动员机构，掌握军余子弟的数量，世袭军官受训考核之后的分配等事务，都要由行都督府负责管理。