首先我们讨论政府与外部的关系的三个层面：
政府与被管理者行政相对人的关系主要涉及两个问题：一是政府管什么；二是政府怎么管。前者是转变政府职能的问题，改革的方向主要是强化被管理者自治、自主，减少政府的干预，特别是减少政府对公民、法人和其他组织内部事务的微观干预，构建有限政府；后者是转变政府管理方式的问题，改革的方向主要是确立以人为本，实行公开、公正、公平和社会公众参与的民主方式。
政府与社会的关系主要涉及的是管理主体，即谁来管的问题。社会事务与行政相对人的活动有些不需要公权力的干预，有些需要，但需要公权力干预、管理的事务不一定都必须由国家、政府垄断。广义的公权力除了国家公权力以外，还包括国际公权力和社会公权力。如NGO、NPO等社会组织、团体。所以，政府与社会的关系的改革方向应该是政府职能逐步向社会转移。许多行政管理事项虽然是公共物品，必须由公权力提供，但不一定非要由政府提供，完全可以由民间的社会组织、团体，如律师协会、注册会计师协会，医师协会、村民委员会、居民委员会、工会、妇联、民间环保组织等提供。我们现在问题还是政府管得太多，NGO、NPO发展不够，政府公权力向社会转移的速度太慢。
政府与立法机关、司法机关乃至执政党的关系也是广义的行政管理体制改革的内容。政府与立法机关的关系涉及政府权力、财力、人力的来源问题，关涉国家政体的民主性质；政府与司法机关的关系涉及行政权的制约问题，关涉公权力腐败、滥用的扼制；政府与执政党的关系涉及党的领导与责任政府的平衡，关涉中国特色政治文明如何架构。这些是比较宏大的问题，需要不断探索
狭义行政管理体制改革涉及的主要是政府内部关系的三个层面：
一是中央与地方的关系。主要的问题是中央集权过多，地方政府自主权、自治权不够，导致许多怪现象的出现：有权、有钱的不管事，管事的没有权，没有钱，逼得下面的人要么睁一只眼闭一只眼不管事，要么“跑部钱进”。当然，中央与地方的关系很复杂，在有些情况下，地方政府权力太大，又产生地方保护广义的问题，如环境管理，如不破除地方保护主义（政绩和利益驱动的必然），中国的科学发展、可持续发展将没有希望，环境、生态的灾难将不可避免。像这类事务，中央垂直管理或下放地方政府管理也许都会有很大弊端，是否能借鉴国外的经验，通过法律赋予环保部门更多的独立性，使之能一定程度地减少地方政府，甚至中央政府的干预，确保其行为不受政府短期利益的干扰。同样，像土地、矿产资源一类管理事务，特别是涉及民族自治地区的土地、矿产资源管理，如何处理中央与地方的关系，恐怕需要更多的探索。
二是政府部门之间的关系。目前主要的问题是政府职能分散，交叉、重叠的现象严重，导致部门有利的事情（如收费、罚款等）大家争着管，部门无利的事情（如社会救助、救济、弱势群体保护等）大家都不管。如过去劳动力市场和人才市场的部门分割问题导致有关部门为争管理权而对“劳动力”和“人才”做相互矛盾的解释，而民政部门对流浪人员救助管理与医疗救助管理的分割，导致流浪人员生病无人救助，互相推诿，结果使其死在街道上或救助站门口。这次大部制改革就是要解决这个问题，当然改革不能一步到位，大部的组合和职能的调整都不能毕其功于一役。
三是部门内部的关系。大部制实行后，如何解决集权、专权和滥用权力的问题，是行政管理体制改革必须涉及的内容。部门内部司、局、处的设置，既要考虑效率，更要考虑便民和防止滥权。现在正探索的决策、执行、监督三权分立，相互协调和相互制约在部门内部如何实行，有待探讨。各部门情况不一样，恐怕不能“一刀切”。
如何搞好上述六个层面的改革，我认为有四个问题需要注意：
一是正确处理“有限政府“与”“服务政府”的关系。“有限政府“与”“服务政府”本来是统一的：政府为人民服务就应该精简机构、转变职能，减少人民的负担。但是我们如果对“服务政府”缺乏正确的认识，以为“服务政府”就是政府要把所有公共服务职能包下来，如社会保障、社会救济、公共交通、邮电、殡葬、保险等公共物品，都由政府提供，不许民间染指。这实质上不是建设服务政府，而是与民争利。对于很多社会和公共服务，国外的经验是尽量让民间去做，如民间做不了或不愿做，再由政府直接提供。服务政府主要解决的问题恰恰是限制部门利益，政府不是以营利（收费、罚款等）为目的，而应以服务人民为目的。
二是正确处理“大部制”与强化权力制约的关系。过去，在部门众多的情况下，有很多事情是部门之间协商、讨价还价的过程，尽管不协调、影响效率，但对防止集权、滥权也有一定作用。部门之间有制约，不能一人说了算。现在实行大部制，一些部门合并了，如何解决对行政权力的制约，是大问题。解决的办法除了“三权分立”外，更有效的措施恐怕是应加强政府决策的民主程序，强化公开、公正、公平和公众参与，至关重要。现在我们不能只考虑效率，而应更多地考虑民主、公平。
三是正确处理改革与法治的关系。应该通过立法将行政管理体制改革的成果固定下来。如机构、职能、编制等，都应通过法律或行政法规来确定。过去我们改革不成功或“得而复失”的重要教训就是不重视法治。 “三定规定”不是法，人治味道太浓。从长远看，还是要搞法，应逐步制定国务院各部门组织法（或条例）和省、市、县、乡镇政府的组织法。
四是应正确处理改革“摸着石头过河”与制定改革规划的关系。改革应有总体规划，虽然不能一步到位，但整体目标、任务要明确。当然规划在实施过程中应不断调整，在过河过程中不断根据摸着的石头校正方向。
