在秦汉时代辅弼君主、总领庶政的有丞相（或称相国）。我们从《史记·陈丞相世家》里可以看出在汉初丞相的职权：
孝文皇帝既益明习国家事，朝而问右丞相勃曰：“天下一岁决狱几何？”勃谢曰：“不知。”问：“一岁钱谷出入几何？”勃又谢不知，汗出沾背，愧不能对。于是上亦问左丞相平，平曰：“有主者。”上曰：“主者为谁？”平曰：“陛下即问决狱，责廷尉；问钱谷，责治粟内史。”上曰：“苟皆有主者，而君所主者何事也？”平谢曰：“宰相者上佐天子，理阴阳，顺四时，下育万物之官，外镇抚四夷诸侯，内附亲百姓，使卿大夫各得任其职焉。”孝文帝乃称善。右丞相大惭，出而让陈平曰：“君独不素教我对？”陈平笑曰：“君居其位不知其任耶？且陛下即问长安中盗贼数，君欲强对耶？”
由此观之，当时的丞相好似现时各国的首相（prime minister），不直接处理各部的政务，但对行政的各部门有总揽指导的责任。
秦汉以后，中枢之任不一定由法定机关执掌，也不一定要由法定的官吏执行，究竟谁秉国钧，君主随时可以决定。因此，居宰相之位的，未必有宰相的实权，有实权的未必居宰相之位。所以后汉在法律上有三公为宰相之任，但实际上“事归台阁”，就是说大政均为与皇帝比较亲近的尚书夺去了。尚书原是九卿少府的属官，秩位甚卑，本来的职务不过在殿中主发文书而已。唐代行三省制，尚书、中书、门下三省为政治中枢，三省的长官就是宰相。但到后来，如果不带“同中书门下三品”或“同平章事”的头衔的三省长官，不能参加机密，而所谓“知政事”、“参知政事”、“参预朝政”等员，却有宰相的实质。明代有左右丞相，但自洪武十二年左丞相胡惟庸擅权被诛以后，大权归六部。后来设内阁大学士，而其权遂绝对不能比拟从前的丞相了。至于清代的内阁不过是撰拟诏令批答，其职务等于现在的秘书厅，非复宰相之任。雍正年间西北用兵，设军机处。军机大臣与君主接近，参赞机务，故大政出于军机处而不出于内阁。由此看来，秦汉以后中枢之政，随时由君主指派人员负责，实在没有一个固定的制度。
中枢之政所以不能有固定的制度的原因，是君主不敢以大权授人。宰相的秩位尊崇，如再授以大权，恐怕尾大不掉，危及王室。所以宰相之位往往是设而不除。但这种办法不但不足以阻遏“乱臣贼子”的阴谋，而且足以引起他们对于王室的觊觎。例如，东汉不设丞相，到建安年间特置之以处曹操；魏也不设丞相，到正始年间特置以处司马师、司马昭。魏以后中书监实为宰相之任，而其秩仅三品，至于所谓黄钺大将军，大丞相等一二品大员，则不敢轻于授人。但在宋、齐、梁、陈的季世，都有权臣强居其位以为将来篡夺之阶。这些事实，适足以证明仅在人事上做工夫而忽略了制度的危险。马端临说得好：
夫中书既为宰相之任，则升其秩可也；丞相既不为宰相之任，而常为嬗代之阶，则废其名字可也……夫高官极品，不以处辅佐之臣，而又存其名字，使乱臣乱子递相承袭，以为窃大物之渐，非所以昭德塞违，明示百官也。（《文献通考·职官考》）
马氏对于历代君主不尊重制度的流弊说得非常透彻。各国的政治制度，特别是对于世界政治上有重要贡献的制度，很少是由于人力的悉心规划，大部分是历史演化的结果。英国的内阁制度不是政治学家所艳称的政治制度么？英国内阁出于“枢密院”。“枢密院”是君主的顾问机关，后来因为人数过多，不够机密，故择其中比较可信任者四五人，入直襄赞，委以心腹至意，是为内阁。此四五人者皆君主的私人，非国会所能控制。经过若干时期，内阁才由君主的个人的顾问机关而变为对国会负责的机关。中国的社会背景与英国不同，中国的宰辅制度亦绝不能变成英国式的责任内阁，但如果有自由发展的机会，至少可以维持其原来的尊严，或者可以有进一步的发展，辅导君主，使其不至于独断孤行。黄宗羲谓：
天子传子，宰相不传子，天子之子不皆贤，尚赖宰相传贤足以补救，则天子亦不失传贤之意，宰相既罢，天子之子一不贤，更无与为贤者也。（《明夷待访录·置相篇》）
但后代“君骄臣谄”，君骄所以不敢以大权授人，臣谄所以不敢行其所当行的职权。清高祖《书程颐〈论经筵札子〉后》有几句话很足以代表一般君主的态度：
夫用宰相者，非人君其谁为之？使为人君者……惟以天下之治乱，付之宰相，己不过问，幸而所用若韩范，犹不免有上殿之争；设不幸而所用若王吕，天下岂有不乱者，此不可也。且使为宰相者，居然以天下之治乱为己任，而目无其君，此尤大不可也。
宰相以天下为己任就算目无其君，然则为宰相者还有甚么事可作呢？因为宰相不敢以天下为己任，所以像明朝的张居正就被人认为目无朝廷。中国的宰辅制度不能成为一种健全的政治制度的症结就在此。
至前清末季，大势已去，始采取西洋式的内阁以维系人心，中国历代所行的宰辅制度，遂从此结束了。
民国以后，也未能在制度化的坦途上走，所以忽而法国式的责任内阁制，忽而美国式的总统制，变更纷纭，莫不以应付人事为主。
至于事务的组织，自秦汉以至清末，国家与宫廷间的界限往往不甚严格，所谓“宫中府中共为一体”就是这个意思。盖皇帝既视天下为私产，国家与宫廷自然是没有性质上的分别。汉代的中央行政均在九卿或九寺，如果我们把九卿的执掌分析一下，就可以发见他们所处理的事务大部分是与皇帝个人或宫廷生活有关系的。例如太常寺最重的职务是当祭祀的时候，奏其礼仪（太常也管教育），太仆寺掌皇帝的车马，少府寺掌皇帝的私财，光禄寺掌宫殿掖门户，卫尉寺掌宫阙以内的护卫，宗正寺掌皇族事务。惟有大理（司法）、司农（财政）、大鸿胪（诸侯及归义蛮夷）等寺的执掌是超出于宫廷以外的。
后世政府行政的部门增多，原来组织已不能胜任愉快，于是或提高原有机关某一部分的职权，使其渐趋独立，或另设新机关，但原来的组织并不因此而废止。九卿到隋唐以后已经是不重要了，国家的行政差不多都集中在六部，然太常、光禄、太仆、大理等寺一直存在到满清的末年。满清虽没有宗正寺，而却有宗人府及内务府等机关以处理宫廷及皇族的事务。在性质上这些机关并不得视为特殊的组织，而是与国务机关站在同等地位。即正式的国务机关有时亦兼管宫廷的事务。
到隋唐的时候，国家的行政已经集中于尚书省的六部，所谓“文昌天府，众务渊薮，内外所折衷，远近所禀承”者也。自此以后六部遂为中央行政组织的典型。以现代的眼光看来，六部虽较以前的九寺为进步，然其职务尚不过是关于官吏之任免黜陟（吏部），兵财之充实（兵部及户部），宫殿城垒之修筑（工部），贡举之举行（礼部），及罪囚之裁判（刑部）而已，对于人民的福利，并未顾及。中国的政治理论自来是取消极无为主义，老百姓所要求于政府者是一个休养生息的机会，而不是兴利造福。在心理上中国人认政府为一种“不可避免的祸害”（a necessary evil），不做事的政府就是最好的政府。这也难怪他们，因为过去的经验告诉他们，如果政府要雷厉风行地做事，老百姓不但得不到甚好处，而且要受许多无谓的骚扰。所以我们最高的政治理想是“政简刑清”，政府最大的使命是保境安民。实际上中国史政府能真正负起保境安民的责任的时候并不很多。
国家行政到清末已非原有六部所能赅备了，于是添设了几个新的机关，如外务部、民政部、学部、农工商部、邮传部等。外务部是光绪二十七年由以前的“总理各国事务衙门”改组而成的。总理各国事务衙门成立于咸丰十年，是为中国有专办外交机关之始。惟总理衙门的王大臣多系兼差，未能殚心职守，故改为外务部，以专责成。这是比较以前的兼摄合议制度为进步了。光绪二十九年设商部，在素视商业为末务的中国，这不得不谓之一件大事。三十二年九月中央的机构又经过一次重要的调整，“外务部、吏部均着照旧；巡警为民政之一端，着改为民政部；户部着改为度支部，以财政处并入；礼部着以太常、光禄、鸿胪三寺并入；学部仍旧；兵部改为陆军部，以练兵处，太仆寺并入；应行设立之海军部及军咨府未设以前，均暂归陆军部办理；刑部着改为法部，责任司法；大理寺着改为大理院，专掌审判；工部着并入商部，改为农工商部；轮船、铁路、电线、邮政，应设专司，着名为邮传部”。（光绪丙午《上谕》）
经过这一次的改组与调整，中央行政机构渐趋现代化。现时的中央行政机构，名称虽略有变动，而大体仍不出光绪三十二年的轮廓。
新设各部的内部组织亦与以前六部的组织略有不同。从来六部的积弊，在于一切案件皆归下僚之任意处理，而在新设各部里，上官须亲自处理事务，以免书吏的把持。但在事实上这一点并未做到。以前的六部均有“清吏司”分掌各种事务，在新设各机关里均设“司”，而各司的职权亦有比较明白的规定。例如民政部设五司：民治司“掌稽核地方行政，地方自治，编审户口，整饬风俗礼教，核办保息、荒政、移民、侨民各事项”；警政司“掌核办行政警察、司法警察、高等警察，及教练警察各事项”；疆理司“掌核议地方区划，统计土地面积，稽核官民土地收放买卖，核办测绘，审订图志各事项”；营缮司“掌督理本部直辖土木工程，稽核京外官办土木工程及经费报销，并保存古迹，调查祠庙各事项”；卫生司“掌核办防疫卫生，检查医药，设置医院各事项”。这些司的执掌内所包括的事项差不多与现在的内政部完全相同。其他诸部亦各就其事务的繁简酌设若干司，其中司的数目比较多的为度支及陆军两部。就分司的方法来说，新的组织也比旧的组织为系统化、合理化。例如，以前户部的“清吏司”是按地域分的，故有山东清吏司、江南清吏司、湖广清吏司等等。户部改为度支部后，按职掌的性质分司，故有田赋、漕仓、税课、筦榷、通阜、库藏、廉俸、军饷、制用、会计等司。在司的底下又分科，科有科长、科员等职员。举凡现时各部会内部组织的形式在那时已灿然大备了。
清代自咸丰年间就开始模仿西洋，推行所谓“新政”，其目的在巩固国防（当时人叫做“富强”）。第一步的工作是训练新式的军队。由训练军队而建筑机器制造厂，由机器制造厂而感觉技术人材的需要，故设立武备学堂及派遣留学生，这都是强的工作。但仅仅在这些工作上努力还是不够，所以又从事于新的交通事业，如轮船、电报、铁路等，最后才注意到经济、教育等等。最初举办这些新事业的时候，往往是由几个大臣如曾国藩、李鸿章等全权办理，而在中央并没有统筹的机关及行政的机构。到光绪三十二年才把这些事业的行政一律地归纳到新设的各部里边。
新的组织自然比旧的完备了。但有一事我们不能不注意的，是在添加新组织的过程中，原来的文官制度被破坏了。原来官吏的任用，有一定的方法，升迁有一定的程序。到太平天国的时候，曾国藩等感觉人才缺乏，官吏腐败，不得不破格用人，于是保举的风气大行。当时的保举尚称严格，故由保举中得到不少出类拔萃的人才。捐纳的制度亦在那个时候大盛，于是仕途愈滥，但升迁的程序还没有完全破坏。到光绪年间举办各种新政，引用了许多新的人才，不论资格，不遵程序，能说几句外国话的如梁敦彦、梁如浩一流的人物，居然飞黄腾达，一跃而为大员。从此以后，官吏任用就紊乱了。
