秦朝在少府下設尚書，主管典籍，為後世尚書省的發端。
漢武帝奪外朝（以丞相為主的正式的政府機關）權，設立以大將軍為首的內朝，專門處理軍國大事。以原屬少府的尚書以及中書謁者來轉達表章，溝通內外朝，為後世尚書省的發端。
東漢時設置尚書台，統領百官政事，長官稱尚書令。但是此時的尚書台在體制上仍然屬於少府序列，官品低微，所以另派大將軍、大司馬、太傅以錄尚書事的名義秉政。
東漢末設侍中寺，為皇帝的侍從、顧問機構。置侍中、散騎常侍等官，多以卓有學識的士人充任，為一時清選。
三國曹操自任丞相，移原隸少府的尚書吏部曹、選部曹等尚書諸曹為丞相屬官，將漢武帝建立的內朝轉為外朝官署，這是尚書省建立的開端。
按：東漢時雖有尚書台、已經成為處理政務的主要機關，但畢竟是隸屬於內廷的官署，不能說是國家的正式政務機關。
曹丕以尚書諸曹權力過大，遂以曹操設立的專門處理機密文書的秘書省為基礎另設中書省，掌管機要，起草和發佈詔令。置中書監、令各一人，以中書監為長官。
南北朝時侍中、散騎常侍的權力逐漸擴大。北朝則政出門下，成為中央政治機構的重心。晉朝正式有門下省的建制。
隋朝建立後，將北周仿照周禮設立的官爵制度（六官之制）廢除，設立了以三省六部制為主體的中央官僚體系。隋設尚書、門下、內史、秘書、內侍五省，秘書省類似於後來的館閣，內侍省則是一個專門的宦官機構，主持中央政權的就是尚書、門下、內史三省。三省互相牽制，共同向皇帝負責。其中，決策者為內史省，長官稱內史令；審議者是門下省，長官稱納言；處理日常政務的機構是尚書省、置尚書令、左右僕射各一人，下設吏、禮、兵、度支（後改稱民部）、都官（後改稱刑部）、工六部。
隋朝，三省長官均為相職，同時，三公、三師也參預朝政，也是宰相。
唐代三省制的特點是在建立不久就向二省、一省轉變。這種變化的動因在於皇權對於相權的控制、以及提高行政效率。
首先為了抑制相權，皇帝逐漸使用一些資歷較輕的官員參預朝政，實際行使宰相的權力，但是由於沒有正宰相崇高的職銜，所以便易於控制。漸漸的，中書令、侍中、尚書令以及左右僕射這些宰相職務已經變成了一個崇高的虛銜，而真正的宰相卻成為一種臨時性質的職務，這符合從漢代開始的相權不斷下降的規律。
唐代以三省首長「品位既崇，不欲輕以授人，故常以他官居宰相職，而假以他名。」（《新唐書》卷46《百官志》）主要有「平章事」和「同中書門下三品」等。唐太宗貞觀八年，僕射李靖因病辭去宰相職務，太宗不同意，要求他「疾小瘳，三兩日一至中書門下平章事。」「平章事」之名始於此。唐高宗永淳元年，始以某官（黃門侍郎郭待舉、兵部侍郎岑長倩）帶「同中書門下平章事」銜者為宰相。長興四年為避諱（慕容延釗父名章），曾改為「同中書門下二品」，因為尚書僕射是職事官從二品。貞觀十七年，蕭瑀、李勣並「同中書門下三品」，因為侍中、中書令是正三品，「同中書門下三品」之名始於此。高宗以後，宰相必須加「同中書門下三品」之銜，否則即使擔任中書令也不能稱為宰相，品位高者亦如此（有三公、三師頭銜的除外）。
其次，三省合署議事、辦公，三省職能逐漸趨向混同合一。
三省分權，勢必造成相互牽制、效率低下等弊端。為了三省之間協調行動，三省首長定期在門下省的政事堂議事。自武德年間開始，中書、門下集議於政事堂，政事堂設於門下省。（《通典》：「舊制，宰相常於門下省議事，謂之政事堂。」）。唐高宗永淳年間，「裴炎自侍中遷中書令，乃徙政事堂於中書省。」由此，確立了中書省的中心地位。開元十一年，中書令張說奏改政事堂為中書門下，政事堂印也改為中書門下印，且於其後分列吏、樞機、兵、戶、刑禮五房。從此，中書門下正式成為宰相的辦事機構。
尚書省在武則天時代一度改稱中台、都台、文昌台，旋復舊稱。
中書省在武則天時代一度改稱西台、鳳閣、紫微省，旋復舊稱。
門下省在武則天時代一度改稱東台、鸞台、黃門省，旋復舊稱。
制度與唐無異，但是由於連年征戰，實際上宰相並不掌握權力。三省形同虛設。政事多由皇帝特派使臣辦理，成為宋朝以差遣特使為正官的開始。
有宋一代，雖然三省名義始終存在，但是已經混同為一省，即中書門下。同時由於樞密院、三司的設立，宰相的軍權、財權被剝奪。
宋代官制「有官、有職、有差遣：官以寓祿秩、敘位著，職以待文學之選，而別為差遣以治內外之事。其次又有階、有勛、有爵。故士人以登台閣、升禁從為顯宦，而不以官之遲速為榮滯；以差遣要劇為貴途，而不以階、勛、爵邑有無為輕重。」（《宋史》卷一六一《職官志》）。不但宰相為臨時職務，天下無官不為臨時職務，至於「非奉別敕，不得治本官事」。
按《宋會要·職官》「中書令，侍中，及丞郎以上至三師、同中書門下平章事，並為正宰相。」但實際上，有以侍中銜出任宰相職務的現象、卻沒有以中書令銜出任為宰相者，中書令與尚書令一樣，都是榮譽頭銜。其他皆以同中書門下平章事拜相。（《古今源流至論》後集卷二《三省》：「國初三省長官第為空名，惟侍中有真拜者。」）
宋代通常二相並任，較唐朝時少了許多。也有獨相一人或三相並置的。三相並置時，以昭文館大學士為首相，次相監修國史，末相兼集賢殿大學士。二相並任的，首相並兼昭文館大學士、監修國史。
神宗元豐改制時，盡廢差遣職。以三省長官任宰相，諸官均以本官治事。以尚書令、中書令、侍中，官高不便輕授。遂以尚書左、右僕射為宰相。左僕射例兼門下侍郎，為門下省長官；右僕射例兼中書侍郎，為中書省長官。
徽宗政和二年，廢尚書令，改侍中為左輔、中書令為右弼，皆虛其位；並改左僕射為太宰，右僕射為少宰，仍兼中書、門下兩省侍郎。靖康元年，復以尚書左、右僕射為宰相，三省長官名稱皆依元豐官制。
南渡後，凡事力圖太祖、太宗舊制。建炎三年，尚書左、右僕射皆加同中書門下平章事，併中書與門下二省為中書門下。
孝宗乾道八年，改尚書左、右僕射為左、右丞相，廢侍中、中書令、尚書令虛稱，遂為定制。
元代以中書省總領百官，與樞密院、御史臺分掌政、軍、監察三權，尚書省時置時廢、門下省不復置，故中書省較前代尤為重要。中書省下亦再設行中書省，以中央政府名義全權管治地方行政，「行中書省」概念其後發展成為省級地方政府。
明初不設中書令，仍以中書省統六部，長官稱左右丞相。太祖洪武十三年，廢中書省與丞相，六部直接對皇帝負責。至此，三省六部制的三省及宰相制度徹底廢止。明朝中後期，明朝內閣實際承擔了行政中樞的職能。
清沿明制，以六部尚書任天下事，雖然仿效明朝設立了內閣，但沒有實權。行政中樞先後有議政王大臣會議、南書房、軍機處，至清末仿效西方政制，設立責任內閣。
