，汉成帝置尚书五人，其三曰民曹。后汉以民曹兼主缮修、功作、盐池、园苑之事。西晋以后置田曹掌屯田，又有起部掌工程，水部掌航政及水利。后周依《周官》，置冬官府，长官为大司空。隋代开皇二年始设立工部，掌管各项工程、工匠、屯田、水利。
开始的时候，六部叫做六曹，即六个办事机构。六部的长官为尚书。六部的设置成为后代封建国家中央政权的固定制度。
秦朝在少府下设尚书，主管典籍，为后世尚书省的发端。
汉武帝夺外朝（以丞相为主的正式的政府机关）权，设立以大将军为首的内朝，专门处理军国大事。以原属少府的尚书以及中书二者来转达表章，沟通内外朝，为后世尚书省的发端。汉成帝置“四曹尚书”，即常侍曹、二千石曹、民曹、客曹尚书，此后世“六部尚书”之滥觞。
东汉时设置尚书台，统领百官政事，长官称尚书令。但是此时的尚书台在体制上仍然属于少府序列，官品低微，所以另派大将军、大司马、太傅以录尚书事的名义秉政。
东汉末设侍中寺，为皇帝的侍从、顾问机构。置侍中、散骑常侍等官，多以卓有学识的士人充任，为一时清选。
三国曹操自任丞相，移原隶少府的尚书吏部曹、选部曹等尚书诸曹为丞相属官，将汉武帝建立的内朝转为外朝官署，这是尚书省建立的开端。按：东汉时虽有尚书台、已经成为处理政务的主要机关，但毕竟是隶属于内廷的官署，不能说是国家的正式政务机关。
曹丕以尚书诸曹权力过大，遂以曹操设立的专门处理机密文书的秘书省为基础另设中书省，掌管机要，起草和发布诏令。置中书监、令各一人，以中书监为长官。
南北朝时侍中、散骑常侍的权力逐渐扩大。北朝则政出门下，成为中央政治机构的重心。晋代，正式有门下省的建制。
隋朝建立后，将北周仿照周礼设立的官爵制度废除，设立了以三省六部制为主体的中央官僚体系。隋设尚书、门下、内史、秘书、内侍五省，秘书省类似于后来的馆阁，内侍省则是一个专门的宦官机构，主持中央政权的就是尚书、门下、内史三省。三省互相牵制，共同向皇帝负责。其中，决策者为内史高官官称内史令；审议者是门下高官官称纳言；处理日常政务的机构是尚书省、置尚书令、左右仆射各一人，下设吏、礼、兵、度支（后改称民部）、都官（后改称刑部）、工六部。隋朝，三高官官均为相职，同时，三公、三师也参预朝政，也是宰相。
唐代三省制的特点是在建立不久就向二省、一省转变。这种变化的动因在于皇权对于相权的控制、以及提高行政效率。首先、为了控制相权，皇帝逐渐使用一些资历较轻的官员参为“同中书门下二品”，因为尚书仆射是职事官从二品。