정부수립이후, 1948년 7월 17일 제정된 법률 제1호인 정부조직법에 의해 설치된 중앙행정기관(中央行政機關)은 국가의 행정사무를 담당하기 위하여 설치된 행정기관으로서 그 관할권의 범위가 전국에 미치는 행정기관이다. 정부조직(government organization)은 국가 또는 지방자치단체의 행정사무를 수행하기 위하여 설치된 행정기관을 말하며, 상업적 이윤 극대화를 추구하는 민간의 경영조직과는 달리 정책의 기획·집행 등을 통해 공익의 실현을 목표로 한다. 중앙행정기관은 공익실현을 위하여 국가행정사무를 담당하기 위하여 설치된 행정기관인 것이다.
대한민국 정부의 중앙행정기관은 1948년 7월 17일 제정된 법률 제1호 정부조직법에 의거하여 구성되었다. 대한민국 정부수립 이후 비로소 현대적인 행정체제를 갖추면서 경제부흥과 귀속재산의 처리 등 경제 및 체제정비 성격의 행정개편이 이루어졌다. 국가 안전관리 분야인 외교, 국방 기능을 강화하여 독립국가의 이미지를 제고하였고, 치안과 질서유지 및 재정수입 확보를 위한 개편을 단행하였다. 1954년 이후 2차 헌법개정에 의해 국무총리제가 폐지되었으며, 전후 복구를 비롯한 경제재건을 목적으로 부흥부가 신설되고, 수산물·광물자원 보호를 위하여 해무청이 설치되었으며 전대 담당부처의 격을 높이기 위하여 전매청이 설치되었다.
제2공화국의 정부조직개편은 4.19 이후 도입된 내각책임제에 의하여 행정권이 국무원에 소속되어 국무총리가 실질적인 행정권의 수반이 되었고, 경찰의 중립성 확보를 위한 공안위원회가 설치되었다. 한편 공직기강 확립 및 공무원 비위감찰을 위해 국무총리 소속하에 감찰위원회를 두었다.
1963년 12월 제3공화국이 출범하면서 통치구조가 내각책임제에서 다시 대통령제로 전환되었다. 이에 따라 국가발전에 있어서 행정의 주도적 역할이 강조되고, 산업 기반시설 확충과 중화학공업 육성 관련 경제부처의 기능이 확대되었다. 이에 건설부의 계획기능, 재무부의 예산국, 내무부의 통계국을 흡수하여 경제기획원이 신설되었고, 내각수반실에 기획통관실과 기획자문위원회를 두었으며, 각 부·처·청에 기획조정관실을 설치하여 국가기획 기능의 조직적 토대를 구축하였다. 또한 경제기획원장이 부총리를 겸임하도록 하여 정부정책의 초점을 경제계획의 작성, 예산편성권 등 경제성장에 맞추었다.
1973년 1월 15일 제4공화국의 정부조직법 개정 이후 1979년에 이르기까지 공업진흥청, 공업단지관리청과 국무총리 소속하의 중화학공업추진위원회, 특허청, 동력자원부 등이 신설되어 중앙정부의 조직편제는 2원, 14부, 4처, 14청, 2외국, 2위원회로 확대되었다. 이 시기의 정부조직개편은 전반적으로 행정권의 집중과 경제성장을 위한 ‘능률의 극대화’에 맞추어져 있었다.
제5공화국의 정부조직개편은 ‘정의사회 구현’과 ‘복지사회 건설’이라는 정책 기조 하에 경제발전과 사회정화에 역점을 두었다. 1979년 12월 환경청을 보건사회부 외청으로 신설하였으며, 1980년 8월 상공부와 유사한 기능을 수행하던 중화학공업추진위원회를 폐지하였다. 같은 해인 10월에는 사회 전반에 걸친 계도 업무의 효율적 추진이라는 명목으로 사회정화위원회를 신설하였고, 1981년 4월에는 노동청을 노동부로 승격시켰다. 한편 1981년 10월 행정개혁을 통해 중앙행정기관의 하부조직을 대국대과 원칙에 따라 통합·조정하면서 정원 감축 및 직급 하향조정을 추진하였다. 1982년에는 86아시안게임과 88서울올림픽 개최 준비 등 증가하는 체육행정 수요에 효과적으로 대처하기 위하여 체육부를 신설하였다.
제6공화국은 제5공화국 정부조직의 기본 구도를 유지하였다. 1989년에 기존 문화공보부를 문화부와 공보처로 분리하여 문화기능을 문화부에서 관장하고, 국제화 추세에 부응하기 위한 국가의 홍보기능은 공보처에서 전담하도록 하였다. 환경문제를 국가 과제로 인식하면서 환경청을 국무위원 수준의 조직으로 격상시켜 환경처로 개편하였다. 1990년 12월에는 국토통일원으로 변경하면서 장관을 부총리로 격상시켰다. 문교부의 학교체육에 관한 기능을 체육부로 이관하고 명칭을 교육부로 변경하였으며, 체육부는 체육청소년부로 변경하였다. 또한 중앙기상대는 기상청으로, 조사통계국은 통계청으로 각각 확대·개편하였다.
김영삼 정부는 국정운영의 기조를 문민정부, 작고 강력한 정부, 국제화, 세계화와 개방화에 두었다고 할 수 있다. 김영삼 정부의 조직개편은 세 차례에 걸쳐 이루어졌다. 1993년 1차 개편에서는 문화체육부와 체육청소년부를 통합하여 문화체육부로 개편하였으며, 국내산업 경쟁력 강화와 산업발전 기반확충을 추진하기 위해 종전의 상공부와 동력자원부를 통합하여 상공자원부로 개편하였다. 이후 1994년에는 국제화·세계화·개방화 시대에 대처하기 위하여 제2차 개편을 단행하였다. 경제기획원과 재무부는 재정정책과 예산기능의 연계를 강화하고 정책의 자율성과 창의성을 확대하기 위하여 재정경제원으로 통합하였다.
김대중 정부의 정부조직개편 방향은 ‘작고 강력한 정부’의 실현과 정부 경쟁력 강화라는 측면에서 김영삼 정부와 크게 다르지 않으나, 경제위기 극복이라는 급박한 사회변화 속에서 정부조직개편을 시도하였다. 김대중 정부의 조직개편은 세 차례에 걸쳐 이루어졌는데, 먼저 대통령 취임준비 기간에 대통령직인수위원회의 활동을 통해 1998년 2월 제1차 정부조직개편을 단행하였다. 이를 통해 정부조직을 17부, 2처, 16청으로 개편하였으며, 대통령 직속기구로 기획예산위원회를 신설하였으며, 정무 제1장관과 제2장관이 폐지되고, 제2장관실은 대통령 직속 여성특별위원회 사무처로 변경되었다. 재정경제원은 재정경제부로 개편되었고, 그 산하에 예산청을 신설하였으며, 외무부는 통상교섭기능을 강화하여 통상교섭본부를 신설하고, 명칭을 외교통상부로 변경하였다. 내무부와 총무처는 행정자치부로 통합, 통상산업부는 산업자원부로 개편되었다.
노무현정부는 부처의 자율성과 책임성을 제고하기 위하여 대규모 조직개편은 최소화하고 실질적인 기능 재조정과 업무프로세스 개선을 통하여 정부의 효율성을 제고하고자 하였다. 2004년 3월에는 보건복지부의 보육서비스 기능을 여성가족부로, 기획예산처의 행정개혁 기능을 행정자치부로 이관하고 소방방재청을 신설하였으며, 2004년 12월에는 철도청을 공사로 전환하였다. 2005년 7월에는 방위산업 육성에 관한 사무를 효율적으로 추진하기 위해 방위사업청을 신설하고, 재정경제부·외교통상부·행정자치부 및 산업자원부에 복수차관제를 도입하는 한편 통계청과 기상청을 각각 차관급 기구로 격상시켰다. 또한 행정중심복합도시 건설사업의 총괄·조정을 위하여 2006년 1월에 행정중심복합도시건설청을 신설하였다. 다만 행정중심복합도시건설청은 정부조직법 상의 기구가 아닌 개별법에 근거하여 한시조직의 형태로 신설되었다.
이명박 정부는 ‘유능하고 작은 정부, 국민을 섬기는 실용정부’를 목표로 새정부 출범에 맞추어 대통령직인수위원회 주도로 대규모 조직개편을 단행하였다. 이후 국정운영과정에서 나타난 문제점을 해소하기 위하여 부처간 기능 재조정에 초점을 둔 소폭의 조직개편을 추진하였다.
2008년 2월 이명박 정부 출범과 동시에 단행한 제1차 개편은 ‘대부처주의’에 입각하여 유사·중복기능 중심으로 부처를 통합·광역화하여 정부규모를 대폭 축소하는 동시에 미래대비기능 및 대국민서비스기능을 강화하는 등 정부기능을 재정비하였다. 그 결과 정부조직 체계는 총 11개 기관이 감축되어 2원, 15부, 2처, 18청, 3실, 5위원회 총 45개 중앙행정기관으로 개편되었다.