본래 조선시대에서 사대부는 문관관료를 의미하였다. 문관 4품 이상을 대부(大夫), 문관 5품 이하를 사(士)라 하였다. 이것은 문산계(文散階)에 그대로 반영되어 문관 4품 이상을 대부, 문관 5품 이하를 낭(郞)으로 구분하고 있다. 또한 사는 상사(上士), 중사(中士), 하사(下士)로 나누기도 한다. 그러나 당시가 문치주의 국가였기 때문에 사대부라 하면 문․무 관료 모두를 가리키기도 하였다. 더 나아가서 조선 후기에는 문․무 관료뿐 아니라 포의(布衣)의 독서인(讀書人)까지 사의 범주에 포함시켰다. 박지원(朴趾源)이 말한 “독서왈사 종정왈대부 유덕위군자”(讀書曰士 從政曰大夫 有德爲君子)의 ‘사’가 그것이다. 따라서 사림(士林)은 ‘사대부지림’(士大夫之林)의 준말이다.
본래 선진(先秦)시대에는 천자(天子), 제후(諸侯), 경(卿), 대부(大夫), 사(士)의 봉건적 위계 속에서 대부와 사가 제후의 가신군(家臣群)을 의미하였다. 따라서 이때에는 사대부(士大夫)라는 개념보다는 대부․사라는 개념이 쓰였다. 신분이 다른 사와 대부를 합쳐 일컫는 사대부라는 용어는 쓰이지 않았다. 이때의 ‘사’는 경․대부 밑에 있던 제후의 가신이나 전사(戰士) 등 하위 귀족계급을 의미하였고, 전국시대 이후에 형성된 사인층(士人層)을 가리키는 것은 아니었다.
그러나 전국시대에 이르면서 문학유세지사(文學遊說之士), 임협지사(任狹之士)로 불리는 새로운 사인층이 등장하기 시작하였다. 이들은 개인의 능력으로 관료가 된 사람들로서, 신분적으로 구분되어 있던 경․대부․사와는 아주 다른 집단이었다. 세습적인 신분질서가 무너지고 자유로운 계층이동 속에서 ‘사대부’라는 용어가 생기게 된 것이다. 이때의 사대부는 서민과 하급서기를 제외한 모든 문․무 관료를 가리켰다. 한․당대에는 문․무 관료군을, 송대에는 문관 관료 중심의 문․무 관료와 광범한 포의의 독서인층을 사대부라 불렀다. 전자가 귀족주의에 바탕을 두었는 데 비해 후자는 관료주의에 바탕을 두었다고 할 수 있다.
물론 사대부라 하면 문관 관료만 가리킬 수도 있고, 문․무 관료를 다 가리킬 수도 있었으나, 서민에 대칭되는 문․무 관료를 다 일컫는 것이 보통이었다. 이는 사가 고대의 전사(戰士) 또는 무사(武士)를 가리켰다가 나중에 문사(文士)를 가리키게 된 것과도 무관하지 않다. 역사 발전에 따라 무사가 지배하던 사회에서 문사가 지배하는 사회로 이행하는 과정에서 사대부라는 용어도 의미하는 내용이 달라진 것이다.
한대(漢代)의 사대부는 사족(士族), 대족[大姓], 관료(官僚), 진신(縉紳), 호우(豪右), 강종(强宗), 무인(武人)을 포괄하는 개념으로 쓰였고, 남북조시대에는 유․불․도의 전반적인 교양을 갖춘 지배층을 사대부라 하기도 하였다. 그러나 송대에 이르면 사대부는 문․무 관료 집단뿐 아니라 유교 교양을 갖춘 포의의 독서인층까지를 포괄하는 개념으로 쓰였다.
당말(唐末)에 이르면 주변 민족의 할거로 중앙 통제가 약화되어 귀족정치가 밑바닥에서부터 무너지고, 오대(五代)에 들어와서는 무인들이 세운 10개의 나라들이 저마다 부국강병을 실시하기 위해 문인들을 기용하지 않을 수 없었다. 이 문인들 가운데에는 기왕에 관료를 지낸 사람도 있었지만 포의의 독서인들도 많이 포함되어 있었다. 오히려 시간이 갈수록 포의 출신이 관료 출신보다 많아지게 되었다. 관료사회에 새로운 피가 흘러들어온 것이다.
이러한 추세는 송대(宋代)에 이르러 더욱 확산되었다. 송 태조는 당말․오대(五代)의 무인정치의 혼란을 극복하고 천자 중심의 전제권을 확립하기 위해 문치주의 정치를 선언하였다. 흥학정책(興學政策)을 써 관학과 사학을 장려하였다. 이는 독서인층을 양산하는 온상이 되었다. 국가에서는 이들에게 처사(處士)의 사호(賜號)를 내려 부역을 면제해 주기도 하고, 과거시험을 볼 수 있는 길을 활짝 열어 주었다.
독서인층이 늘어가자 서적의 수요가 증가해 제지술과 인쇄술이 발달하였다. 돈 있는 토호들은 많은 책을 수장하고, 가난한 독서인층이 이를 빌려보거나 필사할 수 있게 하였다. 그리하여 더욱 많은 독서인들이 관직에 나갈 수 있게 되었다. 이러한 분위기는 독서인층을 존중하는 사회풍조를 만들어 고급 관료들도 포의의 독서인들과 통혼하는 것을 꺼리지 않게 되었다.
송대의 문치주의와 독서인층의 대두는 농업기술의 발달과도 깊은 관계가 있다. 송조는 양자강 남쪽, 즉, 강남지방을 차지하고 있었다. 이에 강남지방이 개발되면서 강남농법이 발달하고, 이를 바탕으로 새로운 자영농이 부를 축적해 중․소지주로 성장하였다. 이 중․소지주층에서 독서인층이 성장한 것이다.
고려는 호족세력을 누르고 양반관료국가를 확립하려 하였다. 그리하여 호족을 향리로 격하시키고, 과거제도를 실시해 중앙집권적 문치주의 국가를 만들려 하였다. 처음에는 당 문화의 영향을 많이 받았으나 원나라에 복속되면서부터 원을 통해 주자학 등 송 문화를 접하게 되었다. 그리하여 당 문화에 익숙한 구귀족과 송 문화에 익숙한 신흥 사대부의 대립이 생겼다. 그리고 신흥 사대부들은 고려 말의 내우외환을 틈타 새로이 성장한 신흥 무장세력과 힘을 합해 고려를 대신해 조선을 세웠다.
따라서 조선의 집권사대부들은 기득권층이 되었다. 이들은 집권과정에서 지방사족을 우익으로 삼기 위해 이들을 양반으로 편입시켰다. 이에 지방사족은 주자학을 깊이 연구해 과거시험을 거쳐 중앙정계로 진출하였다. 이들이 이른바 사림이다. 이들은 도학을 일으켜 사림정치의 이론적 근거를 정립하였다. 이기심성론(理氣心性論)이 그것이다