传说中上古时期，仓颉创造汉字。文字的发明，使人类积累的经验、技能、思想、资讯有了长期、稳定可靠的保存方法，传播的范围更广，时效更长，更加准确规范。教育的方式也从口授、观察和形体动作摹仿，上升到以阅读、书写为主，这正是学校教育发展的必要条件。人类从原始社会开始，就有传授社会生活和生产劳动经验技能的教育活动，但都是在劳动生产过程中进行。而学校的出现则需要一定程度的文明发展，例如有能够脱离生产的教师和学生，以及适于集中教学的内容。原始氏族社会末期，物质生产能力提高，只需一部分人从事生产，就可以确保养活更多的人，例如掌握生产知识和技能的老人。古文献记载，氏族养老的场所称为“庠”、“序”，一般位于“米廪”，即粮仓附近。不过老人可不是光吃闲饭的，他们有教导后代、传授生产经验和社会行为规范的职责。“庠”、“序”后来成为古代地方学校的代称，可见中国学校教育最初产生于“养老”。除此之外，氏族社会的发展也需要从事各种管理和服务工作的人员，教育就成为培养所需人才的途径。国家形成以后，贵族、官员的培养成为学校教育的首要任务。

成均，相传为远古尧舜时的学校。原始氏族公社后期，氏族的规模逐渐扩大，并组成部落联盟。社会生活也趋向复杂化，除家庭生活、生产劳动和与外敌作战的军事行动外，还有各种祭祀、庆典等集体的礼仪活动。氏族部落成员间已开始有等级地位的区分，产生了各种社会行为规范的要求。为了保持和强化氏族部落的凝聚力和团队精神，对公众的教育和宣传是必不可少的。考古发现的原始氏族公社后期遗址中，往往有一大片空地，有点像现在的广场，显然是氏族部落成员集会的地方。遇上举行各种典礼仪式，召开会议，宣讲告示、规定、要求，以及采取某项行动前的动员、誓师等，都在这里举行集会，可见其具有显著的教育作用。国家产生之后，“成均之教”就成为社会教育的总称，成均也成为天子之学的中心场所。

中国的学校产生之始，就是为统治阶层培养治国的人才。夏、商、周三代又是以世袭制的贵族政治为主，因而学生多是贵族官员子弟，称为“国子”。民间子弟几乎不可能进入统治阶层，也就没有必要接受学校教育，只是在生产和生活中获得相应的教育而已。在这种形势下，学校必然只能由官方举办，各类教师也具有官员身份，官师合一，这就是“学在官府”，它奠定了中国由政府主导办学的教育传统。西周时天子和各诸侯国君举办的学校叫国学，地方政府举办的学校叫乡学。从层次上又分为大学和小学：小学设立在宫廷“南之左”，是为了方便小孩子就近入学；“大学在郊”，则是给学生创造清静优雅的环境，使他们避免干扰，专心治学。中国三千年前的教育当局就能有如此科学的建校思路，真是难能可贵！