小学，在汉代一指儿童启蒙学堂，同时指文字之学，儿童所学习的最初的文字知识，包括“六书”。

章太炎指出，汉儒指文字之学为小学。《汉书·艺文志》：“古者八岁入小学。”《周官·保氏》：“掌养国子，教之六书、九数。六书著，象形、象事、象意、象声、转注、假借也。”案《大戴礼·保傅篇》：“古者八岁出就外舍，学小艺焉，履小节焉；束发而就大学，学大艺焉，履大节焉。”小艺即《诗》、《书》、《礼》、《乐》，大节乃大学之道也。由是言之，小学固宜该小艺、小节而称之。

由此可知，小学是古文字的入门之学，也是古代儿童的启蒙知识之一。“古人对于文字，形声义三者，同一重视。”（章太炎《国学讲演录》），这也正是小学的主要内容。

到了宋代，其含义有所变化，小学的含义从文字之学扩大到了儿童的品行修养。

章太炎在《国学讲演录》中指出这一变化：宋人往往以洒扫、应对、进退为小学。段玉裁深通音训，幼时读朱子《小学》，其文集中尝言：“小学宜兴全体，文字仅其一端。洒扫、应对、进退，未尝不可谓之小学。”

由于朱熹在宋代的地位，他和其学生刘清之合编的《小学》成为了当时的启蒙读物。在朱熹编撰的《小学》中说：“后生初学，且看《小学》书，那个是做人的样子。”

清代所说“小学”，摒弃了宋代小学中的道德修养范畴，仍然是指专门研究文字的学问，“乾嘉以后，人人知习小学，识字胜于明人。”

纵观历代，小学始终主要指研究文字的学问，包括音韵、训古等。