“国学”一词考其源，最早乃指国家设立的学校。西周设于王城及诸侯设于国都的学校称“国学”。据《礼记》、《周礼》等记载，西周国学分大学与小学，礼、乐、射、御为“大学”，书、数为“小学”，两者合称“六艺”。

国学在汉代称“太学”，是国家设立的最高学府，明清时期称“国子监”，相当于晚清的京师大学堂和后来的北京大学。

“国学”的现代义指“本国固有的学术文化”，那是因为有了日本“支那学”一词之后产生的新词。在晚清一些东渡日本的留学生把日本人研究中国文化的学问移译为“支那学”。后来凡外国人研究中国学问的称“汉学”或“中国学”。

汉学也称“朴学”和“旧学”。“朴学”指汉儒考据训诂之学。它对训诂考据、整理古籍、辨别真伪有不少贡献，但后来形成了一种为考据而考据的脱离实际的学风遂不为所取。“旧学”指义理、考据、词章等学，是对明后从外国输入的资本主义文化，即“新学”的相对之词。

据胡适称，“国学”是“国故学”的简称，所以“国学”又称“国故”。据他说，所谓“国故”是包含着过去中国的一切历史与文化，也即包含着“国粹”，也包含着“国渣”，研究这些历史与文化的学问，就叫“国故学”。

“国粹”原是指国家文化之精华。在“五四”时期胡适提出“保存国粹”的口号，而按鲁迅先生的解释：“照字面看来，必是一国独有，他国所无之物了。换一句话说，便是特别的东西，但特别未必是好，何以应该保存？”很明显，鲁迅对当时的“国故派”是持不同看法的，是反对笼统地所谓“保存国故”的。