司马谈生长受教育于汉王朝的文、景时代，据司马迁说，司马谈的学问有三个方面，其一是“学天官于唐都”。唐都是汉代著名的观测星象的专家，所谓学天官，就是学观测日月星辰的天文之学。其二是“受《易》于杨河”。杨河是汉初有名传《易》者之一。《易》是讲阴阳吉凶的，这和天文星象都有关系。其三是“习道论于黄子”。黄子便是黄生，他擅长黄老之术，曾和辕固在景帝面前辩论汤伐桀、武王伐纣这两件事的性质。黄生的议论正是代表当时统治阶级的思想。司马谈学习这些，为他以后作太史令打下基础。太史令，通称太史公，是武帝新设的官职，掌管天时星历。“近乎卜祝之间”，还职掌记录，搜集并保存典籍文献，这也是吏官历来的传统。由于责任心的驱使，在他临死的时候，拉着司马迁的手，边哭边嘱咐说：“余先，周室之太史也；自上世尝显功名于虞夏，典天官事。……今汉兴，海内一统，明主贤君忠臣死义之士，余为太史而弗论载，废天下之史文，余甚惧焉!汝其念!”他希望在死后，司马迁能继承他的事业，更不要忘记撰写史书。他以为一个人事亲、事君的最后目的在于扬名后世，以显父母，这乃是最大的孝道。他看到自孔子死后，至今四百多年，诸侯兼并，史记断绝。当今海内一统，明主贤君、忠臣义士等的事迹，作为一名太史而不能尽到写作的职责，所以内心十分惶惧不安，热切地希望司马迁完成这未竟的大业。司马谈流传下来的文章是《论六家要旨》一文。在这篇论文里他概括出阴阳、儒、墨、名、法、道六家，并加以论述。他第一次分析出自春秋战国以来重要的学术流派。