大臣们都谴责李陵不该贪生怕死，向匈奴投降。汉武帝问太史令司马迁，听听他的意见。

司马迁说：“李陵带去的步兵不满五千，他深入到敌人的腹地，打击了几万敌人。虽然打了败仗，可是杀了这么多敌人，也可以向天下人交代了。李陵不肯马上去死，准有他的主意。他一定还想将功赎罪来报答陛下。” 武帝听了，认为司马迁这样为李陵辩护，有意贬低李广利（李广利是汉武帝宠妃李夫人的哥哥），便勃然大怒，说：“你这样替投降敌人的叛徒强辩，是不是存心反对朝廷？”便把司马迁下了监狱，交给廷尉处理。司马迁被关进监狱以后，案子落到了当时臭名昭著的酷吏杜周手中，杜周严刑审讯司马迁，司马迁忍受了各种肉体和精神上的残酷折磨。面对酷吏，他始终不屈服，也不认罪。司马迁在狱中反复不停地问自己：“这是我的罪吗？这是我的罪吗？我一个做臣子的，就不能发表点意见？”不久，有传闻说李陵曾带匈奴兵攻打汉朝。汉武帝信以为真，便草率地处死了李陵的母亲、妻子和儿子。司马迁也因此事被判了死刑。第二年汉武帝杀了李陵全家，处司马迁死刑。但是汉朝的死刑要免死的话可以接受两条路，要不交50万钱，要不接受宫刑，宫刑是个奇耻大辱，污及先人，见笑亲友。后来司马迁在《报任少卿书》中提及此事中说道：“遭遇此祸，重为乡党所戳笑，以污辱先人，亦何面目复上父母之丘墓乎，虽累百世，垢弥甚耳，是以肠一日而九回，居则忽忽若有所亡，出则不知其所往，每念斯耻，汗未尝不发背沾衣也。”在狱中，又备受凌辱，“交手足，受木索，暴肌肤，受榜棰，幽于圜墙之中，当此之时，见狱吏则头抢地，视徒隶则心惕息”（司马迁《报任安书》）。几乎断送了性命。他本想一死，但想到自己多年搜集资料，说：“人固有一死，或重于泰山，或轻于鸿毛。”要写部有关历史书的夙愿，因此为了完成《史记》的写作，忍辱负重，希望出现一线转机。

司马迁认为受腐刑是一件很丢脸的事，他几乎想自杀。

司马迁但他想到自己有一件极重要的工作没有完成，不应该死。因为当时他正在用全部精力写一部书，这就是我国古代最伟大的历史著作——《史记》。原来，司马迁的祖上好几辈都担任史官，父亲司马谈也是汉朝的太史令。司马迁十岁的时候，就跟随父亲到了长安，从小就读了不少书籍。

为了搜集史料，开阔眼界，司马迁从二十岁开始，就游历祖国各地。他到过浙江会稽，看了传说中大禹召集部落首领开会的地方；到过长沙，在汨罗江边凭吊爱国诗人屈原；他到过曲阜，考察孔子讲学的遗址；他到过汉高祖的故乡，听取沛县父老讲述刘邦起兵的情况……这种游览和考察，使司马迁获得了大量的知识，又从民间语言中汲取了丰富的养料，给司马迁的写作打下了重要的基础。

以后，司马迁当了汉武帝的侍从官，又跟随皇帝巡行各地，还奉命到巴、蜀、昆明一带视察。司马谈死后，司马迁继承父亲的职务，做了太史令，他阅读和搜集的史料就更多了。在他正准备着手写作的时候，就为了替李陵辩护得罪武帝，下了监狱，受了刑。他痛苦地想：这是我自己的过错呀。现在受了刑，身子毁了，没有用了。

但是他又想：从前周文王被关在羑里，写了一部《周易》；

司马迁孔子周游列国的路上被困在陈蔡，后来编了一部《春秋》；屈原遭到放逐，写了《离骚》；左丘明眼睛瞎了，写了《国语》；孙膑被剜掉膝盖骨，写了《兵法》。还有《诗经》三百篇，大都是古人在心情忧愤的情况下写的。这些著名的著作，都是作者心里有郁闷，或者理想行不通的时候，才写出来的。我为什么不利用这个时候把这部史书写好呢？于是，他把从传说中的黄帝时代开始，一直到汉武帝太始二年（公元前95年）为止的这段时期的历史，编写成一百三十篇、五十二万字的巨大著作《史记》。司马迁在他的《史记》中，对古代一些著名人物的事迹都作了详细的叙述。他对于农民起义的领袖陈胜、吴广，给予高度的评价；对被压迫的下层人物往往表示同情的态度。他还把古代文献中过于艰深的文字改写成当时比较浅近的文字。人物描写和情节描述，形象鲜明，语言生动活泼。因此，《史记》是一部伟大的历史著作。

公元前96年（太始元年）汉武帝改元大赦天下。这时司马迁50岁，出狱后当了中书令，在别人看来，也许是“尊宠任职”，但是，他还是专心致志写他的书。直到公元前91年（征和二年），《史记》全书完成，共得130篇，52万余言。后被鲁迅称为：史家之绝唱，无韵之离骚。