司马迁继承父亲司马谈遗志，客观公正记载皇帝到汉武帝时期3000多年的历史，并客观评价各个英雄人物，却触怒汉武帝，被罪责牢狱并处以宫刑，这是极端的侮辱，一般人是不能忍受的，司马迁差点自杀一死了之，想到父亲的遗志和还未完成的史记，就咬牙坚持完成了50多万字旷世史学巨著。
公元前99年（天汉二年），李广的孙子李陵当时担任骑都尉，带着五千名步兵跟匈奴作战。单于亲自率领三万骑兵把李陵的步兵团团围困住。尽管李陵的箭法十分好，兵士也十分勇敢，最后李陵寡不敌众，只剩了四百多汉兵突围出来。李陵被匈奴逮住，投降了。
大臣们都谴责李陵不该贪生怕死，向匈奴投降。汉武帝问太史令司马迁，听听他的意见。
司马迁说：“李陵带去的步兵不满五千，他深入到敌人的腹地，打击了几万敌人。他虽然打了败仗，可是杀了这么多的敌人，也可以向天下人交代了。李陵不肯马上去死，准有他的主意。他一定还想将功赎罪来报答皇上。”
汉武帝听了，认为司马迁这样为李陵辩护，勃然大怒，他就把司马迁下了监狱，交给廷尉审问。有传闻说李陵曾带匈奴兵攻打汉朝。汉武帝信以为真，便草率地处死了李陵的母亲、妻子和儿子。司马迁也因此事被判了死刑。第二年汉武帝杀了李陵全家，处司马迁以腐刑。腐刑是个奇耻大辱，污及先人，见笑亲友。司马迁在狱中，又备受凌辱，“交手足，受木索，暴肌肤，受榜棰，幽于圜墙之中，当此之时，见狱吏则头抢地，视徒隶则心惕息”（司马迁《报任安书》）。几乎断送了性命。他本想一死，但想到自己多年搜集资料，说：“人固有一死，或重于泰山，或轻于鸿毛。”要写部有关历史书的夙愿，因此为了完成《史记》的写作，忍辱负重，希望出现一线转机。
公元前96年（太始元年）汉武帝改元大赦天下。这时司马迁50岁，出狱后当了中书令，在别人看来，也许是“尊宠任职”，但是，他还是专心致志写他的书。
