汉朝法令的规定出钱赎罪，受了“腐刑”（宫刑）。不幸的遭遇，使司马迁精神受到极大刺激，但他以惊人的意志忍辱负重地活了下来。身心备受摧残、忍辱含垢生活的司马迁深知：“人固有一死，死有重于泰山，或轻于鸿毛”。他决心以残烛之年，完成父亲要他完成的史书。经过六年的囚禁生活，征和元年（前93）出狱。武帝对司马迁的才能还是非常爱惜，任命他为中书令。从此他埋首奋发著述，终于在55岁那年完成了“究天人之际，通古今之变，成中家之言”的巨著──《史记》。《史记》，原名《太史公书》，又称《太史公记》、《太史记》，至东汉末年才被称为《史记》。司马迁意在使其“藏之名山，副在京师，俟后世圣人君子”。汉宣帝时，司马迁外孙杨恽把《史记》公之于世。其时已有少量缺篇，为后人褚少孙等补足。
除《史记》外，司马迁还作赋8篇，均已散失，唯《艺文类聚》卷30引征《悲士不遇赋》的片段。又作《报任安书》，记述他下狱受刑的经过和发愤修史的抱负。他的《史记》在中国散文发展史上起着承前启后的作用，它既开创了中国纪传体史学，也开创了中国的传记文学。它记叙了上自黄帝下至汉武帝太初年间，共计三千多年的历史，全书共103篇，五十多万字。正是：“千秋巨著闪金光,汉武凶残似虎狼。太史宫刑羞欲绝,汗青沥血一行行。”