父亲司马谈的教导
司马迁的父亲司马谈，是一个有学问、有抱负的人。他的这种素质，对司马迁有深刻影响。
司马谈约生于汉文帝初期，曾学天官于唐都，受《易》于杨何，习道论于黄子。唐都、杨何和黄子，都是当时有名的有关专家。黄子，即黄生。
司马谈病危的时候，拉着儿子的手，流着眼泪说：“余先，周室之太史也。自上世尝显功名于虞夏，典天官事。后世中衰，绝于予乎？汝复为太史，则续吾祖矣。……余死，汝必为太史；为太史，无忘吾所欲论著矣。且夫孝始于事亲，中于事君，终于立身，扬名于后世，以显父母，此孝之大者。夫天下称诵周公，言其能论歌文武之德，宣周邵之风，达太王王季之思虑、爰及公刘，以尊后稷也。幽厉之后，王道缺，礼乐衰，孔子修旧起废，论《诗》、《书》，作《春秋》，则学者至今则之。自获麟以来四百有余岁，而诸侯相兼，史记放绝。今汉兴，海内一统，明主贤君忠臣死义之士，余为太史而弗论载，废天下之史文，余甚惧焉。汝其念哉！”司马迁低着头，流着眼泪说：“小子不敏，请悉论先人所次旧闻，弗敢阙。”这一段对话表明司马谈父子把论述“春秋”以来的历史书，特别是汉兴以来的历史，作为周公、孔子著史事业的继续。他们认为，这四百多年历史的存佚要决定于他们是否能尽到史职。他们父子，在著史工作上是有真挚的使命感的。这是中国历史家的优良传统，在他们父子以后是不断有人继承的。汉代史事，为什么在《史记》中占了很大分量，又为什么写得特别精彩，也是这个原因。
司马谈对战国以来的许多学派，有相当广泛的接触。他所论阴阳、儒、墨、名、法、道德等六家要旨，是一篇有名的学术评论。篇中，对阴阳、儒、墨、名、法等五家，一一论其短长，对道德家则称道其能吸取各家之长以达到政治上的无为而无不为。当代学者多因此认为司马谈属于道家，至少是倾向于道家。其实并非如此。司马谈的病危遗言，说的是儒家的孝道，说的是儒家的修史传统，并没有道家气息。司马谈论六家要旨时，说儒家“博而寡要，劳而少功，若夫列君臣父子之礼，序夫妇长幼之别，虽百家弗能易也。”这里所指儒家的缺点，毕竟只是技术性的东西，而所说儒家的长处则是封建社会的社会秩序和道德准则，这是封建社会的本质性的东西。所谓“弗能易”，等于说永无变更。司马谈对于儒家的尊奉，可以说是很明白的。
司马迁继承父亲的思想，用儒家所说的礼作为行为的规范和衡量历史上是非得失的准则。他申论：“有国者不可以不知《春秋》，前有谗而弗见，后有贼而不知。为人臣者不可以不知《春秋》，守经事而不知其宜，遭变事而不知其权。为人君父而不通于《春秋》之义者，必蒙首恶之名。为人臣子而不通于《春秋》之义者，必陷篡弑之诛，死罪之名。”“故《春秋》者，礼义之大宗也。”
司马迁从父亲司马谈那里，可以说得到两份遗产。一份是太史职掌的学问，其中可能包括司马谈已经写成的史文；又一份是儒家的学问，主要是《春秋》之学。但司马迁并不以此二者为限，他有自己的一家之言。也是因他有一家之言，中国历史上开始有历史家的出现。
《史记》的撰述
司马迁于太初元年（公元前104 年）开始著作《史记》。《史记》之名是后人所题。这时，汉兴已经百年（公元前206～前104年），在秦火之后，又陆续搜集了大量的资料，“百年之间，天下遗文古事靡不毕集太史公”。这给司马迁著书以很大的方便。更重要的，是他二十多年来的实践经验，调查了许多古代历史传闻和故事，接触了伟大国家现实面貌和当代许多重要人物，并从许多前辈重要人物的子孙后代，得到了从未记载的许多谈话资料。
在著作的形式上，由于过去一些历史著作的启发，司马迁把古今历史作一次通盘的清理而纳入于“本纪”、“表”、“书”、“世家”、“列传”五种不同的体例。本纪，通过帝王的活动提携一代一事。表，记历代大事，特别是要把错综的史事表列得眉目醒然。书，是论述某些政治制度和某方面的社会现象。世家，记述享有封爵、能世其家的历史人物的活动。列传，记述各方面有代表性的历史人物。这是包括多种体裁的综合体。旧称之为纪传体是不确切的。全书有本纪十二、表十、书八、世家三十、列传七十，共一百三十篇，上起传说时期的黄帝，下至于司马迁的时代，上下三千年，五十二万六千字。
司马迁在开始著作后的第七年，遇到了李陵投降匈奴的事件。李陵是名将李广的孙子。司马迁早年见过李广；后来与李陵同在宫廷侍从，虽未相熟成为朋友，但很佩服李陵的为人，认为他是一个“奇士”，有“国士之风”。“天汉二年（公元前99 年），李陵与匈奴战于浚稽山（今蒙古人民共和国喀尔喀境），最后兵败，投降匈奴。司马迁以为李陵决不会向匈奴投降。因此触怒了武帝，下了监狱。审讯的结果，司马迁得了“诬上”（欺骗皇上）的罪名，是一个死罪。这时是天汉三年（公元前98年），他的全部著述工作，还在“草创未就”的时候。
汉武帝时代，犯死罪的人，根据两条旧例可以免死：一条是拿钱赎罪；一条是受“腐刑”。这时司马迁面临三种选择：一是“伏法受诛”；二是拿钱免死；三是受“腐刑”。要多少钱可以免死呢？从此后三年内两次免死诏令看来，需要五十万钱。这是一般“中人之家”五家的家产。司马迁既然得不到朋友的帮助，自己又官小家贫，哪来这许多钱呢？用钱赎罪这一条生路，司马迁和一般穷人一样是走不通的。因此司马迁实际只有两种选择：是死，还是受“腐刑”？他想到，人总不免一死，但“死有重于泰山，或轻于鸿毛”，死是有轻重意义的不同的。他觉得如果他这样“伏法”而死，那就象牛身上少一根毛，是毫无意义、很不值得的。为了完成著史的工作，他宁可忍受“腐刑”的屈辱。
司马迁出狱后，作了中书令。这个官也是汉武帝新设的， “领赞尚书，出入奏事，秩千石”，比太史令高。经常职务是把皇帝的命令下到尚书，也把尚书的奏事呈给皇帝。从此以后，司马迁以一个宦官的身份，在内廷侍候，更接近武帝了。这好象是“尊宠任职”，但司马迁除了坚持他的著述工作以外，对朝廷内外的一切事务，已经毫无兴味。
司马迁的朋友任安，于太始四年（公元前93 年）的四五月间，写信给他，“教以慎于接物，推贤进士为务”。十一月，司马迁给任安写了回信。司马迁在信里，详细地诉说了自己当时的心情，并告诉任安一个重要的消息：“仆窃不逊，近自托于无能之辞。网罗天下放失旧闻，略考其行事，综其终始，稽其成败兴坏之纪，上计轩辕，下至于兹，为十表、本纪十二、书八章、世家三十、列传七十，凡百三十篇。亦欲以究天人之际，通古今之变，成一家之言。”这样看来，这时他的著述工作已经基本完成了，他的年龄是五十三岁。以后，司马迁的事迹已无可考。他是怎样死的，最后活到多大年纪，都很难有确定的答案。他大约卒于武帝末年（公元前87年）左右，一生与武帝相始终。
司马迁从元封三年（公元前108 年）为太史令后开始阅读、整理史料，准备写作，到太始四年（公元前93年）全部写作计划基本完成，共经过了十六年。这是他的著述事业的主要阶段。在这之前，从元朔三年（公元前126年）到元封二年（公元前109年），由于漫游祖国，侍从武帝和奉使西南地区，他读书时间好象很少，但这些接触实际的经历却成为他后来写作资料的一个重要来源（其中侍从武帝巡行四方一事，是贯彻终身的）。在这之后，即在征和元年（公元前92年）以后，他除了担任中书令一职，经常在武帝和尚书中间传达事务外，在晚年的主要工作就是对于他的全部著作的修补加工。司马迁坚持完成的著作即《史记》与他一生丰富的实践经验，广泛的科学文化知识，有着血肉相连不可分离的密切关系。
司马迁在致任安书中说他的《史记》“亦欲以究天人之际，通古今之变，成一家之言”，这是他对于所著书的概括。他对于他的概括，没有作出详细的说明。从司马迁别的有关的论述来看，他的概括可包含下列几条的意思在内：一、历史是有变化的。二、历史的大的变化，是有阶段性的。三、历史的变化，今不必不如古，有时还更胜于古，所谓“世异变，成功大”。四、在历史变迁中，天道的作用往往是不可知的，人事的作用有时是很显著的，但人事的作用还不能摆脱天的束缚。五、司马迁公开以创史的历史家自命。司马迁的历史思想是很丰富的，其中有唯物主义的因素，有辩证的因素，还有其他进步的因素，这都还有待于认真的研究。