司马孚是东汉京兆尹司马防第三子、司马懿的三弟，兄弟八人俱知名，在当时号称“八达”。司马孚性格温厚廉让，以贞白自立，不与他人结怨。他还博涉经史，汉末动乱时，与兄弟在迁徙途中，仍不忘读书自学。陈留人殷武，海内闻名，曾获罪被流放，司马孚前去探望他，与他同住同食，被时人称颂。
魏陈思王曹植很有才华，清选官属，以司马孚为文学掾。曹植恃才放旷，司马孚总是诚恳地劝谏他，曹植开始并不接受意见，而后却能向他道歉。后来，司马孚又升为太子中庶子，辅佐曹丕。
建安二十五年（220年），曹操去世，司马孚劝谏太子曹丕节哀，与尚书和洽等整顿秩序，准备丧事，共同拥护曹丕继位，不久代汉称帝，是为魏文帝。当时，曹丕选拔侍中、常侍等官，多用左右亲近之人，司马孚劝谏，于是更改人选。司马孚转任中书郎、给事常侍，宿省内，除黄门侍郎，加骑都尉。
黄初二年（221年），刘备伐吴，孙权向魏称臣，许诺送来儿子作人质，送回俘虏于禁，很久没有到达。曹丕疑惑，询问司马孚，司马孚建议不要紧逼，而是准备部队，静观其变。后来，于禁到达，只是因为路上得病而有所耽搁，而孙权的儿子终究没有送来。曹丕率军到达长江岸边，责问吴国违背诺言，于是魏、吴关系恶化，吴国停止进贡。之后，司马孚外放为河内典农，赐爵关内侯，又转任转清河太守。司马孚在曹丕时代也和辛毗观点相同，反对伐吴，主张休养生息。
黄初七年（226年），魏文帝曹丕驾崩，魏明帝曹叡继位，欲启用司马孚，问身边的人：“司马孚有他兄长的风范吗？”身边的人回答说：“和他的兄长很相似。”曹叡说：“我有司马懿兄弟二人，还有什么可担心的？”于是任命司马孚为度支尚书。度支尚书，魏文帝曹丕时开始设置，掌管国家财政。
司马孚认为要擒敌获胜，应该先有准备，每次诸葛亮入侵关中地区，边境的士兵不能抵挡，需要调集中央军队奔赴战场，仓猝间总是来不及准备，应该预先选出步骑二万部队，分为两部，以作交战之用。他又建议，关中地区连年交战，粮食物资储备不足，应该从冀州调集农夫五千人屯于上邽，秋冬训练，春夏屯田。这些建议都被采纳，于是关中物资充实，对待蜀国的进攻也有应对。
景初三年（239年），魏明帝曹叡驾崩，齐王曹芳继位，曹爽、司马懿共同辅政。后来曹爽专权，李胜、何晏、邓飏等掌权，司马孚不管杂事，唯端正自己的行为避免被人陷害而已。
正始十年（249年），司马懿发动“高平陵事变”，政变夺权，司马孚同司马师一起屯兵司马门，控制京师。曹爽一党被杀，司马孚因功进爵长社县侯，加侍中。后来，司马孚升任司空，又代替王凌为太尉。
嘉平五年（253年），孙吴太傅诸葛恪征发二十万人伐魏，围攻新城。司马孚督诸军二十万防御，到达寿春，派毋丘俭、文钦等进攻。诸将想迅速出击，司马孚说：“进攻的一方，是要消耗大量人力才能成功的，暂且使用诈巧，不要与敌人力争。”故意滞留了一个多月才进军，此时吴军士卒疲劳，加之瘟疫流行，于是望风而退。