孔融是孔子的第二十世孙。他的七世祖孔霸是汉元帝的老师，官至侍中。父亲孔宙，曾任太山都尉。他少年时便有突出的才能，受到名士李膺的赞许。
孔融十三岁时，孔宙去世，孔融悲痛过度，需要人扶才能站起来，州里因而称赞他的孝行。他天性好学，博览群书。名士张俭为中常侍侯览所记恨，密令要州郡捉拿张俭。张俭与孔融兄长孔褒是好友，于是逃到孔褒家中，孔褒却不在。当时孔融年仅十六岁，张俭认为孔融年轻，并没有告诉他自己的处境。孔融看见张俭窘迫的样子，对张俭说：“哥哥虽然在外未归，我难道不能为您的东道主吗？”因此留张俭住在自己家。
后来事情泄漏，自国相以下的人，都秘密的压下此事，张俭得以逃脱，孔褒、孔融则被逮捕入狱。但不知他们二人是谁获罪。孔融说：“收容匿藏张俭的是我，有罪归我。”孔褒说：“张俭来找我，不是弟弟的罪过，罪在我，我心甘情愿。”官吏问他们的母亲，母亲说：“年长的人承担家事，罪责在我。”一门都争着赴死，郡县迟疑不能决断，于是向朝廷请示。诏书最后定了孔褒的罪，孔融因此事而闻名。
孔融与平原人陶丘洪、陈留人边让齐名，州郡以礼策命，他都不到。
孔融后来受到司徒杨赐的征召，成为司徒掾属。当时暗暗察访官僚中的贪污之人，准备予以贬谪罢免，孔融检举的多为宦官的亲族。朝中尚书害怕得罪宦官，于是召孔融等司徒属官诘问斥责，孔融陈述宦官子弟的罪恶，毫不隐讳。
光和七年（184年），河南尹何进即将升任大将军，杨赐派孔融拿着名片去祝贺何进，因门人未及时通报，孔融就把名片夺回，引罪自责而去。河南尹官属认为丢了面子，想要派剑客追杀孔融，有宾客对何进说：“孔文举有盛名，将军如果与他结怨，四方之士就会相随而去了。不如以礼对待他，使天下人都知道将军的胸怀广大。”何进同意，于是征辟孔融为大将军掾属，又举其为高第，迁任侍御史。孔融又因为与上司御史中丞赵舍不和，托病归家。
后来，孔融被征为司空掾属，被授为北中军候。在职三天，转任虎贲中郎将。正逢权臣董卓总揽朝政，想要废掉汉少帝刘辩，孔融与董卓争辩，言辞激辩，常有匡正的言论。董卓怀恨在心，将孔融转任议郎，随后又暗示三府（太尉、司徒、司空）举荐孔融到黄巾军最为猖獗的北海国（治今山东昌乐西）为国相。
孔融到北海后召集士民，聚兵讲武，下发檄文，又亲写书札，与各州郡通声气，共同谋划。因讨伐黄巾军张饶战败，而转保朱虚县。慢慢集结官吏百姓被黄巾所蛊惑的男女四万多人，再设置城邑，设立学校，表显儒术，荐举贤良郑玄、彭璆、邴原等。对待国人，就算只有一点微小的善行，也都以礼对待。国人没有后代及四方游士有去世的，都帮助安葬他们。因颇有政声，被时人称为“孔北海”。
后来，孔融被黄巾军将领管亥所围，情势紧急。于是派太史慈向平原国相刘备求救。刘备惊奇地说：“孔北海竟知道天下还有个刘备呢。”于是立即发兵解围。