太康元年（280年）正月，杜预陈兵于江陵外。江陵城防坚固，易守难攻。杜预不想在这里消耗时间和兵力，对它只是围而不歼。在切断了江陵和外部的联系之后，他立即调动参军樊显、尹林、邓圭、襄阳太守周奇等率一部分兵力沿江而上，向西进攻，夺取沿岸城池。一个漆黑的夜晚，杜预又派出牙门管定、周旨、伍巢等领锐卒八百人作为奇兵，偷袭江南的乐乡。这支部队在夜幕的掩护之下，神不知鬼不觉地渡过长江。他们按照主帅的计谋，一方面在山上到处点火，树立旗帜，虚张声势；一方面分兵袭击乐乡附近的各个要害地区。这样一来，把乐乡城里的吴军都督孙歆吓得坐卧不安，他在给吴都督伍延的信中说：“从北方来的各军，真像飞过长江一样。”各处的吴军也人心惶惶，不敢随意行动；有吴国百姓上万口前来投降。接着，杜预的这支人马埋伏在乐乡城外，等待时机攻城。正巧，这时候有一支吴军从江岸返回乐乡；杜预的将士就乔装打扮，混杂在吴军的队伍里溜进城里，活捉了孙歆。杜预设计巧取乐乡，使部下将士十分钦佩。他们传诵歌谣说：“以计代战一当万（主帅用计谋打仗，真是以一当万啊）！
二月，在扫清江陵的外围之后，杜预部进逼江陵。伍延假称请降，而仍在城墙上列兵防守，杜预攻下了江陵城，占据荆州。至此，长江上游平定，从沅湘以南直至交州、广州一带，孙吴的州郡都望风归顺，奉送印绶。杜预安抚降者，又借兵威，迁徙将士及屯戍人家以充实江北。南方州郡故地都安置了地方官，荆州肃然，使得投降的吴人有归家之感。
接着，杜预挥师东进，配合其他地区各路晋军攻打孙吴的都城建邺。有人对连续进军产生了畏难情绪，在一次军事会议上提出，天气转热，雨水增多，北方士兵不服水土容易感染疾疫，应该等到冬天再继续进军。杜预不以为然，分析整个战争形势说：“现在我们接连取胜，士气大振，正需要一鼓作气。打仗好比劈竹子，只要劈开几节，底下就会迎刃而解了。”杜预的意见终于为大家所接受，以后战争的形势正像杜预所预言的那样发展着。
整个灭吴一役，杜预功勋卓着，共斩杀、俘虏孙吴都督、监军一类的高级官吏十四人，牙门、郡守一类的中级官吏多达一百二十人。
西晋灭亡孙吴的战争结束了汉末三国以来分裂割据的状态，使中国重归一统。杜预在这次战争中显示了卓越的军事才能，功绩是非常突出的。
西晋灭吴后，杜预率师凯旋而归，因功进封当阳县侯，增加食邑至九千六百户，其子杜耽也受封为亭侯，食邑千户；更赐杜预八千匹绢，让他继续镇守襄阳。杜预回镇以后，屡次向司马炎陈述自己的家族世代为吏，认为武功不是自己擅长的，请求退职。但不被朝廷允许。
战后，杜预反对天下安定就要废弃军备的观点，他认为“天下虽安，忘战必危”。在任职期间，始终没有放松部队的训练。杜预把荆州军队的防卫重点集中到了对付当地少数民族方面。
在荆州，杜预兴建了一些水利工程。其中，在整修前代河渠的基础上，他引滍水、淯水两江之水入田，使一万余顷农田受益。为了使屯田和普通民田均能得到灌溉，杜预又把水渠按照地段标上界石。杜预开凿了从扬口到巴陵的运河一万余里，使夏水和沅、湘两水直接沟通，既解决了长江的排洪问题，又改善了荆州南北间的漕运。