有了巢湖水师，渡江作战时机已告成熟。朱元璋命徐达、胡大海、冯国用、汤和、邓愈、廖永安、俞通海等分领各军扬帆齐发。

强大的船队，借助风威，快捷无比，直逼大江东岸。岸边牛渚矶蔚然壁立，高出江面一丈有余，元兵蚁集矶上，早有防备。船队距岸约三丈时，正待登陆，忽传一声鼓号，矶上乱箭飞射，如骤雨般扑面而来，船队迅速后退。朱元璋命船队避开飞射的乱箭，一字排开高声道：“谁先登上矶头，我封他当正先锋”。语音刚落，常遇春飞身而至，朱元璋便说：“常将军来得正好，你要当先锋，现在正是机会。”常遇春应声而进，左手执盾，右手挺戈乘轻舟飞驶矶下，眼看距岸不远，大吼一声，飞身登岸。

岸上元兵为之目瞪口呆，一士兵急用长矛刺来。好个常遇春，面对直迎面门的矛尖不避不闪，戈盾并举，夹住矛杆，顺势登矶并将其拽倒在地，就手一戳，使其毙命。朱元璋率余下将士蜂拥相随，迅速登上矶头，杀死元兵多半，一举占领采石。

夺取采石后，朱元璋即刻挥师南下，直取太平（今当涂）。在起义军的强大攻势下，太平守将弃城逃跑，起义军乘胜攻下太平城。后元兵分两路袭击太平，发起反攻。水路由元右丞阿鲁灰、中丞蛮子海牙等以巨舟横截采石江面，封锁河口，企图截断朱元璋回师历阳的后路；陆路则由地方附元势力陈野先和其将领康茂才带领的数万兵力，由北向南攻击太平城。

在此情况下，朱元璋采取各个击破的策略，先用计击败陈野先部，复派徐达、邓愈、汤和等出兵绕道对元军实行反包围，并设伏兵于襄城桥，形成前后夹击之势，致使陈野先腹背受敌，被俘投降，阿鲁灰、蛮子海牙等败退。朱元璋又亲率常遇春、冯国用、俞通海、廖永安等广设疑兵，分两头袭击蛮子海牙。战斗打响后，常遇春乘轻舟，直冲元军船队，将敌阵分割为二。俞通海指挥敢死队杀进元军水寨，朱元璋率众左右合击，纵火焚毁元军舰船，俘虏近万人，起义军大获全胜，蛮子海牙只身逃跑。朱元璋在采石和太平粉碎元军的水陆两路进攻后，得以集中精力攻打集庆。不久，朱元璋即攻下集庆，改集庆为应天府，为明王朝的建立奠定了基础。