四月，他跟随武帝攻取宣城，又与赵彧乘胜进攻水阳，攻克了这座城池。五月，朱元璋攻占了太湖，击败了张士诚的军队。俞通海军威大振，招降了张士诚在马迹山的守将王贵、钮津等人，又经过东洞庭山，将船停靠在施口。张士诚的左丞相吕珍率领水军突然到来，当时大军已经向西进军，俞通海独自率领剩下的船只和他们交战，一支箭射中了他的右眼下方，疼痛难忍，他命令手下穿上自己的铠甲站在船上，敌人以为是俞通海，于是不敢逼近。俞通海从此瞎了一只眼睛。
戊戌年正月，俞通海与廖永安攻克了江阴石牌的强盗，招降了他们的元帅栾瑞，然后夺取了马驮沙栅后返回。己亥年四月，在枞阳击败了陈友谅的将领赵普胜，俘获了他的军校赵牛儿等人以及他们的战舰，乘胜追杀敌军，于是收复了池州。这时，皇上亲自率军征讨江东，正为枞阳的事情担忧，等到捷报传来，大喜，升俞通海为佥枢密院事。庚子年闰五月，陈友谅侵犯龙湾，俞通海、张德胜与他交战，打败了他，俘获了他的将领喻国兴、李志高等人以及楼船。第二天，又在慈湖追击敌军并将他们打败，放火焚烧了他们的战船，论功行赏排在第二位。辛丑年春天，晋升为同知枢密院事。跟随皇上亲自出征陈友谅。八月，攻下了同安，接着攻克了九江，陈友谅逃走了。癸卯年秋七月，皇上再次在龙兴征讨陈友谅，在鄱阳湖的康郎山交战。当时湖水深浅不一，水军作战时，来来往往很不顺利，俞通海向（朱元璋）进言，建议驶出湖去，占据有利的地形来逼迫（敌军），于是（朱元璋）率领水军驶出（湖口）占据了左蠡。陈友谅战败而死，俞通海的功劳很大。甲辰年正月，朝廷改设中书省，进封俞通海为平章政事，攻打通州、庐州，都立下了功劳。秋季七月，在庐州设立江淮行省，命令俞通海代理行省事务。当时江、淮地区遭受战争，人心还没有安定，俞通海安抚慰问，一概用恩惠（对待百姓），因此重新恢复本业的人很多，修筑城墙，疏浚护城河，来做防御的准备。乙巳日，跟随相国徐达平定了安丰。丙午年九月，又跟随军队攻克湖州。十一月，平定了太仓，秋毫无犯，百姓都很喜欢他。伪元帅陈仁寿乘坐一百多艘船逃入海中，听说了俞通海的威名，都回来了，在他的麾下拜倒在地，愿意做编户平民的有几千人。大军包围了平江，徐达发文书给俞通海让他带着军队前来会合。俞通海率军抵达桃花坞，被流矢射中，伤势严重，返回京城。皇上亲临他家，问他：“平章知道我来探望你的病情吗？”俞通海已经不能说话了，皇帝流着泪走了出去。等到他去世，皇帝亲临哭吊十分哀伤，随从的官员和卫士没有不感动流泪的。不久被追赠为光禄大夫，又被追封为豫国公。
皇帝对各位将领的恩惠礼遇非常优厚，他们生病时，皇帝一定会派使者前去慰问，有时还会亲自前去探望。他们去世的时候，皇帝就率领百官为他致哀，亲自前往吊唁祭奠，至于吊唁慰问、赠送财物助丧的礼仪，以及丧葬祭祀的用品，都由官府供给。
己未年（4064年）方国珍已经向朝廷进贡，却又暗中渡海，在北方与扩廓帖木儿勾结，在南方与陈友定交好。
朝廷的军队讨伐姑苏（张士诚）时，方国珍拥兵自重，袖手旁观，屡次借纳贡之名，窥探双方的胜败，来决定是反叛还是归服朝廷。
朱元璋因为方国珍反复无常，写信列举他的十二条罪状说：“在你开始起事的时候，元朝还处于太平时期，天下谁敢作乱？只有你在海边起兵。元朝的官员都是世袭子弟，他们顾念爱惜妻子儿女，他们的军队长久以来不知道作战，所以临阵就胆怯，你才能够在海边嚣张跋扈。等到天下大乱的时候，你就占据了三州的土地，扼守海上交通要道的要冲，私自占据海岛二十多年，早上向西（政权）表示归顺，傍晚又向北（政权）表示归顺，这难道是大丈夫的所作所为吗？这是你的第一条罪状。 我攻克婺州的时候，四方的强敌很多，哪有时间对海岛用兵，与你一较高下？你自己心怀恐惧，派儿子来投降。我用真诚的心对待别人，不预先怀疑你欺诈，就送还你的儿子，你却诡计多端，没几
