元朝末年，正是日本的南北朝时期。当时日本南朝各地分裂割据的地方大名势力，互相征伐。战乱中大批的日本武士、浪人、海盗商人、流民等借助航船窜扰中国沿海等地。他们与被朱元璋击败的张士诚、方国珍残余势力勾结，在大明朝沿海地区不时杀烧劫掠。

虽然海寇猖獗，但当时朱元璋的主要进攻方向是北元，完成中国统一，对沿海的外寇暂时取防御的策略。他下诏加强海防力量，禁止军民人私通海外，但没有实施海禁，仍允许进行各类贸易。

明朝水师

朱元璋初期，对于日本真实的情况还没有细致的了解。朱元璋鉴于元朝征日失败，没有发兵征讨这个海外狂妄小国。但是朱元璋不敢轻视海防，他下诏在山东、青岛连云港一线、浙江东西海上加筑五十九城。几十年间，洪武一朝共在辽东、山东、南直肃、浙江、福建、广东等地设立了五十八卫及八十九所，布置兵力十万以上，有兵舰千余艘，严防倭寇。所以明朝初期虽然有小股的倭寇但是很难形成大的祸患。

洪武二年倭寇犯山东，朱元璋遣使到日本，予以恫吓。日本南朝的怀良亲王乃后醍醐天皇的儿子。他见明朝送来的诏书语气强硬，不吃这套，直接杀掉几个并拘押了使者杨载等人。第二年明使再次前来，怀良态度有了一百八十度的大转弯，厚待来使，上贡马匹及衣物，并向明朝放还倭寇在明州和台州等地抢掠的平民。朱元璋大喜，自以为明朝天威所至，终于使倭国臣服。其实怀良的服软态度，只是因为日本北朝咄咄逼人，日本南朝疆土日蹙，不想也不敢另外树敌招惹明朝的进攻。

明初倭寇，真正的倭寇占比大多数，多数来自日本列岛的萨摩、长门、博多、鹿八岛等地，入侵道路和以往入贡的道路一样，由高丽趋山东，在四五月的时候利用东南季风到达中国沿海。所以在明初最严重倭寇骚扰的地方在山东、辽东半岛，其次是浙江。当时遭受倭寇骚扰最大的，还有明朝的藩属高丽。但李氏王朝建立后军力增强，倭寇连连受挫，就把入侵重点转向中国沿海。

郑和的海船

胡惟庸案发生后，朱元璋因为此案涉及日本人龙颜大怒，对日本深恶痛绝。不料南朝的怀良亲王觉得山高皇帝远，派人送来表文，语意极其傲慢无礼，说什么：天朝有兴战之策，小邦亦有御敌之图。相逢贺兰山前，聊以博戏，臣何惧哉等语。

过了好久，朱元璋才知道所谓的日本国王怀良不过是个亲王，日本还有一大半地方归于北朝统治。明使与实际主持北朝政事的幕府将军足利义满，建立了联系。足利义满为人还算有长远思虑，派遣使节。 为了向大明示忠心，足利义满也在国内搜捕倭寇，并派兵到对马诸岛，全歼了数百劫掠中国沿海的贼人，捕获贼头二十人。而后趁永乐三年入贡时，把这些倭寇全部交予大明朝处置。明成祖朱棣自然高兴赏赐了足利义满。其获得了明廷赏赐的大笔金银。

永乐六年，足利义满病死。他的儿子新任幕府将军。这位足利义持是个反明派，断绝了两国的正常关系，倭寇来犯频率增加。但后来随着足利义教的继任，日本又恢复了与明朝的友好关系。所以，自永乐至正德的近一百多年内，明朝与日本的官方关系大局上是友好的。即便如此，明朝沿海倭患时有发生，日本各地大名诸侯或武士、浪人集团常常冒充朝贡船只，在中国沿海一带骚扰抢掠。

当时为体现天朝宽仁，明朝基本是予以免关税对待，即不对货物抽分，以此来达到怀柔远人的目的。日本来使们个个夹带私货。明朝与日本政府官方之间的贸易往来，大都是薄来厚往的不平等贸易，日本人从中赚取了高额利润。以日本刀一项为便，这种刀器，品质好的在日本国内可能最多值1500文，而到了明朝，至少也要一万文卖出。而明朝对于日本真正情况了解较少，而失去不少利益。