天皇召开最终御前会议，正式确定终止战争，与中国达成和议。
到了三月二十八日，日本外务省特派官员乘坐美国商船抵达上海，南京外交部派出副部长陆宗舆和顾维钧前往上海，双方于万国大饭店内展开首次议和谈判。
在此之前，中国外交部早已经遵照吴绍霆的吩咐，准备了一份和谈的条件。
这份条件包括日本从朝鲜撤军，取消在朝鲜的所有特权，承认朝鲜独立的国家主权。同时归还台湾、澎湖列岛等所有之前从中国窃取的领土，赔偿战争军费三千万美元。中日朝三方签订《军事戒备条约》，中朝双方限定朝鲜海峡为海军共同警备区，在条约生效期间，日本任何武装力量不允许进入朝鲜海峡范围。不仅如此，在《军事戒备条约》里还规定，割让日本对马岛归属中国所有。
日本方面事先同样做好相关谈判准备，根据日本内阁会议定下的要求，和谈代表团在台湾和本国领土问题上绝不能退让，最多承认朝鲜国家独立，或者进行适当的军费赔偿。如今日本已经失去朝鲜的统治权，如果再失去台湾，本土必将彻底陷入资源匮乏，不仅对战后恢复造成严重的创伤，对国民信心更是一次重大的打击。
二十八日当天，中日双方直接交换了彼此停战的意见，日本对中