元璋以徐达为征虏大将军，常遇春为副，率军二十五万由淮人河北取中原。他关照徐达：“阃外之事，汝实任之。兹行必自山东，次第进取。山东古云十二山河之地，师行之际，须严部伍，明分数，一众心，审进退之机，适通变之宜，使战必胜，攻必取。”6为了分化和争取蒙古贵族，朱元璋将被张士诚拘留的元宗室送还大都。同时发表了一篇讨伐檄文——《谕中原檄》。在这篇由名儒宋濂起草的檄文中，虽然充满了大汉族主义思想。将广大人民反对封建主义统治的斗争歪曲为民族斗争，提出了“驱逐胡虏，恢复中华”的口号，但它同时也提出了“立纲陈纪，救济斯民”的目标，而且宣布了对蒙古、色目人的政策，对大军顺利进军中原，分化元朝统治集团和争取广大蒙古、色目人民是有一定积极作用的。
徐达进入山东，招降了元朝淮南淮北义兵都元帅王宣父子，连下莒、滕、益都、东平、兖、济南、济宁、密、登、莱、东昌等州郡。邓愈军也由襄阳进至南阳。
二十八年（明洪武元年，1368）二月，徐达军进至河南，下汴梁。接着，明军攻下河南、荥阳、钧州、许州、陈州、汝州等地，扼守潼关，阻止李思齐自陕西人援。
五月，朱元璋至汴梁。六月，亲自与诸将商讨进攻大都