杜伏威在淮河和历阳郡连吃两次惨败，损失了近三万精锐，使他实力大损，杜伏威退回到淮南郡，将战略改为守势，不敢再和隋军对阵，同时，杜伏威也进行了重大军队调整，将散布在江淮各地的军队集中到淮南郡，防止被隋军各个击破，同时加强训练军队，积极将军权掌握在自己手中。
历阳之战后，张铉也不再继续进攻杜伏威，转而采取了对峙策略，这时，张铉的目光转到了东海郡，如果能打通东海郡，江都郡就将和青州重新连为一体。