Hưng đạo vương Trần quốc Tuấn phá được quân Nguyên rồi thì kéo quân về Tràng an, rước Thượng hoàng và Nhân tông ra Thăng long. Giang sơn nhà Trần lại khôi phục đâu vào đấy cả. Bọn Thoát Hoan bại trận về Tàu, nghĩ khi đi thì thanhthế lừng lẫy bao nhiêu, khi về thì hao binh tổn tướng, lấy làm xấu hổ lắm. Định xin Nguyên chủ cho thêm binh mã sang đánh báo thù. Nguyên chủ thấy bọn Thoát Hoan bại trận về, giận lắm, muốn bắt chém cả, nhưng quân thần can ngăn mãi mới thôi.
Bấy giờ nhà Nguyên đang sắp sửa cất quân sang đánh Nhật bản, bèn lập tức đình việc đi đánh Nhật bản lại và sai đóng thêm 300 chiếc thuyền, truyền hịch cho ba tỉnh Giang hoài, Hồ quảng, Giang tây tụ tập quân sĩ, định đến tháng tám thì cất quân noi đường châu Khâm, châu Liêm sang đánh nước Nam để báo thù.
Quan tỉnh Hồ nam là Tuyến Kha dâng sớ về can rằng: "Quân ta bại trận mới về, kẻ mang dấu vết chưa khỏi, người đau yếu chưa dậy, xin hãy cho quân sĩ nghỉ ngơi dưỡng sức ít lâu, rồi sẽ định kế xuất chinh".
Vua nhà Nguyên nghe lời, cho quân sĩ nghĩ vài tháng. Còn Trần ích Tắc đã theo Thoát Hoan về Tàu, thì cho ra ở Ngạc châu.
Nhân tông nghe tin Nguyên triều sắp sửa cất quân sang đánh An nam, bèn vời Hưng đạo vương vào hỏi rằng: "Thoát Hoan bại trận trở về, chuyến này căm tức định sang đánh báo thù, quân thế hẳn to hơn trước, ta nên dùng kế gì mà chống lại được?" Hưng đạo vương tâu rằng: "Nước ta xưa kia, quân dân hưởng thái bình đã lâu, không tập đến việc chiến trận, cho nên năm trước quân Nguyên vào cướp còn có kẻ trốn tránh theo hàng giặc. May nhờ có oai linh Tổ tông, và thần võ của Bệ hạ, đi đến đâu đánh được đến đấy, cho nên mới quét sạch được bờ cõi. Còn như bây giờ quân ta quen việc chinh chiến, mà quân nghịch thì đi xa mỏi mệt. Vả lại thấy Toa Đô, Lý Hằng, Lý Quán tử trận, tất cũng chột dạ, quân tình đã sinh nghi sợ, hẳn không dám hết sức mà đánh. Cứ như ý tôi, thì chuyến này dù có quân Nguyên sang đây, ta phá cũng dễ hơn phe trước, xin bệ hạ đừng lo".
Nhân tông mừng rỡ, sai Hưng đạo vương đốc suất các vương hầu, mộ thêm quân sĩ, sử sang khí giới để phòng việc công thủ.
Sang mùa xuân tháng hai năm đinh hợi (1287) Nguyên chủ kén lấy 7 vạn quân, 5 trăm chiếc thuyền, 6 nghìn quân Vân nam và 1 vạn 5 nghìn quân ở bốn châu ngoài bể, sai Thoát Hoan làm Đại nguyên súy, A bát Xích làm Hành tỉnh tả thừa, Áo lỗ Xích làm Bình chương chính sự, Ô mã Nhi, Phàn Tiếp làm Tham tri chính sự, đem tất cả hơn 30 vạn quân sang đánh nước Nam, giả danh đưa Trần ích Tắc về nước, lập làm An nam quốc vương 53 . Lại sai Vạn hộ Trương văn Hổ theo đường bể tải hơn 17 vạn thạch lương 54 sang cấp cho quân sĩ.
Qua tháng mười một, Thoát Hoan dẫn quân noi đường Châu khâm, châu Liêm đến châu Tư minh; sai bọn Trương Ngọc lĩnh 2,000 quân coi việc chở lương thực, khí giới lại sai Trình bằng Phi, Áo lỗ Xích, mỗi người dẫn 1 vạn quân đi đường bộ; Ô mã Nhi, Phàn Tiếp suất lĩnh thủy quân đi đường bể, đều tiến sang An nam.
Quan Trấn thủ ở biên thùy phi báo về Thăng long. Các quan xin tuyển thêm binh. Hưng đạo vương nói rằng: "Binh cốt giỏi, chứ không cốt nhiều, nếu nhiều mà không giỏi, thí dụ như Bồ Kiên có trăm vạn quân cũng không ích gì!"
Nhân tông sai Hưng đạo vương thống lĩnh các vương hầu, chia quân phòng giữ các nơi.
Hưng đạo vương sai Trần nhật Duật, Nguyễn Khoái dẫn 3 vạn quân lên giữ mặt Lạng sơn; sai Trần quốc Toản, Lê phụ Trần dẫn 3 vạn quân và giữ mặt Nghệ an; tự mình thống đại quân ra giữ mặt Quảng yên. Một mặt sai tiền quân lên gần châu Tư minh chia ra đóng làm ba đồn: Sa, Từ, Trúc, để chống giữ quân Nguyên; một mặt sai tướng đem quân ra giữ chặt cửa sông Đại than 55 (thuộc Hải dương) còn đại quân của Hưng đạo vương thì đóng lại núi Phù sơn.
Quan quân tuy đóng giữ như vậy, nhưng quân Nguyên thế to lắm, chống không nổi, phải rút về Vạn kiếp; Thoát Hoan tiến lên chiếm giữ núi Phả lại và núi Chí linh, lập trại chống nhau với quân ta, rồi sai tướng là Trình bằng Phi đem hai vạn lính đánh lấy đồn Vạn kiếp, lại sai Ô mã Nhi và A bát Xích dẫn quân từ sông Lục đầu đánh xuống sông Hồng hà.
Hưng đạo vương rút quân về giữ Thăng long và sai tướng rước xa giá tạm lánh về Hám nam.
Nhưng sau khi bị bọn Ô mã Nhi đuổi ngặt quá, Thượng hoàng và Nhân tông phải xuống thuyền ra bể đi vào Thanh hóa. Ô mã Nhi đuổi không kịp, đem quân trở về qua Long hưng (phủ Tiên hưng, Thái bình) biết ở đấy có Thiên lăng, là lăng tổ nhà Trần, bèn sai quân đến phá nát cả đi.
Thoát Hoan đem binh mã tiến lên vây đánh Thăng long không được, phải rút về giữ Vạn kiếp, Chí linh và Phả lại, Hưng đại vương cũng tiến quân lên lập trại để chống với giặc.
Nhân tông thấy quân Nguyên đã lùi rồi bèn rước Thượng hoàng ra Bắc.