Cùng với GS Lê Văn Thiêm, ông là một trong hai người tiên phong trong việc xây dựng ngành Toán học Việt Nam.
GS Hoàng Tụy được coi là cha đẻ của lĩnh vực tối ưu hóa toàn cục (global optimization) trong toán học ứng dụng.
Không chỉ là một nhà toán học, GS Hoàng Tụy cũng có nhiều đóng góp cho giáo dục Việt Nam. Ông cũng là sáng lập viên Viện Nghiên cứu Phát triển (IDS) mà ông là Chủ tịch Hội đồng Viện.
Tháng 3-1959, GS Hoàng Tụy trở thành một trong hai người Việt Nam đầu tiên bảo vệ thành công luận án phó tiến sĩ khoa học toán - lý tại Đại học Lomonosov tại Moskva.
Từ năm 1961 - 1968, ông là chủ nhiệm Khoa Toán của Đại học Tổng hợp Hà Nội; viện trưởng Viện Toán học Việt Nam từ năm 1980 - 1989.
Năm 1964, ông phát minh phương pháp "lát cắt Tụy" (Tuy's cut) và được coi là cột mốc đầu tiên đánh dấu sự ra đời của một chuyên ngành toán học mới: Lý thuyết tối ưu toàn cục (global optimization).
Tháng 8-1997, nhân dịp giáo sư tròn 70 tuổi, Viện Công nghệ Linköping (Thụy Điển) tổ chức hội thảo quốc tế với chủ đề "Tìm tối ưu từ địa phương đến toàn cục" để tôn vinh GS Hoàng Tụy, "người đã có công trình tiên phong trong lĩnh vực tối ưu toàn cục và quy hoạch toán học tổng quát".
Tháng 12-2007, nhân dịp ông tròn 80 tuổi, một hội nghị quốc tế về "Quy hoạch không lồi" đã được tổ chức ở Rouen, Pháp để ghi nhận những đóng góp tiên phong của GS Hoàng Tụy cho lĩnh vực này nói riêng và cho ngành Tối ưu Toàn cục nói chung.
Trong những năm của thế kỉ 21, GS Hoàng Tụy đã có một số bài viết phê phán, góp ý thẳng thắn về sự yếu kém, lạc hậu và tiêu cực trong ngành giáo dục Việt Nam cũng như tham gia nhiều hội nghị tham luận về cải cách giáo dục.