Từ năm 1980, ông làm việc tại Viện Đông Nam Á cho tới lúc nghỉ hưu.
Nhà Ngôn ngữ học Phan Ngọc là người biết nhiều ngoại ngữ nhất Việt Nam trong thế kỷ 20 khi thông thạo 5 ngoại ngữ La tinh, Trung Quốc, Pháp, Anh, Italia. Ngoài ra, ông còn có khả năng sử dụng nhuần nhuyễn tiếng Nga, tiếng Đức, tiếng Nhật, tiếng Thái Lan và tiếng Campuchia. Nhà Ngôn ngữ học Phan Ngọc quan niệm: “Trong rất nhiều ngôn ngữ, người học nên chọn vài ngoại ngữ có tính phổ biến trên thế giới để có thể giao tiếp rộng rãi. Những ngôn ngữ này phải được học một cách chu đáo trước khi chuyển sang học các ngôn ngữ khác”.
Ông từng dịch bộ Triết học Hegel từ tiếng Đức sang tiếng Việt. Bên cạnh đó, ông cũng dịch Chiến tranh và hòa bình từ nguyên bản tiếng Nga (dịch chung với Cao Xuân Huy, Cao Xuân Hạo và Thiếu Sơn); Sử ký Tư Mã Thiên, Thơ Đỗ Phủ... từ nguyên bản tiếng Hán; Shakespeare từ nguyên bản tiếng Anh. Ông cũng xuất bản Từ điển Anh - Việt hơn 100.000 từ và sau đó soạn tiếp Từ điển Việt - Anh với số từ tương đương.
Nhà Ngôn ngữ học Phan Ngọc được xem là “thầy của các thầy” trong lĩnh vực ngôn ngữ.
Về ông, PGS - TS Đỗ Lai Thúy từng viết: “Phan Ngọc là một nhà khoa học đồng thời là một nhà tư tưởng. Và có lẽ, ông ham trở thành một nhà tư tưởng hơn, thậm chí một nhà lập thuyết… Phan Ngọc là người muốn lắp ghép (hay dung hóa) những thành tựu khoa học của phương Tây và triết học phương Đông, chủ yếu là Khổng giáo và chủ nghĩa Marx”.