Thư viện Trường Đại học Hà Nội ra đời ngay sau khi Trường Đại học Hà Nội được thành lập. Thời kỳ mới thành lập Thư viện hoạt động trên cơ sở một tổ công tác phục vụ tư liệu cho trường, trực thuộc phòng giáo vụ. Hoạt động Thư viện nghèo nàn, tài liệu chủ yếu là sách giáo trình, sách tham khảo chuyên ngành như: tiếng Nga và ngôn ngữ các nước Đông Âu (tiếng Ba Lan, tiếng Tiệp Khắc, tiếng Bungari…). Nguồn tài liệu chủ yếu là sách tài trợ, tặng biếu của các nước trong hệ thống xã hội chủ nghĩa.
Năm 1967, trước yêu cầu mở rộng quy mô đào tạo và nâng cao chất lượng giảng dạy, trường Đại học Ngoại ngữ Hà Nội đã mở thêm một số chuyên ngành như: tiếng Anh, tiếng Pháp. Cùng với việc thành lập thêm một số khoa và bộ môn, vốn tư liệu tăng lên đáng kể. Đến năm 1984, lãnh đạo nhà trường quyết định tách tổ tư liệu ra khỏi phòng giáo vụ thành một đơn vị độc lập với tên gọi là: “Thư viện trường Đại học Ngoại ngữ Hà Nội”. Sau khi tách thành đơn vị độc lập, năm 1994 Thư viện đã xây dựng mới được toà nhà 2 tầng, vốn tài liệu ngày càng nhiều, phần nào đáp ứng được yêu cầu về tư liệu cho công tác đào tạo của trường. Trong quá trình hoạt động, Trung tâm đã không ngừng nâng cấp cơ sở vật chất kỹ thuật, đổi mới hoàn thiện tổ chức và hoạt động, từng bước ứng dụng công nghệ thông tin vào hoạt động nghiệp vụ.
Năm 2000, cùng với việc đổi mới chương trình, phương pháp giảng dạy, nâng cao chất lượng đào tạo ngoại ngữ của ngành giáo dục, Ban Giám hiệu trường quyết định sáp nhập Thư viện với phòng Thông tin và đổi tên thành “Trung tâm Thông tin – Thư viện Trường Đại học Ngoại ngữ Hà Nội”. Thư viện thực hiện dự án nâng cấp hiện đại theo hướng mở, bằng nguồn vốn vay của Ngân hàng thế giới - World Bank mức A và mức B để đầu tư nâng cấp cơ sở vật chất - kỹ thuật trụ sở, trang thiết bị.
Ngày 5/12/2003 Thư viện đã đi vào hoạt động tại trụ sở mới và không ngừng hoàn thiện cơ sở vật chất, trang thiết bị. Đặc biệt, năm 2005 Thư viện đã ứng dụng và triển khai phần mềm quản trị thư viện điện tử Libol, Kipos để nâng cao hiệu quả hoạt động thông tin thư viện. Hiện nay, Thư viện đã đi vào hoạt động ổn định và từng bước hiện đại, ngày càng đóng góp vào sự nghiệp giáo dục của trường Đại học Hà Nội nói riêng và của ngành giáo dục đào tạo của nước ta nói chung trong thời đại mới.