Phát hiện lỗ hổng bảo mật nghiêm trọng trong hệ thống AI của Microsoft
Phát hiện lỗ hổng nghiêm trọng trong hệ thống AI Microsoft NLWeb có thể đánh cắp mật khẩu và khóa AP
Công nghệ trí tuệ nhân tạo đang phát triển với tốc độ chóng mặt, nhưng cùng với đó là những rủi ro bảo mật mới xuất hiện. Gần đây, một lỗ hổng bảo mật AI Microsoft đã được phát hiện trong công nghệ NLWeb, khiến hàng triệu người dùng có thể gặp nguy hiểm. Nhà nghiên cứu Aonan Guan đã tìm ra một lỗi path traversal nghiêm trọng cho phép kẻ tấn công từ xa truy cập vào các tệp tin nhạy cảm của hệ thống. Điều đáng lo ngại là lỗ hổng này có thể được khai thác thông qua một URL được cấu trúc sai, mở đường cho việc đánh cắp thông tin quan trọng. Microsoft đã giới thiệu NLWeb tại hội nghị Build vào mùa xuân năm nay như một phương thức cho phép AI agent tương tác với các trang web thay mặt người dùng. Công nghệ này được mô tả như một dạng HTML dành riêng cho các hệ thống AI, hứa hẹn mang lại trải nghiệm mới mẻ cho người dùng. Tuy nhiên, bản chất của NLWeb là diễn giải ngôn ngữ tự nhiên, điều này tạo ra một ranh giới mờ nhạt giữa đầu vào của người dùng và các lệnh hệ thống. Chính đặc điểm này đã tạo ra cơ hội cho các cuộc tấn công mới, khi kẻ xấu có thể tạo ra những câu lệnh được cấu trúc khéo léo để đánh lừa hệ thống. Microsoft đã tích hợp tầm nhìn này vào chế độ Copilot Mode thử nghiệm cho trình duyệt Edge, mặc dù công ty chưa xác nhận chính thức việc sử dụng NLWeb cho tính năng này. Việc ứng dụng rộng rãi công nghệ mới này có thể đặt ra những thách thức bảo mật không lường trước được. (Hình ảnh minh hoạ. Nguồn: Internet) Guan đã chứng minh khả năng tải xuống danh sách mật khẩu hệ thống cùng với các khóa API của Google Gemini và OpenAI thông qua lỗ hổng này. Điều này có nghĩa là kẻ tấn công có thể sử dụng các ứng dụng AI phụ thuộc máy chủ "miễn phí" mà không bị OpenAI tính phí. Tác động của loại tấn công này có thể lan rộng ra toàn bộ hệ sinh thái AI. Chúng ta đã chứng kiến các cuộc trò chuyện ChatGPT bị rò rỉ trong kết quả tìm kiếm của Google trước đây, và việc rò rỉ thông tin ở quy mô lớn trong một AI agent có thể gây ra hậu quả thảm khốc cho tất cả các bên liên quan. Microsoft Security Response Center đã đẩy bản vá lỗi lên kho GitHub vào tháng 6, xác nhận rằng vấn đề đã được khắc phục. Tuy nhiên, công ty chưa phát hành báo cáo vá lỗi chính thức nào. May mắn thay, người dùng không cần thực hiện bất kỳ hành động nào để bảo vệ bản thân. Sự phát triển nhanh chóng của AI đã mờ nhạt ranh giới giữa việc trò chuyện với AI và ra lệnh cho nó. Các vector tấn công trong tương lai có thể bao gồm việc tạo ra những câu mà khi được phân tích bởi agent, sẽ được dịch thành các đường dẫn tệp tin hoặc hành động độc hại. Đây là lời cảnh báo về tầm quan trọng của việc bảo mật trong kỷ nguyên AI. >> Xem thêm:Công nghệ NLWeb và những rủi ro tiềm ẩn
Hậu quả của lỗ hổng và biện pháp khắc phục
