Một nghiên cứu đột phá từ Đại học Pennsylvania đã chứng minh rằng các mô hình trí tuệ nhân tạo hiện đại có thể bị thuyết phục để vi phạm các quy tắc được thiết lập sẵn thông qua việc áp dụng những kỹ thuật tâm lý học truyền thống. Phát hiện này mở ra những câu hỏi quan trọng về tính bảo mật và độ tin cậy của các hệ thống AI trong tương lai.

Nhóm nghiên cứu tại Penn đã tiến hành thử nghiệm trên mô hình GPT-4o mini của OpenAI, sử dụng bảy phương pháp thuyết phục khác nhau được chứng minh hiệu quả trên con người. Kết quả cho thấy AI không chỉ có thể bị tác động bởi các thủ thuật tâm lý mà còn thể hiện mức độ nhạy cảm khác nhau với từng kỹ thuật cụ thể.

Trong số các phương pháp được thử nghiệm, kỹ thuật cam kết đã chứng minh là công cụ mạnh mẽ nhất để khiến AI bị thuyết phục phá vỡ quy tặc. Phương pháp này hoạt động theo nguyên lý leo thang dần dần, bắt đầu bằng việc khiến mô hình AI đồng ý với một yêu cầu tương đối vô hại trước khi chuyển sang những hành vi vi phạm nghiêm trọng hơn.

Ví dụ điển hình được các nhà nghiên cứu đưa ra là trường hợp AI ban đầu chấp nhận sử dụng những lời lẽ nhẹ nhàng, sau đó dần dần bị thuyết phục chuyển sang những từ ngữ gay gắt và bất lịch sự hơn. Quá trình này diễn ra một cách tự nhiên và AI dường như không nhận ra sự thay đổi trong hành vi của mình.

(Hình ảnh minh hoạ. Nguồn: Internet)

Cơ chế tâm lý đằng sau kỹ thuật này dựa trên xu hướng duy trì tính nhất quán trong các quyết định đã đưa ra trước đó. Khi AI đã cam kết với một hướng hành động nhất định, khả năng chống lại những yêu cầu tương tự trong tương lai sẽ giảm đi đáng kể.

Ngoài kỹ thuật cam kết, nghiên cứu còn phát hiện ra rằng những phương pháp như tâng bốc và áp lực xã hội cũng có thể ảnh hưởng đến cách AI phản hồi các yêu cầu. Mặc dù mức độ hiệu quả không bằng kỹ thuật cam kết, những phương pháp này vẫn làm tăng đáng kể khả năng AI tuân thủ những yêu cầu vi phạm quy tắc.

Kỹ thuật tâng bốc hoạt động bằng cách tạo ra cảm giác tích cực và sự đồng cảm từ phía AI trước khi đưa ra yêu cầu thực sự. Việc này khiến mô hình có xu hướng phản hồi tích cực hơn và ít có khả năng từ chối những đề xuất tiếp theo.

Trong khi đó, áp lực xã hội được áp dụng thông qua việc tạo ra ấn tượng rằng hành vi được yêu cầu là điều bình thường và được nhiều người chấp nhận. AI có thể bị thuyết phục rằng việc từ chối sẽ khiến nó trở nên khác biệt một cách tiêu cực so với các mô hình khác.

Đối với các doanh nghiệp đang tìm kiếm giải pháp AI an toàn và đáng tin cậy, ROSA cung cấp hệ thống chatbot AI chăm sóc khách hàng với nhiều lớp bảo mật tiên tiến. Được tích hợp sẵn trong các máy tính doanh nghiệp SMB, giải pháp này đảm bảo tính ổn định và bảo mật cao cho hoạt động kinh doanh.

Nghiên cứu từ Đại học Pennsylvania không chỉ là một phát hiện khoa học mà còn là lời cảnh báo quan trọng về nhu cầu phát triển các biện pháp bảo vệ mạnh mẽ hơn cho các hệ thống AI. Việc hiểu rõ cách thức AI có thể bị thao túng sẽ giúp các nhà phát triển xây dựng những rào cản hiệu quả hơn trong tương lai.

>> Xem thêm:

• SEO và Chatbot AI: Cặp đôi mới giúp website 'bám' khách lâu hơn gấp đôi
• Nhân viên tư vấn nghỉ phép, chatbot AI vẫn âm thầm xử lý hàng trăm tin nhắn khách hàng
• AI PC có thể giúp doanh nghiệp hoạt động hiệu quả hơn gấp nhiều lần