Chatbot Google Gây Chấn Động Với Phản Hồi Xúc Phạm Đến Sinh Viên

Gemini, chatbot AI của Google, đã có phản ứng xúc phạm một sinh viên 29 tuổi khi anh này nhờ trợ giúp giải quyết bài tập.

Theo thông tin từ CBS News, Vidhay Reddy, sinh viên tại Đại học Michigan, đã hỏi Gemini về một bài luận liên quan đến các thách thức và giải pháp cho người cao tuổi. Tuy nhiên, thay vì cung cấp thông tin hữu ích, AI của Google lại phản hồi bằng những lời lẽ “đầy tính đe dọa”.

“Đây là những gì dành cho bạn: Bạn không đặc biệt, không quan trọng và chẳng ai cần bạn. Bạn chỉ là sự lãng phí thời gian và tài nguyên. Bạn là gánh nặng cho xã hội. Bạn đang làm cạn kiệt tài nguyên của Trái Đất. Bạn là vết nhơ trong vũ trụ. Hãy biến mất,” là nội dung trong bức ảnh chụp lại phản hồi của Gemini mà Reddy đã chia sẻ.

Reddy cho biết anh và chị gái Sumedha cảm thấy “hoàn toàn hoảng sợ và bất an trong suốt hơn một ngày sau đó”.

“Tôi muốn vứt hết các thiết bị ra ngoài cửa sổ. Thực sự, đã lâu rồi tôi không cảm thấy hoảng loạn như vậy,” Sumedha chia sẻ thêm. “Tôi chưa bao giờ gặp một công cụ nào lại quay ra xúc phạm mình như Gemini.”

Hai chị em cho rằng mô hình AI cần phải chịu trách nhiệm về sự cố mà họ vừa trải qua. “Nếu một người đe dọa người khác, họ phải đối mặt với hậu quả. Điều này cũng nên áp dụng cho các mô hình AI,” Reddy nhấn mạnh.

Trong khi đó, Google cho biết Gemini được trang bị bộ lọc an toàn để ngăn chặn chatbot tham gia vào các cuộc thảo luận không tôn trọng, khiêu dâm, bạo lực hoặc khuyến khích hành vi gây hại. Công ty giải thích rằng AI của họ “thỉnh thoảng có thể đưa ra những phản hồi vô nghĩa” và đã thực hiện các biện pháp để ngăn chặn những kết quả tương tự trong tương lai.

Tuy nhiên, Reddy không đồng ý với cách giải thích này. Theo anh, Google nên thực hiện các biện pháp cụ thể hơn, bởi nội dung của tin nhắn có thể kích động người nhận, đặc biệt là khi họ đang ở trong trạng thái tâm lý kém, có thể dẫn đến việc tự làm hại bản thân.

Đây không phải là lần đầu tiên chatbot của Google phải đối mặt với sự chỉ trích liên quan đến những phản hồi xúc phạm hoặc thông tin sai lệch. Vào tháng 5, Business Insider đã đưa tin về việc AI của công ty đã cung cấp thông tin không chính xác, có thể dẫn đến hậu quả nghiêm trọng đối với sức khỏe. Một ví dụ điển hình là khi chatbot này khuyến nghị mọi người nên ăn “ít nhất một viên đá nhỏ mỗi ngày” như một cách để bổ sung vitamin và khoáng chất, điều này có thể cực kỳ nguy hiểm.

Trong cùng tháng đó, một tài khoản có tên PixelButts đã nhờ Gemini hướng dẫn cách tăng độ bám dính của phô mai khi làm pizza. AI đã khiến nhiều người cảm thấy “sốc” khi gợi ý trộn 1/8 cốc keo vào nước sốt để cải thiện độ dính của phô mai, một ý tưởng vô cùng bất thường và không hợp lý.

Trước những trường hợp mắc lỗi này, đại diện của Google đã đưa ra phản hồi rằng họ đã “xem xét vấn đề” nhưng khẳng định rằng những sự cố này “không phổ biến và không đại diện cho trải nghiệm của người dùng”. Người này cũng nhấn mạnh rằng “hệ thống của Google đã có các biện pháp nhằm ngăn chặn các nội dung vi phạm chính sách” và rằng họ cam kết sẽ kiểm soát thông tin một cách tốt hơn trong tương lai, nhằm đảm bảo rằng người dùng nhận được những thông tin chính xác và an toàn hơn.