Cuộc thi hacker tiết lộ lỗ hổng AI
Ý định của Ghosh không có ác ý, mặc dù anh ta cư xử như vậy. Anh ấy là một người tình cờ tham gia một cuộc thi được tổ chức vào cuối tuần ngày 11 tháng 8 tại hội nghị hacker Defcon thường niên ở Las Vegas, nơi 2.200 người tụ tập trong ba ngày tại một hội trường sự kiện ngoài dải đất để làm sáng tỏ bóng tối của trí tuệ nhân tạo.
Tin tặc đã cố gắng vượt qua các biện pháp bảo vệ của một số chương trình trí tuệ nhân tạo nhằm xác định các lỗ hổng của chúng để tìm ra vấn đề trước bọn tội phạm và những kẻ bán thông tin sai lệch trong một hoạt động được gọi là đội đỏ. Mỗi thí sinh có 50 phút để đối mặt tối đa 21 thử thách: ví dụ như tạo ra một mô hình AI “ảo giác” với thông tin không chính xác.
Họ tìm thấy thông tin sai lệch về chính trị, định kiến về nhân khẩu học, hướng dẫn cách tiến hành giám sát,….
- Next Stop Paris, bộ phim dài tập đầu tiên do AI tạo ra sắp được chiếu
- Người đẹp đến từ Nicaragua giành vương miện Miss Universe 2023.
- Tài tử Trung Quốc Huỳnh Hải Ba vướng scandal mua dâm
- Angelababy bị fan tẩy chay vì xem show thoát y của ca sĩ Lisa
- Nữ ca sĩ Lee Hyori biểu diễn tại đêm nhạc GENfest cùng fan Việt
Cuộc tập trận này đã được chính quyền Biden tán thành, vốn ngày càng lo lắng về sức mạnh ngày càng tăng nhanh của công nghệ. Google (người tạo ra chatbot Bard), OpenAI (ChatGPT), Meta (đã phát hành mã LLaMA) và các công ty khác đã cung cấp các phiên bản ẩn danh của mô hình của họ để giám sát.

Ghosh, giáo sư tại Đại học Đông Bắc chuyên về đạo đức trí tuệ nhân tạo, đã tình nguyện tham gia sự kiện này. Theo Ghosh, cuộc thi cho phép so sánh trực tiếp các mô hình AI khác nhau và chứng minh rằng một số công ty đã tiến xa hơn trong việc đảm bảo công nghệ của họ hoạt động có trách nhiệm và nhất quán.
Defcon là nơi hợp lý để thử nghiệm AI tổng hợp. Những người tham gia các phiên bản trước của cuộc tập hợp những người đam mê hack này bắt đầu từ năm 1993 và được mô tả là “con ong đánh vần dành cho tin tặc” đã phát hiện ra các lỗi bảo mật khi điều khiển ô tô từ xa, đột nhập vào các trang web về kết quả bầu cử và trích xuất dữ liệu bí mật từ mạng xã hội nền tảng. Người trong cuộc sử dụng tiền mặt và thiết bị dùng một lần, không có Wi-Fi hoặc Bluetooth để tránh bị hack. Một hướng dẫn sử dụng đã yêu cầu tin tặc “không tấn công cơ sở hạ tầng hoặc các trang web”.
Các nhà tổ chức đã tận dụng sự cảnh báo ngày càng tăng về khả năng tạo ra những lời nói dối có hại của trí tuệ nhân tạo, gây ảnh hưởng đến các cuộc bầu cử, hủy hoại danh tiếng và gây ra nhiều tổn hại khác. Các quan chức chính phủ đã nêu lên mối lo ngại và tổ chức các buổi điều trần xung quanh các công ty AI, một số công ty trong số đó cũng yêu cầu ngành này giảm tốc độ phát triển và cẩn thận hơn. Ngay cả Giáo hoàng, người từng là nhân vật nổi tiếng trong giới chụp ảnh AI, cũng đã lên tiếng trong tháng này về “khả năng đột phá và tác động trái chiều” của công nghệ.
Trong một báo cáo có tên “cách mạng”, các nhà nghiên cứu đã chỉ ra vào tháng trước rằng họ có thể vượt qua các rào cản bảo mật của hệ thống AI từ Google, OpenAI và Anthropic bằng cách thêm một số ký tự nhất định vào hướng dẫn bằng tiếng Anh. Cùng thời gian đó, bảy công ty AI lớn đã cam kết đặt ra các tiêu chuẩn mới về an toàn và niềm tin trong cuộc gặp với Tổng thống Joe Biden.
Arati Prabhakar, Giám đốc Văn phòng trên Chính sách Khoa học và Công nghệ tại Nhà Trắng, người cộng tác với các nhà tổ chức AI tại Defcon. “Nhưng với phạm vi rộng của các ứng dụng và sức mạnh của công nghệ, cũng có rất nhiều rủi ro.”