Hình ảnh khiêu dâm deepfake của Taylor Swift xuất hiện tràn ngập trên nền tảng X

Người hâm mộ Taylor Swift đang giận dữ với nền tảng X khi để hình ảnh giả bằng AI của cô lan truyền khắp mạng xã hội.

Theo thông tin từ New York Times, một hình ảnh được chia sẻ trên X đã có tới 47 triệu lượt xem trước khi bị khóa hôm 25/1. X cũng đã đình chỉ một số tài khoản đăng tải ảnh deepfake của nữ diễn viên. Tuy nhiên, những hình ảnh này vẫn nhanh chóng lan truyền qua nhiều nền tảng khác, bất chấp những nỗ lực ngăn chặn của các mạng xã hội.

X thông báo rằng họ đang tích cực xóa bỏ các hình ảnh giả mạo khỏi nền tảng. Còn người hâm mộ thì tỏ ra rất tức giận và liên tục đăng tải hình ảnh thật của ca sĩ cùng từ khóa “Protect Taylor Swift” (Bảo vệ Taylor Swift) nhằm át đi những nội dung giả mạo trên nền tảng.

Tuy nhiên, WSJ cho biết rằng các hình ảnh khiêu dâm deepfake vẫn đang phát tán rộng rãi trên X. Nhiều bài đăng thu hút hàng nghìn lượt xem, thậm chí có những bài đạt đến con số chục nghìn. Dữ liệu từ 404 Media chỉ ra rằng nguồn gốc của những ảnh này thường xuất phát từ Telegram, sau đó được lan truyền rộng trên X và các nền tảng truyền thông xã hội khác.

John Anderson, một chuyên gia về an ninh mạng thuộc công ty CyberShield, xác nhận rằng khoảng 90% hình ảnh giả mạo được tạo ra trên X sử dụng mô hình AI Stable Diffusion. Điều đáng chú ý là nền tảng này có thể được truy cập thông qua hơn 100.000 ứng dụng và công cụ trực tuyến khác nhau.

Với sự bùng nổ của ngành công nghiệp trí tuệ nhân tạo, nhiều công ty đang đua nhau tung ra các công cụ hỗ trợ người dùng tạo ra ảnh, video, văn bản và giọng nói chỉ với những nút lệnh đơn giản. Hậu quả của điều này là deepfake tràn ngập Internet vì việc làm ra chúng ngày càng rẻ, đơn giản.

Deepfake là sự kết hợp của “deep learning” (học sâu) và “fake” (giả). Công nghệ này sử dụng trí tuệ nhân tạo để phân tích cử chỉ, nét mặt và giọng nói của một người, từ đó tái tạo và chỉnh sửa để tạo ra ảnh hoặc video trông giống người đó như thật kể cả hình ảnh cũng như giọng nói. Các chuyên gia đang bày tỏ lo ngại rằng deepfake đang trở thành một nguồn tin sai lệch bị lan truyền mạnh mẽ. Công cụ này cho phép bất kỳ ai cũng có thể tạo ra những hình ảnh khỏa thân và châm biếm về các ứng cử viên chính trị hay nhân vật nổi tiếng. Thậm chí, trí tuệ nhân tạo đã được ứng dụng trong các cuộc gọi tự động để giả mạo giọng nói của Tổng thống Joe Biden trong cuộc bầu cử sơ bộ tại New Hampshire.

Theo lời của giáo sư Oren Etzioni, một chuyên gia nghiên cứu về deepfake tại Đại học Washington, “Internet luôn là một dòng chảy đen tối, chứa đựng nhiều thể loại nội dung khiêu dâm vô căn cứ. Giờ đây, một ‘biến chủng’ mới đặc biệt độc hại đã xuất hiện – ảnh khiêu dâm do AI tạo ra.”

Bloomberg cũng đưa tin về những rủi ro không chỉ về mặt kinh tế và chính trị mà còn về khả năng AI tạo ra làn sóng “khiêu dâm trả thù” nhắm đến phụ nữ. Một khi video được lan truyền trên Internet thì gần như không có cách nào chặn lại. Hơn nữa, một xu hướng mới đang nổi lên là nhiều người đang cố gắng đổ lỗi cho deepfake khi họ bị buộc tội, sử dụng công nghệ này như một lý do bào chữa trước tòa.

Các công ty khởi nghiệp như Sensity AI có trụ sở tại Hà Lan và Sentinel tại Estonia đang tích cực phát triển công nghệ nhận dạng deepfake. Cụ thể, giải pháp FakeCatcher do Intel giới thiệu vào tháng 11/2022 đã chứng minh khả năng phát hiện video giả mạo với độ chính xác lên đến 96% bằng cách theo dõi những biến đổi nhỏ của da dựa trên sự lưu thông của mạch máu.

Trước khi các quy định pháp luật có thể đuổi kịp sự phát triển của công nghệ thì nhiều bang tại Mỹ đã hành động. Đặc biệt, một số bang đã áp đặt lệnh cấm đối với deepfake, chủ yếu tập trung vào các nội dung liên quan đến khiêu dâm và bầu cử. Đồng thời, liên minh châu Âu cũng đã đề xuất một đạo luật liên quan đến trí tuệ nhân tạo, yêu cầu các nền tảng phải đính kèm nhãn cho những nội dung được tạo ra bởi AI.

Theo đánh giá của WSJ, tốc độ lan truyền mạnh mẽ của video khiêu dâm do deepfake đang trở thành vấn đề cấp bách trong bối cảnh AI bùng nổ. Không chỉ học sinh trung học mà còn cả những người nổi tiếng đều có thể trở thành nạn nhân của công nghệ này.