Tây Ban Nha bất lực với công cụ AI tạo ảnh khỏa thân

AI tạo ảnh khỏa thân trở thành mối đe dọa với phụ nữ toàn cầu, nhưng việc đóng cửa chúng không hề dễ dàng.

Vào tháng 9/2023, một loạt ảnh khỏa thân giả của hơn 20 nữ sinh đã lan rộng tại một số trường học ở Tây Ban Nha gây hoang mang dư luận. Sau đó, những hình ảnh này được xác nhận là sản phẩm của AI. 15 học sinh cùng lớp với các nữ sinh này đã bị tuyên án một năm tù treo vì tội lan truyền những hình ảnh này. Tuy nhiên, theo Fortune, vấn đề cốt lõi nằm ở việc các công cụ tạo ra những hình ảnh này vẫn tồn tại rộng rãi và dễ dàng truy cập trên Internet.

“Những công cụ này có khả năng ‘lột trần’ bất kỳ ai trong bất kỳ bức ảnh nào chỉ trong vài giây”, bài viết trên trang này nhấn mạnh.

Một nỗ lực mới từ người dân và chính quyền San Francisco (Mỹ) đang được kỳ vọng sẽ thay đổi thực trạng này. Luật sư David Chiu, đại diện cho người dân tại đây đã đệ đơn kiện một loạt trang web có lượng truy cập lớn, có trụ sở tại Estonia, Serbia, Anh và nhiều nơi khác, chuyên cung cấp các công cụ tạo ảnh giả mạo.

“Những hình ảnh lan truyền này đã lợi dụng và khai thác một số lượng lớn phụ nữ và trẻ em gái trên toàn thế giới”, Chiu chia sẻ với AP. “Chúng được sử dụng để bắt nạt, làm nhục và đe dọa phụ nữ và trẻ em gái. Tác động đối với nạn nhân là sự hủy hoại danh tiếng, sức khỏe tâm thần, mất quyền kiểm soát cuộc sống, và trong một số trường hợp đã có ý định tự tử.”

Những trang web này bị cáo buộc vi phạm nhiều luật của bang như gian lận kinh doanh, khiêu dâm không có sự đồng thuận, lạm dụng tình dục trẻ em.

Tuy nhiên theo giới quan sát, việc xử lý gặp nhiều thách thức, cả ở phía người tạo ra công cụ, người sử dụng công cụ và môi trường giúp hình ảnh lan truyền.

Những người đứng sau công cụ tạo ảnh AI khỏa thân thường ẩn danh, hoạt động xuyên biên giới. AP cho biết từng liên hệ một dịch vụ như vậy và CEO của họ phát hành khắp nước Mỹ nhưng từ chối cung cấp thêm thông tin.

Trong sự việc tại Tây Ban Nha năm ngoái, đơn vị hành pháp của Liên minh châu Âu cho biết ứng dụng được dùng để tạo ảnh deepfake “có vẻ không nằm trong diện bị áp dụng quy tắc quản lý mới về an toàn trực tuyến, bởi chúng không phải là nền tảng đủ lớn”.

Theo nhà nghiên cứu Riana Pfefferkorn từ Đại học Stanford, các trang web có thể bị đóng cửa nếu người điều hành phớt lờ vụ kiện. Nếu David Chiu và người dân San Francisco thắng kiện, họ có thể gây áp lực lên các đơn vị đăng ký tên miền, máy chủ và các trung gian thanh toán để chặn các trang web này, ngay cả khi chủ sở hữu không tham gia vào vụ kiện.

Kết quả của vụ kiện được dự đoán sẽ là một bước ngoặt quan trọng trong việc xử lý các công cụ AI tạo ra hình ảnh khỏa thân. Emily Slifer, Giám đốc chính sách tại Thorn, một tổ chức chống lại nạn bóc lột tình dục trẻ em, cho biết vụ kiện tại San Francisco “có thể tạo ra tiền lệ pháp lý trong lĩnh vực này”.

Một yếu tố khác cũng cần chịu trách nhiệm trong việc lan truyền hình ảnh khỏa thân là các mạng xã hội. Trong trường hợp tại Tây Ban Nha, ứng dụng WhatsApp của Meta đã được nhắc đến.

“Trách nhiệm không chỉ thuộc về xã hội, phụ huynh và nhà trường, mà còn thuộc về những gã khổng lồ công nghệ đang hưởng lợi từ những nội dung độc hại này”, tiến sĩ Miriam Mendiri chia sẻ với Fortune.