Deepfake trở thành mối đe dọa nghiêm trọng trong thế giới Al tạo sinh

Người phụ nữ bị lừa 51.000 USD vì “Elon Musk giả”, hay hiệu trưởng suýt mất việc vì bị nhái giọng nói, cho thấy bất kỳ ai cũng có thể là nạn nhân của deepfake.

Theo thông tin từ Fortune, Thượng viện Mỹ sẽ tổ chức một phiên điều trần trong tuần này nhằm tìm cách “bảo vệ giọng nói và hình ảnh của tất cả cá nhân khỏi những hoạt động tái tạo trái phép được thực hiện bởi AI tạo sinh”. Cuộc điều trần này là một phần của dự luật “No Fakes” được các Thượng nghị sĩ Chris Coons, Marsha Blackburn, Amy Klobuchar và Thom Tillis đề xuất vào cuối năm trước. Dự luật này sẽ yêu cầu cá nhân hoặc các tổ chức phải chịu trách nhiệm khi tạo ra các deepfake trái phép, đồng thời đưa ra quy định rõ ràng đối với các nền tảng mạng xã hội khi chứa đựng các nội dung nhái giọng, hình ảnh không phù hợp.

Deepfake là sự kết hợp của “deep learning” (học sâu) và “fake” (giả mạo), công cụ này có khả năng ghép khuôn mặt, giọng nói của bất kỳ ai vào bất kỳ nội dung nào khiến mọi thứ khó phân biệt.

Vào ngày 19/4, rapper Drake, một trong những nghệ sĩ từng bị AI làm giả giọng, đã tạo ra một tác phẩm deepfake của chính mình. Bài hát “Taylor Made” đã được tạo ra để nhắc đến Taylor Swift, sử dụng giọng nói được tạo ra bởi AI, sử dụng giọng Snoop Dogg và ca sĩ quá cố Tupac Shakur (1971-1996).

Vào cuối tháng 4, đội ngũ luật sư đại diện cho Shakur đã phản đối việc Drake sử dụng giọng của Shakur trong bài hát “Taylor Made”, gọi đó là “sự lạm dụng trắng trợn di sản của một trong những nghệ sĩ hip-hop vĩ đại nhất mọi thời đại”. Họ đề nghị Drake loại bỏ bài hát trong vòng 24 giờ và “Taylor Made” đã bị xóa vào ngày 27/4.

Theo Times of London, bản rap được tạo bởi Jammable (AI Voicify). Tuy nhiên, Al này đã gặp phải áp lực từ Hiệp hội Công nghiệp ghi âm Anh (BPI), tổ chức đại diện cho bốn hãng thu âm lớn nhất Anh và hàng trăm công ty độc lập, đề nghị dừng hoạt động.

Jammable được phát triển bởi sinh viên Đại học Southampton Aditya Bansal vào cuối năm 2022, có khả năng “nhái giọng” của bất kỳ ai chỉ với một số lượng dữ liệu đầu vào nhất định. Trong một cuộc phỏng vấn với FT vào năm trước, Bansal cho biết anh đã kiếm được “rất nhiều tiền” từ việc thu phí từ 2,5 đến 112 USD cho các tính năng âm thanh khác nhau.

BPI đã đánh giá Jammable là một ví dụ tiêu biểu cho việc các công ty AI deepfake đang lợi dụng tác phẩm bản quyền để làm giàu một cách bất hợp pháp. Theo thông tin từ Fortune, khiếu nại của BPI cho thấy sự leo thang đáng kể giữa các công ty AI và những người sáng tạo trong ngành công nghiệp âm nhạc.

Mặc dù việc tạo deepfake về những người nổi tiếng không còn xa lạ nhưng ngày càng có nhiều nạn nhân rơi vào bẫy. Theo báo Korea Herald, một phụ nữ Hàn Quốc đã chia sẻ trải nghiệm của mình khi bị “Elon Musk” tiếp cận và làm quen với lý do “thường ngẫu nhiên liên lạc với người hâm mộ”. Để tạo ra lòng tin, kẻ lừa đảo thường sử dụng cuộc gọi video nhưng thực chất là dùng hình ảnh deepfake.

Sau đó, kẻ gian đã cung cấp số tài khoản ngân hàng tại Hàn Quốc cho nạn nhân và khuyến khích cô ta chuyển tiền đầu tư với lời giải thích “vui mừng khi thấy người hâm mộ trở nên giàu có”. Nạn nhân đã chuyển tổng cộng 70 triệu won (tương đương 50.770 USD) trước khi kẻ lừa đảo biến mất không dấu vết.

Các chuyên gia cảnh báo rằng đây có thể trở thành một hình thức lừa đảo phổ biến trong tương lai. Kỹ thuật AI tạo ra ảnh và video ngày càng hoàn thiện sẽ tạo điều kiện thuận lợi cho việc thực hiện các vụ lừa đảo này.

Theo CNN, một làn sóng phẫn nộ lan truyền hồi tháng 1 sau khi xuất hiện một đoạn ghi âm cho thấy Eric Eiswert, hiệu trưởng một trường trung học ở ngoại ô Baltimore (Mỹ), có lời lẽ phân biệt chủng tộc. Bản ghi âm sau đó đã được gửi đến các cơ quan truyền thông và Hiệp hội quốc gia vì sự tiến bộ của người da màu (NAACP). Eiswert đã bị đình chỉ công tác.

Cuối tháng 4, Sở cảnh sát hạt Baltimore đã xác nhận rằng Dazhon Darien, một giáo viên thể thao của trường đã có mâu thuẫn với Eiswert nên đã sử dụng kỹ thuật AI để tạo ra bản ghi âm giả để trả thù. Darien đã bị bắt vào ngày 25/4.

“Bản ghi âm không chỉ khiến hiệu trưởng bị đình chỉ mà còn gây ra một làn sóng thù ghét lan truyền trên mạng xã hội,” cáo trạng được công bố sau vụ bắt giữ có đoạn.

Theo các chuyên gia, sự việc này chỉ rõ mối nguy hiểm khi bất kỳ ai cũng có thể tạo ra các deepfake hình ảnh và giọng nói giả mạo chỉ với vài USD. “Nạn nhân trong trường hợp này không phải là một người nổi tiếng như Taylor Swift, Tổng thống Joe Biden hay Elon Musk. Đây là một người hiệu trưởng, một người sống cuộc sống bình thường. Điều này chỉ ra một lỗ hổng nghiêm trọng khi AI trở thành một loại vũ khí chống lại những người khác,” Hany Farid, giáo sư tại Đại học California, Berkeley, người đã hỗ trợ cảnh sát phân tích bản ghi âm, chia sẻ với NPR.