Một chuyên gia cố vấn chính trị vừa bị Ủy ban Truyền thông Liên bang (FCC) phạt 6 triệu USD do sử dụng công nghệ AI deepfake giả giọng Tổng thống Mỹ Joe Biden.
Theo đó, chuyên gia có tên Steve Kramer bị buộc tội dùng công nghệ AI để giả mạo danh tính người gọi khi sử dụng giọng của Tổng thống Mỹ Joe Biden trong các cuộc gọi tự động tại cuộc bầu cử sơ bộ ở New Hampshire.
AI giả mạo âm thanh giọng nói của ông Biden kêu gọi cử tri không đi bầu cử sơ bộ. Ảnh: Politico
Cụ thể, các cuộc gọi tự động đã sử dụng âm thanh giọng nói của ông Biden tạo bởi AI deepfake kêu gọi cử tri New Hampshire không đi bỏ phiếu sơ bộ. “Phiếu bầu của các bạn tạo nên sự khác biệt vào tháng 11 tới đây, không phải bây giờ”.
Cáo trạng cho biết Kramer đã thuê người thực hiện các bản ghi âm giả mạo. NBC News nói rằng người này đã sử dụng trình tạo giọng nói AI có tên ElevenLabs và chỉ mất 20 phút để hoàn thành.
Đạo luật Danh tính thật Người gọi được ban hành năm 2009, cấm “cố ý tạo ra thông tin danh tính không chính xác của người gọi hoặc hiểu lầm với mục đích lừa đảo, gây hại hoặc chiếm đoạt tài sản có giá trị”.
Mặc dù quy định có trước khi AI bùng nổ, song FCC đã nhất trí áp dụng đạo luật với các cuộc gọi tự động từ tháng Hai năm ngoái.
Kramer tuyên bố gửi các cuộc gọi tự động nhằm nâng cao nhận thức về những nguy hiểm của việc sử dụng công nghệ sai mục đích. Theo đó, “thí nghiệm” này chỉ tốn 500 USD nhưng mang lại lợi nhuận khổng lồ.
“Tôi không tìm kiếm sự nổi tiếng. Ý định của tôi là tạo ra sự khác biệt”, cố vấn chính trị này nói.
Bên cạnh khoản tiền phạt lớn của FCC, Kramer còn đối mặt với cáo buộc hình sự, gồm 13 tội danh nghiêm trọng về việc ngăn cản cử tri và 13 tội danh khác liên quan đến mạo danh ứng viên.
(Theo Engadget)
Khoảng cách giữa Trung Quốc và Mỹ trong lĩnh vực AI chỉ còn một nămTrung Quốc chỉ còn chậm hơn Mỹ khoảng một năm về phát triển các mô hình AI, song giới chuyên gia nhận định khoảng cách này không dễ có thể bắt kịp.
Đăng thảo luận