Đầu năm 2024, một nhân viên tài chính tại văn phòng Hồng Kông của tập đoàn kỹ thuật Arup tham gia một cuộc gọi video với giám đốc tài chính và vài đồng nghiệp. Một gương mặt thân quen với giọng nói quen thuộc yêu cầu chuyển tiền, không ai mảy may nghi ngờ sự việc đang diễn ra.
Điều gì đã xảy ra
Một gương mặt thân quen với giọng nói quen thuộc yêu cầu chuyển tiền, không ai mảy may nghi ngờ sự việc đang diễn ra. Sau tổng cộng 15 lần chuyển khoản, 200 triệu HKD (khoảng 25,6 triệu USD, tương đương 650 tỷ VND) đã rời tài khoản công ty. Sau quá trình điều tra, cảnh sát xác định những người còn lại trong cuộc gọi đều là sản phẩm của công nghệ deepfake.
Dữ kiện hiện có
Hơn hai năm sau, một hồ sơ đăng ký sáng chế của Microsoft được công bố hôm 29/10 lại mô tả một hệ thống có thể sửa lời nói của người xuất hiện trong video trực tiếp, rồi vẽ lại khẩu hình cho khớp với lời mới. Chúng ta ngay lập tức nhận thấy ứng dụng và tác hại của một thứ công nghệ đang ngày một hoàn thiện.
Ai nên chú ý lúc này
Theo hồ sơ mang số US 2026/0341309 A1, nộp từ tháng 4/2025, hệ thống sẽ quét hình ảnh và âm thanh của buổi phát trực tiếp. Sau đó, một tác tử AI chọn ra những từ cần thay dựa trên hồ sơ của từng người xem, gồm độ tuổi, nơi sống và ngôn ngữ họ sử dụng. Một mô hình AI tạo sinh tiếp tục thay các từ ấy, làm mượt giọng nói và tạo khung hình mới để đôi môi người nói khớp với lời mới. Theo trang Patentlyze, toàn bộ quá trình chỉ chậm vài giây so với thực tế.
Điều chưa rõ
Các ứng dụng được nêu nghe khá vô hại: cắt từ đệm như “ừm”, thay lời tục tĩu, sửa tiếng lóng hay từ phát âm sai, dịch lời người nói sang ngôn ngữ của người xem, thậm chí lấy từ thay thế từ kết quả tìm kiếm trên Internet. Đáng chú ý hơn cả là kết quả của việc cá nhân hóa: hai người xem cùng một buổi phát sóng có thể nghe hai phiên bản khác nhau về điều đã được nói. Xét về khía cạnh giải trí và độ lan tỏa của một nội dung trên mạng, đây dường như là một phương án tuyệt vời để một nhà sáng tạo nội dung vượt qua rào cản ngôn ngữ.
Bình luận mới
0Chưa có bình luận nào. Bạn có thể là người mở đầu cuộc trò chuyện.