Tình trạng lừa đảo trực tuyến qua mạng xã hội hoặc qua điện thoại đang ngày càng trở nên phổ biến trên toàn cầu.

Những hình thức xác nhận danh tính của kẻ lừa đảo như gọi điện thoại hoặc gọi điện video đang trở nên vô dụng, khi những kẻ lừa đảo có thể nhờ đến sự trợ giúp của trí tuệ nhân tạo (AI) để giả giọng nói hoặc hình ảnh của người thân, bạn bè nhằm đánh lừa nạn nhân.

Mới đây, Cục điều tra Liên bang (FBI) vừa đưa ra cảnh báo và những lời khuyên để giúp mọi người tránh trở thành nạn nhân của các chiêu trò lừa đảo trực tuyến, nhất là các chiêu lừa có sự trợ giúp của AI.

AI có thể nhân bản giọng nói của bất kỳ ai chỉ từ một đoạn nội dung ghi âm để thực hiện cuộc gọi lừa đảo (Ảnh: The Gaze).

Theo đó, FBI cho biết các tin tặc đang lạm dụng các công cụ AI để giả mạo giọng nói, hình ảnh người thân, bạn bè nhằm qua mặt nạn nhân để chiếm đoạt tài sản.

"Tội phạm mạng có thể tạo ra các đoạn âm thanh ngắn chứa giọng nói của người thân, bạn bè để giả mạo một tình huống cấp bách, yêu cầu hỗ trợ tài chính ngay lập tức hoặc đòi tiền chuộc.

Trong một số trường hợp, tội phạm mạng còn sử dụng AI để ghép mặt và thực hiện các cuộc gọi video thời gian thực, mạo danh người thân hoặc người của cơ quan chức năng để lừa đảo", FBI đưa ra lời khuyến cáo.

FBI cho biết những kẻ lừa đảo và tội phạm mạng thường lấy cắp, thu thập hình ảnh, video, các nội dung âm thanh… được người dùng mạng xã hội chia sẻ công khai và dựa vào những dữ liệu này để tạo ra nội dung giả mạo bằng các công cụ AI.

Những công cụ AI tạo sinh hiện đại có thể tạo ra những bản sao giọng nói chỉ từ một đoạn ghi âm ngắn tiếng hát hoặc cuộc hội thoại của bất kỳ ai. Từ đó, những kẻ lừa đảo có thể tạo nên nội dung cuộc gọi giả mạo để lừa nạn nhân mắc bẫy.

Để đối phó với những kẻ lừa đảo và tội phạm mạng, FBI khuyến cáo mọi người không nên chia sẻ công khai các hình ảnh, video, giọng nói thu âm… của mình lên mạng xã hội.

"Nếu có thể, hãy hạn chế chia sẻ công khai các hình ảnh, giọng nói của bạn. Đặt tài khoản mạng xã hội ở chế độ riêng tư và giới hạn người xem để giảm thiểu khả năng những kẻ lừa đảo sử dụng phần mềm AI tạo sinh dựa vào những dữ liệu này để thực hiện các chiêu trò lừa đảo nhằm chiếm đoạt tài sản", đại diện FBI đưa ra lời khuyên.

Bên cạnh đó, FBI cho biết để ngăn chặn tội phạm sử dụng các nội dung AI cho mục đích lừa đảo, FBI khuyên mọi người nên tạo một từ hoặc cụm từ bí mật giữa các thành viên trong gia đình để xác minh danh tính lẫn nhau khi nói chuyện qua điện thoại hoặc nhắn tin trực tuyến.

"Cần phải lắng nghe thật kỹ giọng điệu và cách chọn từ để phân biệt giữa một cuộc gọi điện thoại thực sự của người thân và một giọng nói được nhân bản bởi AI. Hãy sử dụng các cụm từ bí mật giúp nhận diện người gọi", FBI đưa ra lời khuyên.

Sự phát triển của các công cụ AI đang hỗ trợ rất nhiều công việc và học tập của nhiều người, nhưng cũng đang trở thành công cụ đắc lực cho tin tặc, tội phạm mạng và những kẻ lừa đảo. Do vậy, mọi người cần phải tự trang bị cho mình những kiến thức cần thiết, tránh không trở thành nạn nhân cho những kẻ lừa đảo.

Nếu là người thường xuyên sử dụng mạng xã hội, đặc biệt Facebook, bạn đọc có thể thực hiện theo hướng dẫn của Dân trí tại đây để khóa trang cá nhân của mình, tránh bị người lạ nhòm ngó và lấy cắp hình ảnh, video… được bạn chia sẻ lên Facebook.

Theo dantri.com.vn

https://dantri.com.vn/suc-manh-so/moi-nguy-khi-ban-chia-se-hinh-anh-video-giong-hat-len-mang-xa-hoi-20241209150353284.htm