Các nhà nghi
ên c???u AI của Facebook và Đại học bang Michigan (Mỹ) vừa phát triển phần mềm mới, cho phép truy xuất nguồn gốc deepfake.
Một ví dụ về deepfake do CNBC tạo ra.
Deepfake là các video được chỉnh sửa bằng trí tuệ nhân tạo (AI). Chúng ngày càng trở nên hoàn thiện hơn
trong vài năm gần đây, khiến người xem khó xác định được đây là video thật hay giả.
Dù vậy, các nhà nghi
ên c???u Facebook khẳng định phần m?
??m AI mới của họ có thể được đào tạo để biết được một video là deepfake hay không chỉ từ hình ảnh hay khung hình cắt ra từ video. Không chỉ có vậy, nó còn xác định được loại AI dùng để tạo ra deepfake, dù kỹ thuật này khó tới đâu.
Năm ngoái, Đại học bang Michigan (MSU) phát hiện họ có thể xác định được loại camera được sử dụng để chụp tấm ảnh nào đó. Tal Hassner, người đứng đầu về nghi
ên c???u ứng dụng tại Facebook, chia sẻ đã hợp tác với MSU cho phần mềm mới.
“Mèo vờn chuột”
Deepfake không phải điều tốt lành gì với Facebook khi mạng xã hội này liên tục tìm cách xóa bỏ nội dung giả mạo ra khỏi nền tảng. Công ty cấm deepfake vào tháng 1/2020 nhưng không thể loại bỏ hoàn toàn.
Theo ông Hassner, phát hiện deepfake giống như trò chơi mèo vờn chuột, khi deepfake ngày càng dễ sản xuất nhưng lại khó xác định. Một
trong các ứng dụng chính của deepfake hiện nay là
trong công nghiệp khiêu dâm, nơi gương mặt một người bị ghép vào cơ thể người khác. Các ngôi sao cũng khốn khổ với deepfake vì họ thường xuất hiện trong những video giả mạo. Chẳng hạn, nhiều video của diễn viên Tom Cruise trên TikTok thu hút hơn 50 triệu
lư??t xem và khán giả không biết được họ đang xem video thật hay giả.
Bất kỳ ai cũng có thể tạo video deepfake thông qua các ứng dụng miễn phí như FakeApp, Faceswap. Chuyên gia deepfake Nina Schick khẳng định không dễ phát hiện deepfake
. Bà cho rằng dù công trình của Facebook và MSU là bước tiến lớn, điều quan trọng là các mô hình phát hiện deepfake hoạt động thế nào
trong thực tế. Một
trong các thách thức lớn hiện tại là có nhiều cách đánh lừa mô hình phát hiện deepfake. Ông Tassner cũng thừa nhận rất có thể thế lực xấu sẽ qua mặt được phần mềm.
Nhìn chung, deepfake có hai loại: một loại hoàn toàn do AI tạo ra, một loại sử dụng các nguyên tố của AI để “bóp méo” nội dung đa phương tiện gốc
. Bà Schick đặt câu hỏi liệu công cụ của Facebook có áp dụng cho loại thứ hai được không, do không bao giờ có một mô hình nào áp dụng được cho mọi tình huống. Tuy nhiên, Xiaoming Liu của MSU cho biết phần mềm đã được đánh giá và xác nhận tr
ên c??? hai trường hợp deepfake.
Chris Ume, nghệ sỹ đứng sau video deepfake Tom Cruise, chia sẻ công nghệ deepfake đang phát triển nhanh chóng. Có nhiều công cụ AI khác nhau và anh sử dụng kết hợp để đạt chất
lư??ng mong muốn cho kênh TikTok của mình.
Không rõ Facebook sẽ áp dụng phần mềm phát hiện deepfake trên nền tảng như thế nào. Ông Tassner cho hay, công ty chưa thảo luận về sản phẩm. Để phục vụ cho công trình nghi
ên c???u, Facebook đã thu thập và phân loại 100 mô hình deepfake khác nhau.
Du Lam (Theo CNBC)
3 nữ sinh bị đe dọa bằng clip nóng giả mạo được tạo bởi công nghệ deepfake
Một người phụ nữ sống tại bang Pennsylvania đã bị bắt giữ sau khi bà này sử dụng công nghệ deepfake để tạo ra những video, ảnh "nóng" giả mạo để đe dọa 3 nữ sinh học chung với con gái của mình.
Nguồn bài viết : Trang casino quốc tế
