Khi nội dung do AI tạo ra ngày càng tinh vi, YouTube đã công bố một công cụ phát hiện AI giả mạo mớicông cụ phát hiện AI giả mạo nhằm xác định và gắn cờ các deepfake của những người sáng tạo, nghệ sĩ và những người nổi tiếng. Các nghệ sĩ và những người nổi tiếng lo lắng về deepfake được tạo bằng AI của chính họ có thể yên tâm phần nào từ YouTube, nền tảng này vừa bắt đầu triển khai công cụ phát hiện các bản sao giả mạo được tạo bằng AI của con người.
Nền tảng video streaming đã phát triển công cụ này trong kỹ thuật hợp tác với Creative Artists Agency (CAA), cho thấy rằng một trong những chức năng của nó cuối cùng sẽ là nhận diện deepfake của các ngôi sao.
Tuy nhiên, hiện tại, công cụ này chỉ được giới hạn đối với một tập hợp cụ thể các nhà sáng tạo có kênh YouTube và sẽ được triển khai cho tất cả các nhà sáng tạo trong Chương trình Đối tác YouTube trong các tháng tới, PC Mag đưa tin.
YouTube thông báo cho các nhà sáng tạo được chọn lọc về quá trình triển khai thông qua email vào thứ Ba (ngày 21 tháng 10), theo The Verge. Để sử dụng công cụ này, các nhà sáng tạo sẽ phải cung cấp giấy tờ tùy thân có ảnh và video ngắn của chính họ. Vài ngày sau khi đăng ký, các nhà sáng tạo sẽ bắt đầu thấy các video được gắn cờ trong tab “Phát hiện nội dung”, nơi họ có các tùy chọn để phản hồi – bao gồm yêu cầu gỡ bỏ, nộp đơn khiếu nại vi phạm bản quyền hoặc không thực hiện hành động.
Trong video thông báo, YouTube nhấn mạnh mục đích của công cụ: bảo vệ danh tiếng và lợi ích thương mại của các nhà sáng tạo trên nền tảng của nó. Công cụ này sẽ cho phép các nhà sáng tạo “bảo vệ người xem của bạn bằng cách giữ khán giả khỏi bị lừa dối về những gì bạn ủng hộ và những gì bạn không,” YouTube nói.
“Bạn sẽ có thể gửi yêu cầu gỡ bỏ để xem xét theo hướng dẫn quyền riêng tư của YouTube và bảo vệ người xem của bạn bằng cách giữ khán giả của bạn khỏi bị lừa dối về những gì bạn ủng hộ và những gì bạn không.” — YouTube
YOUTUBE bổ sung:
“Có thể bạn sẽ không thấy kết quả khớp nếu nội dung thay đổi hoặc tổng hợp với khuôn mặt của bạn ít khi hoặc không bao giờ được tải lên YouTube. Điều này hoàn toàn bình thường và cho thấy rằng chúng tôi chưa phát hiện được sử dụng trái phép hình ảnh giống bạn trên nền tảng. Và chúng tôi hy vọng điều đó mang lại cho bạn sự yên tâm.”
Công cụ này hoạt động tương tự như Hệ thống ID nội dung của YouTube, quét nền tảng để tìm nội dung có bản quyền để bồi thường cho các chủ sở hữu quyền. Hệ thống phát hiện deepfake mới này áp dụng nguyên tắc tương tự – nhưng thay vì quyền âm nhạc hoặc video, nó xác định các khuôn mặt dễ nhận diện được sử dụng mà không có sự cho phép.
YouTube chưa tiết lộ nếu hoặc khi nào nó có kế hoạch mở rộng công cụ này ngoài các nhà sáng tạo trên nền tảng. Tuy nhiên, đó là dự kiến, vì YouTube đã hợp tác với CAA vào tháng 12 năm ngoái, cho phép những người có tiếng tăm cao nhất định có khả năng “cung cấp phản hồi quan trọng để giúp chúng tôi xây dựng các hệ thống phát hiện của mình,” YouTube nói lúc bấy giờ.
Công cụ phát hiện là một trong nhiều bước gần đây YouTube đã thực hiện để giảm thiểu rủi ro liên quan đến AI tạo sinh. Năm ngoái, nền tảng đã cập nhật chính sách quyền riêng tư của nó để cho phép các thành viên công chúng nộp yêu cầu gỡ bỏ các video bắt chước giọng nói hoặc hình ảnh của họ. Nó cũng giới thiệu một hệ thống cho phép các chủ sở hữu quyền yêu cầu gỡ bỏ các video mà họ tin rằng “bắt chước giọng hát hoặc rap độc đáo của một nghệ sĩ.”
Đồng thời, YouTube và công ty mẹ Google đã là những người chơi hoạt động nhất trong việc phát triển công nghệ AI. Vào đầu năm nay, YouTube triển khai một công cụ âm nhạc AI có khả năng tạo âm thanh nền không có bản quyền cho các nhà sáng tạo và bắt đầu thử nghiệm một người dẫn chương trình AI âm nhạc để cạnh tranh với Spotify’s AI DJ.
Năm 2023, YouTube ký thỏa thuận với Universal Music Group (UMG) để phát triển công cụ AI với sự bảo vệ tích hợp cho các chủ sở hữu quyền. Theo báo cáo năm 2024 của Financial Times, YouTube cũng đang trong các cuộc đàm phán với các công ty ghi âm lớn để cấp phép âm nhạc của họ cho đào tạo AI – mặc dù tiến độ được báo cáo là chậm do thiếu các nghệ sĩ sẵn sàng.
