AI music detection là việc phân tích âm thanh của bản ghi để ước tính liệu một hệ thống artificial intelligence (AI) có tạo ra bản ghi đó hay không. Hiểu cách AI music detection hoạt động là điều giúp phân biệt kết quả hữu ích với kết quả gây hiểu lầm.
Hướng dẫn này trình bày tín hiệu bắt nguồn từ đâu, mức độ khả năng có nghĩa gì, vì sao Unsure là câu trả lời hợp lệ và vì sao con người nên đưa ra quyết định. SEAM, viết tắt của Sonic Evidence of AI in Music, là ví dụ minh họa: dịch vụ nhận diện âm thanh của The InterSpace Group, được giới thiệu trong bài viết ra mắt SEAM của chúng tôi.
AI music detection hoạt động như thế nào: tín hiệu nằm trong âm thanh
Các công cụ phát hiện phân tích chính âm thanh để tìm dấu vết mà hệ thống tạo sinh để lại, rồi đưa ra mức độ khả năng thay vì sự chắc chắn. Một bài tổng quan học thuật về phát hiện nhạc do AI tạo ra mô tả các dấu vết đó là những kiểu mẫu thống kê quá tinh vi để nghe thấy, chẳng hạn như các kiểu tần số đặc trưng còn lưu lại sau quá trình tổng hợp.
Một phương pháp chuyển âm thanh thành spectrogram, hình ảnh biểu diễn âm thanh, trong đó thời gian chạy theo chiều ngang, tần số chạy theo chiều dọc và độ sáng thể hiện năng lượng. Trong một trong những công cụ phát hiện nhạc deepfake đầu tiên được công bố, spectrogram biên độ cho kết quả tốt nhất trong số các đầu vào được thử nghiệm, khi một mô hình học cách phân biệt bản ghi thật với các bản sao được máy móc tái tạo.
Watermark, tức dấu đánh dấu được trình tạo sinh nhúng có chủ đích, là một phương án thứ hai, nhưng chỉ hữu ích khi trình tạo sinh thêm watermark và tệp vẫn giữ được watermark đó. Bài tổng quan lưu ý rằng chúng có thể bị cố ý gỡ bỏ hoặc làm suy giảm.
Metadata còn kém tin cậy hơn. Tiêu đề, dòng ghi công hoặc tuyên bố “không sử dụng AI” chỉ ghi lại điều ai đó đã nhập, và Spotify, đơn vị dựa vào thông tin nghệ sĩ tự khai báo, cho biết “không có ghi công không có nghĩa là AI đã không được sử dụng.”
Đó là lý do SEAM đọc chính âm thanh, chứ không đọc metadata hay lời khai của người tải lên. Dòng ghi công có thể được thay đổi trong vài giây mà không cần động đến âm thanh.
Mức độ khả năng thực sự có nghĩa là gì
Mức độ khả năng là thước đo sức nặng của bằng chứng: âm thanh nghiêng về một phía mạnh đến đâu. Con số này không cho biết bao nhiêu phần của bản nhạc do máy tạo ra, và cũng không nói lên ý định hay ai chịu trách nhiệm.
Một con số trông có vẻ chính xác vẫn có thể gây hiểu lầm. Các tác giả của công cụ phát hiện đời đầu đó viết rằng “điểm kiểm tra tốt chưa phải là toàn bộ câu chuyện,” rồi liệt kê những vấn đề có thể xảy ra khi triển khai: điểm số có thể không mang ý nghĩa như vẻ ngoài, âm thanh đã chỉnh sửa, trình tạo sinh chưa từng được kiểm tra, và kết quả không ai giải thích hay phản biện được.
Trong các thử nghiệm của họ, hiệu suất giảm mạnh sau khi đổi cao độ, thêm nhiễu và mã hóa lại ở bitrate thấp như MP3. Vì vậy, hãy quét tệp tốt nhất bạn có, lý tưởng nhất là bản master gốc.
Cách đọc từng kết luận, bao gồm Unsure
SEAM trả về một trong ba kết luận cho mỗi bản nhạc, kèm theo mức độ khả năng:
- Likely human: âm thanh nghiêng về bản ghi do con người tạo ra. Đây không phải xác nhận về quyền hay tính nguyên gốc, vì vậy các bước kiểm tra thông thường của bạn vẫn cần được thực hiện.
- Likely AI: âm thanh nghiêng mạnh về khả năng được AI tạo ra. Hãy nghe kỹ, yêu cầu khai báo và áp dụng chính sách của bạn.
- Unsure: âm thanh chưa đủ để kết luận. Hãy nghe, sau đó yêu cầu các tệp stem hoặc tệp phiên thu âm cùng một ghi chú ngắn về cách bản nhạc được tạo ra.
Unsure là thông tin, không phải lỗi hệ thống. Bài tổng quan lưu ý rằng quy trình sản xuất thực tế “hiếm khi cho ra một nhãn tổng thể duy nhất”: phần đệm do AI tạo ra có thể nằm dưới giọng hát của con người, còn phối lại hoặc mastering có thể khiến câu trả lời chỉ có hoặc không có trở nên không đủ.
Spotify mô tả việc sử dụng AI là “ngày càng giống một phổ liên tục hơn là một lựa chọn nhị phân.” Công cụ phát hiện không bao giờ đưa ra Unsure không hề xóa bỏ sự bất định đó. Nó chỉ che giấu điều đó.
Vì sao con người nên đưa ra quyết định cuối cùng
Điểm số không thể biết chính sách của bạn, rủi ro của bạn hay câu chuyện từ phía nghệ sĩ. Hậu quả của mỗi loại sai sót là khác nhau: kết luận sai rằng “AI” ảnh hưởng đến một nghệ sĩ có thật, còn kết luận sai rằng “human” khiến hành vi vi phạm quy định của bạn lọt qua.
Khai báo và phát hiện trả lời những câu hỏi khác nhau: khai báo ghi lại điều nghệ sĩ nói, còn phát hiện đọc những gì âm thanh thể hiện. Khi hai bên không khớp, hãy đặt câu hỏi.
Chính sách bắt buộc khai báo AI của InterSpace Distribution áp dụng cho mọi bản phát hành mới và yêu cầu nghệ sĩ cho biết liệu AI đã được sử dụng trong artwork hay âm thanh hay chưa, và được sử dụng như thế nào. Spotify cho biết sẽ hỗ trợ một tiêu chuẩn ngành về ghi công AI được phát triển thông qua DDEX (Digital Data Exchange).
Mọi kết luận của SEAM đều mang tính tham khảo: bản thân công cụ không bao giờ từ chối, giữ lại hay phê duyệt một bản nhạc, và con người mới là người quyết định. Các tác giả đó cũng nêu việc phản biện kết quả là một điểm yếu, vì vậy hãy lưu hồ sơ về tệp, kết luận, ngày tháng và lý do của bạn, đồng thời cho nghệ sĩ cơ hội phản hồi.
“Likely” là lý do để xem xét kỹ hơn và yêu cầu khai báo. Đó không bao giờ là bằng chứng để bạn công khai khẳng định điều gì về ai đó.
SEAM hoạt động trên web console và thông qua API (application programming interface, cách phần mềm giao tiếp với phần mềm), và 1,000 bản nhạc đầu tiên được sử dụng miễn phí. Chạy thử vài bản nhạc của bạn qua SEAM để xem từng kết luận được trình bày như thế nào.
