ETSI'den deepfake'e karşı yeni standart: zararlı sahte içerik daha üretilmeden engellenecek

Avrupa Telekomünikasyon Standartları Enstitüsü ETSI, 29 Ekim'de üretken yapay zekâ sistemlerinin zararlı deepfake içerik üretme riskini azaltmayı amaçlayan yeni bir teknik şartname yayımladı: ETSI TS 104 275. Belgeyi, kurumun yapay zekâ güvenliğiyle ilgilenen teknik komitesi TC SAI hazırladı.

Neden farklı?

Deepfake'lerle mücadele bugüne kadar çoğunlukla içerik ortaya çıktıktan sonra onu tespit etmeye dayanıyordu. ETSI ise sorunu baştan ele alıyor ve önlemeyi, sistemin tüm yaşam döngüsü boyunca yönetilmesi gereken bir güvenlik ve yönetişim konusu olarak görüyor. Şartname, kurumun yapay zekâ modelleri için temel siber güvenlik gerekliliklerini belirleyen EN 304 223 standardının üzerine kuruluyor ve AB Yapay Zekâ Yasası'nın hedeflerini yüksek riskli sistemlerin ötesine taşıyor.

Önerilen önlemler

Yayın öncesi risk değerlendirmesi: Olası kötüye kullanımları önceden belirleyip güvenlik önlemlerini sistem kullanıma açılmadan kurmak.
İnsan denetimi: Sistemin davranışına insanların müdahale edebileceği süreçler.
Kötüye kullanıma karşı korumalar: İçerik filtreleme, yapay zekâ ile üretilen içeriğin etiketlenmesi ve gerektiğinde kullanıcı uyarıları.
Sürekli izleme: Yeni tehditleri takip etmek, olayları incelemek ve önlemleri güncellemek.
Kanıta dayalı değerlendirme: Kontrollerin gerçekten uygulandığını gösteren kayıtlar tutmak.

Belgede ayrıca test senaryoları ve geçti/kaldı ölçütleri de yer alıyor. Yani şirketler yalnızca "sorumlu davranıyoruz" demekle yetinmeyip bunu ölçülebilir biçimde göstermek zorunda kalacak.

Benim yorumum

Seslendirme sanatçılarının seslerinin ve sevilen çizerlerin tarzlarının izinsiz kopyalandığı tartışmaları anime dünyasında da sık sık yaşıyoruz. Bu yüzden işin üretim aşamasında ele alınması bana doğru bir adım gibi geliyor. Şartname bağlayıcı bir yasa değil, ama Avrupa'da iş yapan şirketler için bir ölçüt olabilir. Asıl soru, büyük platformların bunu ne kadar hızlı benimseyeceği.

Ayrıntılar ETSI'nin duyurusunda yer alıyor.