OpenAI, gençler için silah bilgisini kısıtlıyor ve altı ayda bir güvenlik raporu yayımlayacak

OpenAI, 30 Ekim'de ChatGPT'nin şiddetle ilgili konulardaki davranışına dair iki yenilik duyurdu: gençler için daha sıkı silah kuralları ve düzenli yayımlanacak bir topluluk güvenliği raporu. Gençlerin de yoğun kullandığı bir araç olduğu için bunu önemli buluyorum.

Gençlere yeni sınırlar

ChatGPT, 18 yaş altı olduğunu tahmin ettiği kullanıcılara zaten daha korumalı bir deneyim sunuyordu. Şimdi bu kullanıcılar, soru masum görünse bile silahlar ve güvenlik sistemleri hakkında kötüye kullanılabilecek pratik bilgileri alamayacak. Şirket yaş tahmin sistemini de güçlendirdiğini, yanlışlıkla genç sayılan yetişkinlerin ise kimlik doğrulamayla bu korumaları kaldırabileceğini belirtiyor.

Herkes için daha sıkı kurallar

Yaş fark etmeksizin, geçmişteki toplu saldırıların ayrıntılı yeniden kurgulanması, kullanılan ekipmanın nasıl edinildiği gibi detaylar artık kısıtlanıyor. Olayları anlamak, etkilenenleri konuşmak ve uyarı işaretlerini öğrenmek ise serbest kalıyor. Önceki sohbetlerde şiddet belirtisi varsa model daha temkinli yanıt verecek; şiddete takıntılı bir gidişat görürse sohbeti kendisi sonlandırabilecek, bu tekrarlanırsa hesap geçici olarak durdurulabilecek.

Güvenlik raporu

İlk «Community Safety Report» 2027 başında, 2026'nın ikinci yarısını kapsayacak şekilde yayımlanacak ve ardından altı ayda bir güncellenecek. OpenAI, yalnızca 2026'nın üçüncü çeyreğinde 200'den fazla durumu kolluk kuvvetlerine bildirdiğini de paylaştı.

Ebeveyn tarafında da hesabı şiddet nedeniyle tekrar tekrar durdurulan gençler için bildirim üzerinde çalışılıyor. Değişikliklerin önümüzdeki birkaç hafta içinde devreye girmesi bekleniyor. Raporun gerçekten ne kadar şeffaf olacağını ise ilk sayıda göreceğiz.

Kaynak: OpenAI resmî duyurusu