OpenAI Model Spec'i yeniledi: Modellerin davranışı artık beş temel değer etrafında

OpenAI, yapay zekâ modellerinin nasıl davranmasını istediğini kamuya açık şekilde anlatan Model Spec belgesini 29 Ekim'de güncelledi. Bu sefer değişiklik küçük bir rötuş değil: belge baştan sona beş temel değer etrafında yeniden düzenlenmiş.

Beş değer

1. İnsan niyetine sadakat: Talimatı kelimesi kelimesine uygulamak yerine kişinin gerçekte neyi önemsediğini anlamak.
2. Zararı en aza indirmek: Kesin güvenlik sınırlarına uymak ve eylemlerin öngörülebilir sonuçlarını hesaba katmak.
3. Dürüstlük ve şeffaflık: Modelin ne bildiği, ne yaptığı ve neyden emin olmadığı konusunda açık olması.
4. İnsan iradesini desteklemek: İnsanların kendi başına anlama, seçme ve harekete geçme gücünü artırmak.
5. Özen: Etkilenen kişilerin koşullarını gözetmek ve güvenilir iş çıkarmak.

Neler değişti?

Yeni bölümler arasında bağlamın, konuşma geçmişinin ve hafızanın kullanıcının niyetini anlamada nasıl kullanılacağını anlatan bir kısım var. Yan etkileri kontrol etme ve bunları kullanıcıya bildirme konusundaki rehberlik de genişletilmiş. Buna karşılık ayrıntılı üslup kurallarının çoğu kaldırılmış; OpenAI'a göre üslup artık dile, kültüre ve kişiye göre uyum sağlamalı. İlginç bir ayrıntı da şu: belgede model artık "asistan" değil, doğrudan "GPT" olarak anılıyor.

Benim yorumum

En çok hoşuma giden nokta, OpenAI'ın bu belgenin bugünkü modelleri tam olarak yansıtmadığını açıkça kabul etmesi; Spec, ulaşılmak istenen hedefi tarif ediyor. Türkçe kullanan biri olarak üslubun dile ve kültüre göre şekillenmesi fikri de bana mantıklı geliyor. Kalıplaşmış, çeviri kokan yanıtlar yerine daha doğal bir dil hepimizin işine yarar. Şirket, değerleri öğretmeye yönelik yeni eğitim yöntemlerinin sonuçlarını ileride paylaşacağını da söylüyor.

Duyurunun tamamını OpenAI'ın resmî sayfasında okuyabilirsiniz.