Anthropic halka arz belgesinde uyardı: Kendini geliştiren yapay zekâ eşiğine çok yakın olabiliriz

Halka arz hazırlığındaki Anthropic, 2 Kasım'da güncellediği S-1 belgesinin risk bölümüne dikkat çekici bir uyarı ekledi. TechCrunch'ın fark ettiği bu satırlara göre şirket, recursive self-improvement (RSI) yani yapay zekânın kendinden daha yetenekli sistemleri büyük ölçüde kendisinin geliştirdiği aşamaya yaklaşıyor olabilir.

Belgede ne yazıyor?

Anthropic, Ar-Ge'sinde yapay zekâyı giderek daha çok kullandığını ve bunun modellerin yeteneklerini güvenlik önlemlerinden daha hızlı ilerletebileceğini kabul ediyor. Daha da ilginci, şirket geçmişte bazı büyük sıçramaları ancak gerçekleştikten sonra fark ettiğini yazıyor.

Belgeye göre, şimdiki değil gelecekteki modellere dair iç tahminler, Anthropic'in Sorumlu Ölçeklendirme Politikası'ndaki «yapay zekâ kaynaklı dramatik biçimde hızlanmış ilerleme» tanımının çok yakında karşılanabileceğine işaret ediyor. Şirket şu an hiçbir modelinin bu eşiği aştığını söylemiyor ve verileri değerlendirmeyi sürdürdüğünü belirtiyor.

İnsan kontrolde kalacak mı?

Anthropic, Claude'un yeni nesil öncü modelleri anlamlı bir insan gözetimi olmadan tamamen kendi başına tasarlayıp eğitmesini güvenli bulmadığını açıkça yazıyor. Bu yüzden politikasını, model geliştirmede kontrolün insanlarda kalacağı şekilde güncellemeyi düşünüyor.

Benim yorumum şu: Bir halka arz belgesi hem yasal bir açıklama hem de bir vitrin. Yani bu cümleleri biraz temkinle okumak gerek. Yine de bir şirketin yatırımcılara «hızlanmayı geç fark edebiliriz» demesi az rastlanan bir dürüstlük. Önümüzdeki aylarda bu politika güncellemesinin içeriği, sektörün geri kalanı için de bir ölçüt olabilir.

Ayrıntılar için TechCrunch haberi ve SEC'deki belge.