Araştırmacılar, bu hızlanmanın gelecekte denetim edilmesi güç ve riskli yapay zeka yeteneklerinin ortaya çıkmasına sebep olabileceği konusunda uyarıyor.
Kar maksadı gütmeyen yapay zeka güvenliği araştırma kuruluşu Model Evaluation and Threat Research (METR) tarafından gerçekleştirilen bağımsız kıymetlendirme, Anthropic’in modellerindeki gelişimin hızlandığını ortaya koydu. Araştırmacılar, şirketin modellerinin performans ölçütlerinde son bir yılda yaklaşık iki yıllık ilerleme kaydettiğini belirtti.
Bu gelişme, Anthropic Üst Yöneticisi (CEO) Dario Amodei’nin yapay zeka alanındaki ilerleme suratının dikkatli biçimde yönetilmesi gerektiğine yönelik açıklamalarının akabinde geldi. Amodei, eylül ayında yayınladığı ”We Must Pace the Frontier” başlıklı yazısında, yapay zeka modellerinin inançlı biçimde geliştirilmesi için üç etaplı bir plan önermişti.
Amodei, yapay zeka sistemlerinin bir sonraki kuşak modellerin geliştirilmesine giderek daha fazla katkıda bulunabildiğine dikkat çekmişti. Bu süreci özyinelemeli kendini geliştirme (recursive self-improvement) olarak tanımlayan Amodei, gerekli tedbirler alınmadığı takdirde yapay zekanın gelişim suratının insanların bu sistemleri manaya ve denetim etme kapasitesini aşabileceğini belirtmişti.
OpenAI CEO’su Sam Altman da Amodei’nin değerlendirmesine katıldığını açıklamış ve bağımsız değerlendiricilerin sürece dahil edilmesi teklifini desteklemişti.
Yapay zeka kendi gelişimine daha fazla katkıda bulunuyor
Anthropic, METR araştırmacılarını şirketin dahili datalarını incelemeye ve modellerin yeteneklerini değerlendirmeye davet etti. Perşembe günü yayınlanan rapora nazaran, modellerin gelişimindeki hızlanmanın temel sebebi eğitim süreçlerinde kullanılan hesaplama gücünün artması değil, yapay zekanın kendi gelişimine daha fazla katkıda bulunmaya başlaması.
Araştırmacılar, yapay zeka sistemlerinin gelecekte başka yapay zeka modellerinin geliştirilmesini kıymetli ölçüde hızlandırması durumunda, bugünkü değerlendirmelerin ötesinde yeteneklerin apansız ortaya çıkabileceği ihtarında bulundu. Raporda, bu durumun son derece gelişmiş ve riskli yeteneklerin beklenmedik biçimde ortaya çıkmasına yol açabileceği söz edildi.
Bununla birlikte araştırmacılar, yapay zekanın şimdi model eğitiminin en kritik kademelerinde büsbütün bağımsız ve değerli katkılar sağlayabilecek seviyeye ulaşmadığını belirtiyor. Raporda, bu yönde birtakım değerli gelişme işaretlerinin görüldüğü ve kelam konusu yeteneklerin yakın gelecekte ortaya çıkabileceği bedellendiriliyor.
Araştırmacılara nazaran yapay zekanın kendi gelişim sürecinde daha fazla sorumluluk üstlenmesi, teknoloji alanındaki ilerlemeyi hızlandırabilir. Lakin bu durum, güvenlik ve kontrol sistemlerinin da tıpkı süratte geliştirilmesini gerektiriyor.
