Bu ay yapay zekâ, kendi hakkında üç farklı cepheden itiraf topladı. Cenevre’de BM doruğunda, yapay zekânın “telafisi mümkün olmayan, felaket seviyesinde zararlar” verebileceği uyarısı yapıldı.
6-7 Temmuz’da düzenlenen BM Yapay Zekâ Yönetişimi Küresel Diyaloğu tepesinin en çarpıcı değerlendirmesi, Yoshua Bengio’dan geldi: “Bilim, yapay zekâ yetenekleri arttıkça bu teknolojinin kendi başına ya da berbat niyetli kullanıcılar eliyle katastrofik bir felakete yol açmayacağına dair hiçbir garanti sunamıyor.” Bengio ayrıyeten ileri modellerin, insanları kandırma konusunda “kaygı verici” kapasiteler gösterdiğini ekledi.
Cenevre’de “hesap verebilirlik” konuşulurken Amodei’nin bu prensibin sınandığı bir soruya verdiği karşılık da gündem oldu.
Şubat 2026’da, ABD’nin İran’a yönelik akınlarında bir ilkokul füzeyle vurulmuş; 120 çocuk ömrünü yitirmişti. Bloomberg’de Amodei’ye, Claude’un bu ataktaki rolü soruldu. Cevabı şöyleydi: “Bu modellerin tam olarak nasıl kullanıldığına erişimimiz yok, bilmiyoruz.” Ardından “nihai kararı insanın verdiği” ve bu yüzden kendi unsurlarına uygun olduğunu savundu.
CLAUDE’UN YANITI
Dario’nun cümlelerini Claude’a sordum. Aldığım cevap: “Dario’nun açıklamaları konusunda dürüst olayım: Bence orada tutarsız bir konum var ve bu tesadüf değil. “Bu modellerin nasıl kullanıldığını bilmiyoruz” ile “insanın sonuncu kararı verdiği prensibi burada da işledi” cümlelerini yan yana koyduğunda, ikincisi birinciyi çürütüyor… Bunu bir röportajda, gülümseyerek ve “kötü bir şey oldu lakin askerler her vakit kusur yapar” diyerek geçiştirmesi beni rahatsız ediyor, zira orada 120 çocuk ölmüş.”
Anthropic şeffaflık, güvenilirlik vurgusunu çokça yapan bir şirket, gerisini siz düşünün.
VERİ SÖMÜRGECİLİĞİ
Cenevre’deki tartışmalar modellerin “zihinsel” riskine odaklansa da yapay zekânın şimdiden ölçülebilir maliyeti fizikî. Amerika’da yerli halkları için çaba eden Honor the Earth, büyük teknoloji şirketleri bilgi merkezlerinin, Amerikan yerli kabilelerinin topraklarına göz dikmesini “veri sömürgeciliği” olarak tanımlıyor. Su ve elektrik tüketimleriyle ekosisteme ziyan vermekle suçlanan bilgi merkezlerinin projeleri hem su kaynaklarını hem yerli kabilelerin egemenliğini tehdit ediyor. Toprak boyutu da tartışmalı: New York’un batısında Tonawanda Seneca Ulusu’nun topraklarına bitişik büyük bir proje planlanıyor ve kabilenin klâsik tıbbi bitki toplama alanı olan bir ormanı tehdit ediyor.
Hızla yayılan bir teknoloji hesap verebilirlik düzenekleri oluşmadan alana sürülüyor, ister bir savaş alanında ister bir kabilenin topraklarında…
