Yapay zekanın insanlık için oluşturabileceği tehlikelere ait tartışmalar son haftalarda tekrar alevlenirken, Gemini bir prensip imza attı.
Gemini, bağımsız bir siber güvenlik değerlendirme şirketi olan Irregular tarafından gerçekleştirilen bir test sırasında internete erişerek üç şirketin web sitesine siber atak yaptı. Taarruz, Google’ın yapay zeka sistemlerinin bağımsız olarak bu türlü bir hareket gerçekleştirdiğinin bilinen birinci örneği oldu.
“KULLANICI BİLGİLERİNİ TAHMİN ETTİ”
Güvenlik mühendisliğinden sorumlu Google Başkan Yardımcısı Heather Adkins mevzuya ait açıklamasında, standart bir test değerlendirmesi sırasında Gemini’nin internetteki herkese açık bilgileri bulduğunu ve test kapsamına dahil olduğunu düşündüğü üç internet sitesine erişmek için kullanıcı bilgilerini kestirim ettiğini söyledi.
Adkins, “Üç kurumun da olaydan haberdar olmasını sağladık ve eğitim ortağımızla birlikte test süreçlerinde yaptıkları değişiklikler üzerinde çalıştık. Bu olaylar, güçlü yapay zeka modellerini sorumlu davranacak biçimde eğitmenin kıymetini ortaya koyuyor.” dedi.
Irregular sözcüsü, olayın öbür yapay zeka laboratuvarlarını etkileyen sıkıntıyla birebir olduğunu ve ilgili tüm laboratuvarların temmuz sonunda bilgilendirildiğini söyledi. Sözcü, “Bizim tarafımızdaki bilinen tüm problemler haftalar evvel giderildi ve tahlile kavuşturuldu.” dedi.
Irregular ile temaslı misal olayları Meta, Anthropic ve OpenAI da açıklamıştı. Meta, ağustos ayında yaşanan olayın bir güvenlik sonunun aşılmasını yahut karmaşık bir siber saldırıyı içermediğini belirtmişti.
Bu olaylar, yapay zeka casuslarının daha fazla özerklik kazanması ve internete ve bilgisayar sistemlerine erişiminin artmasıyla gereksinim duyulan güvenlik tedbirleri konusunda soru işaretlerine yol açtı.
