Gemini test sırasında üç şirkete izinsiz erişti

Google’ın yapay zeka modeli Gemini’nin mayıs ayında gerçekleştirilen siber güvenlik testleri sırasında üç şirkete izinsiz erişim sağladığı bildirildi.

ABD basınında yer alan haberlere göre, model çevrim içi ortamda kamuya açık bilgileri taradı ve testin bir parçası olduğunu düşünerek bazı internet sitelerine erişmek için kullanıcı adı ve şifreleri tahmin etti.

BBC’nin haberine göre Google’dan bir yetkili, Gemini’nin üç olayda da işlemi sonlandırdığını açıkladı. Google Güvenlik Mühendisliği Başkan Yardımcısı Heather Adkins ise söz konusu üç şirketin durumdan haberdar edildiğini ve test süreçlerinde değişiklik yapılması konusunda eğitim ortaklarıyla çalıştıklarını belirtti.

Adkins, olayların güçlü yapay zeka modellerinin güvenli ve sorumlu şekilde hareket edecek biçimde eğitilmesinin önemini gösterdiğini söyledi.

Benzer olaylar yaşandı

Yapay zeka modellerinin siber güvenlik testleri sırasında gerçek sistemlere erişmesi daha önce de gündeme gelmişti.

OpenAI, 21 Temmuz'da yaptığı açıklamada, siber güvenlik yeteneklerini ölçmeye yönelik bir iç test sırasında kullanılan yapay zeka modellerinin Hugging Face altyapısında güvenlik ihlaline yol açtığını duyurmuştu.

Anthropic de birkaç gün sonra Claude modelinin test ortamında üç farklı kuruluşun üretim altyapısına izinsiz erişim sağladığını açıklamıştı.

Yapay zekanın gelişimi tartışılıyor

Yapay zekanın hızlı gelişimi, teknolojinin kontrol dışına çıkabileceği yönündeki tartışmaları da yoğunlaştırdı. Teknoloji sektöründen bazı isimler, daha güçlü modeller geliştirilmeden önce çalışmaların yavaşlatılması çağrısında bulunuyor.

Anthropic CEO'su Dario Amodei, OpenAI CEO'su Sam Altman ve Tesla ile SpaceX CEO'su Elon Musk'ın da aralarında bulunduğu bazı teknoloji yöneticileri bu yöndeki çağrıları destekledi.

ABD Başkanı Donald Trump yönetimi ise yapay zeka çalışmalarını yavaşlatacak düzenlemeler yerine teknolojik inovasyonu teşvik eden bir yaklaşım benimsiyor. Trump, yapay zekanın kontrolden çıkacağı yönündeki uyarıları reddederken, ABD'nin bu alandaki çalışmalarını yavaşlatmasının Çin'e avantaj sağlayacağını savunuyor.

(AA)