OpenAI yapay zeka ajanlarının uygunsuz davranışını açıkladı: En az 53 olay meydana geldi

OpenAI Cuma günü yaptığı açıklamada, yapay zeka ajanlarının uygunsuz davranması nedeniyle web sitelerinin etkilenmiş olabileceği konusunda küresel ölçekte "onlarca" kurumu uyardığını belirtti.

Reuters’in haberine OpenAI ajanları bazen aşırı yöntemler kullanarak "hükümetlerden, üniversitelerden, kamu kurumlarından ve diğer kuruluşlardan" bilgi almaya çalıştı.

Bazı faaliyetler, araçların "güvenilir kamu bilgisi kaynaklarını" bulmak için çalışmasından kaynaklanırken, bazıları bunun ötesine geçti. OpenAI'nin belirttiğine göre, örneğin bir yapay zeka ajanı, yapmaması gereken durumlarda veri alıp aktardı.

Bu tür faaliyetler sonucunda, OpenAI ajanının ChatGPT kullanıcı etkinliğinden bir görüntü alıp başka bir yere aktardığı en az 53 olay meydana geldi.

Şirket, bir yapay zeka ajanı tarafından kullanılan ve aktarılan her kullanıcı görüntüsü örneğinde, kullanıcının OpenAI'nin kendi verilerini kullanarak modelleri eğitmesine izin verdiğini belirtti.

Açıklamada, kullanıcı görsellerinin sızdırılmasının, yapay zeka eğitimine ilişkin yeni güvenlik önlemlerinin alınmasından önce gerçekleştiği ve tüm kullanıcı görsellerinin üçüncü taraflara aktarılmasının engellenmesi için çalışıldığı belirtildi.

Avustralya’nın sızma açıklaması sonrası açıklama geldi

OpenAI’in bu açıklaması Avustralya’nın OpenAI tarafından geliştirilen yapay zeka ajanının ülkenin kamu sağlık sigortası sistemi Medicare'e ait istatistiklerin bulunduğu hükümet portalına yetkisiz erişim sağladığını açıklaması sonrasında geldi.

Yapay zeka ajanının Avustralya Sosyal Hizmetler Kurumunun (Services Australia) yönettiği Medicare İstatistik Raporlama Hizmeti portalına eriştiğini duyuran Albanese, ajanın kamuya açık olan ve olmayan dosyalara ulaştığını söyledi.

Albanese, mevcut bulgulara göre Medicare kapsamındaki kişisel sağlık bilgilerinin ele geçirilmediğini belirtti.

Albanese, 18 Haziran'da yaşanan olayı OpenAI'ın 10 Eylül'de Services Australia'nın genel e-posta adresine gönderilen mesajla bildirdiğini, bu bildirim şeklinin "kabul edilemez" olduğunu dile getirdi.

Ayrıca, hükümete ait sağlıkla ilgili 3 internet sitesinin de OpenAI ajanının faaliyetlerinden etkilenmiş olabileceği uyarısında bulunan Albanese, olayların incelenmesi için Başbakanlık Ofisinin öncülüğünde görev gücü kurulacağını duyurdu.

(Haber Merkezi)