California Valisi Newsom’dan yapay zekâ için 'acil kapatma tuşu' kararı

ABD’nin California eyaletinin Valisi Gavin Newsom, yapay zekâ sektöründe denetimin artırılması ve geliştirilen modeller için “acil kapatma tuşu” çalışmalarının hızlandırılmasını öngören kararnameyi imzaladı.

California Valiliğinden yapılan açıklamaya göre Newsom, son dönemde yaşanan ve risk oluşturan yapay zekâ vakalarının ardından yeni düzenlemeler için harekete geçti.

Kararname kapsamında yapay zekâ teknolojisi geliştiren şirketlerin bağımsız şekilde denetlenmesi ve geliştirdikleri modeller için “acil kapatma tuşu” çalışmalarının hızlandırılması öngörülüyor.

Kararname doğrultusunda California’nın yapay zekâ güvenliğine ilişkin yasalarını güçlendirmek amacıyla bir grup uzman da iki ay içinde bir araya gelerek bir kılavuz hazırlayacak.

Newsom, kararnameye ilişkin değerlendirmesinde federal hükümeti yapay zekâ alanında yeterli denetim ve hesap verebilirlik mekanizmaları oluşturmamakla eleştirdi.

Newsom, “Yapay zekâ şirketlerinin yöneticileri düzenlemeler getirilmesi için yalvarırken federal hükümetin yapay zekâ konusunda anlamlı bir denetim veya hesap verebilirlik mekanizması oluşturmadaki üst düzey başarısızlığı her Amerikalıyı endişelendirmelidir” ifadelerini kullandı.

Yapay zekânın oluşturduğu risklerin harekete geçmeyi ertelemeyecek kadar yüksek olduğunu belirten Newsom, kapsamlı denetim çalışmalarını “çok geç olmadan” hızlandıracaklarını söyledi.

ABD’nin teknoloji sektörünün merkezlerinden California, yapay zekâ alanında faaliyet gösteren çok sayıda büyük şirkete ev sahipliği yapıyor.

Yapay zekânın geliştirilmesinin yavaşlatılması tartışılıyor

California’daki düzenleme adımı, yapay zekânın hızlı gelişiminin denetim ve güvenlik açısından oluşturduğu risklere ilişkin tartışmaların sürdüğü bir dönemde geldi.

ABD merkezli yapay zekâ şirketi Anthropic’in Üst Yöneticisi (CEO) Dario Amodei, şirketin araştırmacılarından Jacob Coxon’ın yapay zekâ geliştirme sürecinin sorumlu yürütülmediği gerekçesiyle istifasının ardından yayımladığı makalede, teknolojinin gelişim hızına ilişkin değerlendirmelerde bulundu.

Amodei, yapay zekânın hızla gelişmesinin sistemleri anlama ve kontrol etme kapasitesini zorlayabileceği uyarısında bulunarak, teknolojinin gelişiminin denetime daha fazla olanak sağlayacak şekilde yavaşlatılmasını önerdi.

Yapay zekâ şirketlerinin bir araya gelerek ortak güvenlik standartları belirlemesi gerektiğini savunan Amodei’ye Elon Musk destek verdi. OpenAI Üst Yöneticisi Sam Altman da öneriye katıldığını ve bağımsız değerlendirme konusunda benzer bir adım atacağını açıkladı.

ABD Başkanı Donald Trump ise yapay zekâ ve veri merkezlerine yönelik eleştirileri “hastalıklı bir komplo” olarak nitelendirerek, bu tartışmalardan memnuniyet duyan tek tarafın Çin olduğunu savundu.

Çin Dışişleri Bakanlığı Sözcüsü Guo Ciakun ise yapay zekâ alanındaki rekabete ilişkin değerlendirmesinde, “Korkuları körüklemek, cepheleşme ve acımasız rekabet, küresel yapay zekâ yönetimine zarar vermekten başka işe yaramaz, bu da kimsenin menfaatine değildir” ifadelerini kullandı.

(AA)