Yapay zeka tekelleri neden yavaşlamak istiyor?

Yapay zeka şirketi Anthropic’in CEO’su Dario Amodei’nin yapay zeka modellerindeki ilerlemeyi yavaşlatma çağrısına, Sam Altman ve Elon Musk gibi diğer teknoloji şirketlerinin CEO’larından da destek geldi. Amodei blogunda yayınladığı makalede, modellerdeki hızlı ilerleme ile gündeme gelen kötüye kullanma ve modellerin beklenmedik davranışlarına ilişkin riskleri önleyecek çalışmalara zaman ayrılması ve yasal düzenlemelerle bunun güvence altına alınması gerektiğini ifade ediyor.

Yavaşlatma ve düzenleme çağrıları yeni değil. Kontrolsüz ilerleme ve risklere daha önce de dikkat çekilmişti.

Ancak bu çağrıyı yapay zeka şirketlerinin yapması en azından görünüşte ilginç.

Çağrı, her ne kadar insani ve etik kaygılarla yapılıyor gibi gözükse de durum çok daha farklı.

Hatırlayalım:

Yapay zeka modellerini üreten şirketler sözde kendilerini insanlığın ilerlemesine adamış ve hızla bu role girmişti. Öyle ki, “insanlığın yararı” için çalıştığını iddia eden OpenAI, bildiğimiz bir şirket gibi davranınca, bazı uzmanlar hayal kırıklığına uğramış ve ayrılmıştı. Anthropic de 2021 yılında böyle kurulmuştu. İnternet sitesinde kendini kamu yararına çalışan bir şirket olarak tanımlamıştı.

Doğasına uygun bir şekilde Anthropic de bir şirket gibi davrandı: Meta olarak model üretti, yatırım topladı, rekabet etti, başta karşı çıkmasına rağmen ABD savaş organizasyonun hizmetine girdi.

Şimdi de bu şirketlerin yöneticileri/sahipleri, modellerin insanlık için kimi varoluşsal, büyük riskler ürettiğini, modellerin yavaşlatılması ve düzenlenmesi gerektiğini belirterek, insanlığı kurtarmayı amaçlayan süper kahraman rolüne büründüler.

Ne de olsa asıl işleri insanlık! Multi-milyarderlik falan küçük yan getiriler. Olmasa da olur türünden.

Tabii, tekno-fetişizm çağında, insanlığı kurtaracak yeni süper kahramanların Silikon Vadisi’nden çıkması da gayet normal. Çünkü yapay zeka ve dijital teknolojileri, bir ideolojik mistifikasyon olmaksızın düşünmek pek kolay değil. Konu yapay zeka olunca, örneğin Anthropic’in CEO’sunun söyledikleri, onun bir sermayedar olarak varlığının kolayca önüne geçebiliyor.

Bu ideolojik sis, yani teknolojinin yansız, eşitlikçi ve adeta “sermayesiz”, dolayısıyla sermayenin çıkarcılığı, saldırganlığı ve sonuçlarından azade nötr bir olgu olarak görülmesi hali, kapitalist ideolojik üretimin büyük bir başarısı.

Bunun bir adım dışına çıkmak, Amodei’nin söylediklerini, aynı zamanda onun tekelci rekabetin tam da merkezinde yer alan bir şirketin CEO’su olduğunu göz önünde bulundurarak düşünmeyi gerektirir.

Haklı gerekçe ve müsebbipleri

OpenAI’nın kapalı devrede çalışan bir modelinin verilen görevi yapmak üzere, beklenmedik bir şekilde internete bağlanması ve Hugging Face’i hackleyerek ihtiyaç duyduğu bilgileri toplaması yapay zeka modellerinin kontrol dışı işlemlerine ilişkin kaygıları haklı olarak yükseltti.

Giderek dijitalleşen ve ekonomi, tıp, eğitim, kültür gibi faaliyetlerin, hatta savaş aygıtlarının adım adım dijital dünya ile entegre olduğu bir çağda, kontrolsüz geliştirilen yapay zeka modellerinin insanlık için önemli bir tehlikeye işaret ettiği açık. Mesela, belirli bir görevi ifa eden bir yapay zeka modelinin, daha verimli olmak adına (ödüllendirme sistemi) beklenmedik bir şekilde ağa bağlı tıp ekipmanlarına müdahale etmesi ve ölümlere yol açması mümkün olabilir.

Peki, sorumlu kim?

Bu riski kim yaratıyor?

Riskleri dile getiren Anthropic ve OpenAI gibi yapay zeka şirketleri aslında bu risklerin müsebbibi.

Yavaşlayıp riskleri analiz etmeleri lazım.

Ama…

Yavaşlamıyorlar. Çünkü yavaşladıklarında diğerinin gerisinde kalmaktan kaygı duyuyorlar.

Yarışın kontrolsüzce devam etmesinin nedeni teknolojinin ilerlemesine duyulan mutlak bağlılık değil… Ekonomik gücün elde edilmesine, pazar payının korunmasına ve ilerletilmesine, borsaya arz öncesi şirket değerlerinin yüksek tutulmasına, yani şirketlerin orta ve uzun vadeli kâr beklentilerinin korunmasına mutlak bağlılıktır.

Teknoloji bu iktisadi güç mücadelesinin üzerinde sürdüğü saha.

Çağrının arka planı

Yapay zeka şirketlerinin yöneticilerinin bir kısmı gerçekten de olası gelişmelerin yarattığı büyük riskleri görüyor ve kabul ediyor.

Ve bu risklerin olası sonuçlarının yol açacağı iktisadi ve insani zararları tek başlarına üstlenmek istemiyorlar. Devlet kontrolü ile belirli düzenlemelerin yapılması risklerin gerektirdiği sorumluluğu toplumsallaştırmanın bir yolu.

Amodei ve diğerlerinin hangi ölçüde etik değerlerle ya da sorumluluğu üzerlerinden atma amacıyla hareket ettiklerini –tahmin edebiliriz ama– kesin olarak bilemeyiz.

Ancak şurası kesin: Kişisel etik kaygılar, belirli bir ekonomik ve jeopolitik yapı içerisinde ortaya çıkıyor ve ancak şirket/sermaye çıkarı ile örtüştüğü ölçüde realize olabiliyor. Şirket sahibi bireyler, kişisel duygu ve düşünceleri ne olursa olsun, son tahlilde sermaye ilişkisinin –ve kendi temsil ettiği sermaye grubunun— taşıyıcısı olarak davranıyorlar. Etik iddiaları da hep sınırlı. Amodei’nin makalesinde belirttiği gibi, “ticari avantajları veya Amerika Birleşik Devletleri'nin yapay zekadaki liderliğini feda etmeden.”

Peki, teknoloji tekellerinin yavaşlamadan nasıl bir çıkarı olabilir?

Birincisi, yukarıda bahsedilen sorumluluğun şirketlerden devletlere aktarımı: Yani –gelecekteki– kâr özel kalmaya devam ederken riskin kamulaştırılması.

İkincisi, bunca gürültüye rağmen beklenen kârın bir türlü ufukta görünmemesi nedeniyle yavaşlama ihtiyacı.

Yapay zeka modelleri ve bu modellerin ihtiyaç duyduğu veri merkezlerine olağanüstü yatırımlar yapılıyor. Veri merkezleri hem çiplere hem de büyük enerji kaynaklarına ihtiyaç duyuyor. Dolayısıyla yapay zeka ekosistemi başta ABD, daha sonra tedarik zincirlerine bağlı olarak dünyanın belirli bölgelerinde ekonomik büyümeye küçümsenmeyecek bir katkı sağlayabilir. Ancak büyük yatırımlara ve şirket değerlemelerinin katlanmasına rağmen teknoloji tekelleri kısa vadede kâr elde edemeyeceklerinin farkında.

Bununla birlikte geleceğe dair büyük kâr umudu yatırımların devamını sağlıyor.

Peki, mevcut abonelik sisteminin bu kârı sağlayamayacağı yönünde bir görüş oluşursa…

İşte o zaman yatırımlar azalır ve yapay zeka balonu patlar.

Dolayısıyla modellerden henüz kâr edemeyen teknoloji tekellerinin yavaşlamaya, harcamalarını azaltmaya, sürekli yeni model çıkarmaktan çok gelirlerini arttırmaya ihtiyacı var.

Üçüncüsü, sektörün işin başında değil de sonunda düzenlenmesi mevcut statükonun yasal güvence altına alınması anlamına gelebilir. Böylece güvenlik riski gerekçesiyle daha küçük şirketlerin ya da olası rakiplerin piyasa dışında tutulması sağlanmış olur. ABD içinden DeepSeek gibi küçük bütçe ile başarılı modeller geliştiren rakiplerin ortaya çıkışı da böylece engellenir.

Musk ve Altman’ın destek verdiği Amodei’nin yavaşlama çağrısının bu bakımdan teknoloji tekellerinin çıkarlarıyla uyumlu. Elbette karşıt fikirleri savunan teknoloji tekelleri de var. Mesela çip tekeli Nvidia’nın CEO’su Jensen Huang, yapay zeka yarışından yararlandığı için yavaşlamaya karşı. Endişeleri de anlamsız buluyor.

Dolayısıyla yavaşlama ve düzenleme çağrısı karşısında tutumlar bir tarafın etik diğer tarafın ticari düşündüğünü değil tekeller arası bir çıkar çatışması olduğunu gösteriyor.

Etik duyarlılık mı?

Peki, yine de Amodei’nin gerçekten etik bir duyarlılığı olamaz mı?

Bir insanın gerçek duygularını bilmek en azından kolay değil.

Ancak, henüz yazısının başındaki bir öneri, onun pek de samimi olmadığını ya da onun duyarlılığının sınırlarını gösterir nitelikte.

Amodei, modellerinin üçüncü taraf partnerlerce denetleneceğini, tek taraflı olarak ve hiçbir şey beklemeden buna izin vereceklerini ifade etti.

Peki kim denetleyecek?

Amodei’in denetçi olarak andığı şirket METR.

METR ise Anthropic’in fon sağlayıcılarından biri. Yani Anthropic’in büyümesi METR’in zenginleşmesi anlamına geliyor. Dolayısıyla Anthropic’i bağımsız bir şekilde denetlemesi imkansız.

Yani tekellerin “denetim” vurgusu, gerçek bir denetimden ziyade mevcut statükoyu koruma ve güvence altına almaya odaklı.

Yavaşlamanın sınırı

Yavaşlama ve düzenlemenin sınırı ne olacak?

Teknik sınırdan çok politik bir sınır söz konusu: Çin.

Amodei de bu konuda hemfikir. Yazısında belirttiği gibi yavaşlamanın temel şartı Çin’in önünde kalmanın garanti altında olması.

ABD’nin düşman tanımı, yapay zeka şirketlerinin düşman/rakip tanımı ile tamamen örtüşüyor.

Ancak…

Çin’den yavaşlamaya dair bir işaret yok.

Çin rekabetini göz önünde bulunduran ABD Başkanı Trump da yavaşlama çağrılarının sahte bir kaygıya dayandığını söylüyor. Başkan Yardımcısı JD Vance çağrıyı garip bulduğunu, bir Truva atı gibi gördüğünü ifade etti.

ABD hükümeti yapay zeka alanındaki liderliğini dünya egemenliğindeki en temel unsurlardan biri olarak tanımlıyor.

Teknoloji tekelleri ile ABD hükümeti arasındaki anlaşmazlık yönteme dair: “Çin tehdidi” ve “yapay zeka liderliği” tartışma konusu değil. Sorun bu liderliğin hangi yolla korunabileceği.

Tekellerin çıkarlarının hangi yöntemle realize edileceğini, teknoloji tekelleri ile devlet arasındaki füzyon çatlaklarının nasıl doldurulacağını önümüzdeki günlerde göreceğiz.

Oysa “insanlık” vurgusu beklenmedik bir şey de değil…

Silah üreten şirketler temel amaçlarının insanlığın güvenliği…

Sağlık hizmeti satan şirketler temel amaçlarının insanların sağlığı…

Google, temel amacının insanlığın bilgiye ulaşması…

Yapay zeka modelleri üretenler de insanlığın ilerlemesini amaçlıyor.

Örneğin İsrail’in Gazze’ye yönelik saldırılarında binlerce insan katledilirken böyle bir yavaşlatma ya da kullanımı sınırlama tartışmasını Amodei ve CEO’lar pek gündeme getirmemişti.

Ya da ABD, Claude’u kullanarak İran’da kız çocuklarının okuduğu bir okulu bombaladığında Silikon Vadisi’nin yönetici ekibi böyle büyük bir tartışmayla ortaya çıkmamıştı.

Peki, şimdi ne oldu?

Sermayeyi hatırlamak

Yapay zeka modelleri insanlığın ortak zekasının kolektif/tarihsel birikiminden yanlı bir şekilde yararlanarak şekilleniyor.

Yapay zeka şirketleri bize durmaksızın yapay zekanın insanlığa sunduğu büyük olanakları hatırlatıyor.

Doğru… Gayet de güzel…

Peki, neden hâlâ bırakalım Türkiye’yi, ABD’de bile sıradan vatandaşlar ev kiralarını bile ödemekte zorlanıyor?

Neden gelir eşitsizliği tarihin en keskin uçurumlarında gezinip duruyor?

Buraya dair söylenecek çok şey var.

Hatta bunların kimine yapay zekâ şirketlerinin kendileri dahi dikkat çekiyor, önlem alınması çağrısı yapıyor.

Ne kadar da duyarlı?

Numara mı, yalan mı?

Mesela Dario Amodei o kadar duyarlı ki, OpenAI’ın kâr odaklı yaklaşımını görüp 2021 yılında şirketten ayrılıp kız kardeşi ile birlikte insanlığın çıkarlarını temel alacağını ifade eden Antropic’i kurdu.

Antropic farklı olacaktı.

Trump’la karşı karşıya geldi.

Amodei’nin kişiliği, kişisel sorumluluk duygusu, neyi amaçlayıp amaçlamadığı bir ölçüde önemli olabilir ama ancak bir ölçüde.

Çünkü, burada sözü geçen Amodei değil kapitalizmdir, piyasadır, kârdır, çıkardır, rekabettir.

Bütün bu karmaşada gözden kaçan şey, teknolojinin salt teknoloji, Amodei’nin de salt birey olarak Amodei olmadığıdır.

Dünyanın en büyük tekel konumundaki şirketlerinden bahsediyoruz.

Bir şirketin varlık sebebi, şu ya da bu meta üzerinden kâr etmektir. Bu meta, silah da olabilir, bir sağlık hizmeti de olabilir, zehir de ilaç da olabilir. Şirket için temel amaç kâr elde etmektir. Elbette silah şirketi, şirketleri güvenlik için sattığını, ilaç şirketi insanlığın sağlığı için sattığını, Amodei’de yapay zekânın insanlığının geleceği için kullanılmasına inandığı için ürettiği ve sattığını söyleyecek. Bu işin doğası gereği. Kimi şirket sahipleri de buna gerçekten, gönülden inanabilir.

Amodei’nin inanıp inanmadığını konusu kendisiyle ilgili ve aslında pek de önemli değil. Çünkü işleyen sermayenin kuralları.

Örneğin Antropic, kendi modellerinin silahlanma için kullanılmaması konusunda bir görüş belirttiğinde ABD hükümeti tarafından yaptırımla karşı karşıya kaldı. Sonuçta, Claude İran savaşında ve başka operasyonlarda kullanıldı. Amodei şirketini mi kapattı? Ya da yeni model geliştirmekten vaz mı geçti?

Bu Amodei’nin kişisel olarak iki yüzlü olduğunu değil, şirketlerde, özellikle de büyük şirketlerde sermayenin kısa ya da uzun vadeli çıkarlarının belirleyici olduğunu, kişilerin de er ya da geç sermayenin çıkarlarının taşıyıcı rolüne dönmek zorunda kaldıklarını gösteriyor.