Yapay zekâ kıyameti değil satış kampanyası

Birkaç gündür gerek medyada gerekse sosyal medyada yapay zekanın insanlığın soyunu tüketme ihtimali konuşuluyor. Tartışmayı başlatan yapay zekânın geliştirilmesi konusunda şirketlerin sorumsuz davrandığını iddia ederek Anthropic’ten istifa eden Jacob Coxon’un “Yapay zekayı geliştiren insanlar, bu teknolojinin on yılın sonuna kadar hepimizi öldürebileceğine yürekten inanıyor” cümlesiyle özetleyebileceğimiz gönderisiydi[0]. Coxon’un gönderisinden bir gün sonra Anthropic’te çalışan güvenlik araştırmacısı Evan Hubinger’in önümüzdeki on yıl içinde yapay zekâ kıyameti gerçekleşme ihtimaline dair kendi tahmininin “yüzde onun üzerinde” olduğunu belirtti [1]. Ardından bu yapay zekâ kıyameti listesine Samuel Marks (Anthropic), Jakup Pachocki (OpenAI), Jonathan Schwarz (Google) vb. eklendi. Yapay zekâ kıyameti tartışması kısa süre içinde pek çok yayında ve sosyal medya hesabında kendine yer buldu. Nasıl bulmasın ki? Sansasyonculuk satıyor sonuçta. Mevcut modellerin ya da bu modellerden çıkacak daha gelişkin modellerin insanlığın soyunu tüketmesi olası değil cümlesini kuran araştırmacı sansasyonel değeri olmadığından haber de değil pek çok yayın için.

“Haber” olan ne sorusuna baktığımızda ise elimizde “yüzde onun üzerinde” cümlesi ve benzerlerinden başka bir şey yok. Kim diyor? Şirketlerle o ya da bu düzeyde bağlantılı uzman. Hesap mı yapmış? Hayır, öyle hissediyor, içine doğuyor… En iyi ihtimalde bir uzmanın belirsiz bir geleceğe ve milyarlarca olasılığa dair subjektif tahminleri söz konusu. Yüzdeyi çok daha düşük “hisseden” ya da sıfır olduğunu iddia eden uzmanlara soran oldu mu? O da yok.

Tam da yapay zekânın insanlığı yok etme tehlikesi yoğunca tartışılırken Anthropic’in güvenlik raporu geldi. Kimi kısımları kulağa pek de inandırıcı gelmeyen raporda yok yok: Mali’de 25 milyon SIM kartı sahibini gözetlemek üzere sistem kurmak, Rus hackerların sistemlere izinsiz erişme işini nasıl otomatiğe bağladıkları, Malezya’da seçimi etkileme kampanyasının Claude yardımı ile nasıl yürütüldüğü, toksin tasarımı, kuş gribinin memelilere nasıl adapte edilebileceği, Yemen’de roket güdüm sistemi yazılımı geliştirme ve testin ardından debug süreci…

Tüm bu kıyamet senaryolarını ve “Elimizde çok tehlikeli bir araç var” imalarını mevcut modelleri ekonomik bağlamından kopartarak ele alamayız. Gerek donanım tarafında gerekse de yazılım tarafında teknoloji devleri geniş dil modelleri ve bunlara dayalı sistemlere trilyonlarca dolar akıtıyor. Donanım tarafında işler yolunda. Satışlar sürdüğü sürece Nvidia’nın başı Jensen Huang 6 ayda bir yapay genel zekâya (AGI) ulaştığımızı iddia ediyor. Ancak donanım tarafı dışında akıtılan paranın bir türlü yeterli mali geri dönüşü olmuyor. Anthropic daha yeni yeni kâr etmeye başladı. OpenAI’ın kârlı hale gelmesinin ise 2029’u bulacağı tahmin ediliyor. Donanım masrafları her yeni modelde katlanarak artarken Deepseek gibi Çin kökenli modeller fiyatları istikrarlı bir şekilde aşağı çekmeyi sürdürüyor.  Medya ve sosyal medyada çizilen tablonun aksine mevcut modellerin kullanımı da şirketlerin ihtiyaç duydukları seviyelerde değil. Gradually’nin Temmuz 2026 tahminlerine göre [2] dünya nüfusunun yüzde 71’i bu modelleri hiç kullanmadı. Ücretsiz sistemleri kullananların oranı yüzde 28. Herhangi bir modele para ödeyenlerin oranı ise sadece yüzde 1.

Böyle bir tablo içinde Anthropic’in ekim ayında OpenAI’ın ise en geç 2027’de halka arzı başlayacak. Zarar eden ya da çok da kâr etmeyen bir şirket halka arzda nasıl daha değerli kılınabilir? Elde çok güçlü, çok tehlikeli, henüz değeri bilinmemiş bir ürün olduğuna kamuoyunu inandırmak şirketler düzeyindeki yasal dolandırıcılıkların rutin parçası. Kıyamet senaryosu yayanların kaçının halka arz fiyatlarının yükselmesinden çıkarı var sorusu henüz ortada duruyor.

Kıyamet senaryolarını ortaya atanların iddialarında az çok ortaklaştığı yer güncel modeller değil, bu modellerin kendi kendini eğiten özyinelemeli mekanizmalarla bir “zekâ sıçraması” gerçekleştirmeleri. Yeterince gelişkin bir istatistiki modelin çıktılarının özellikle de daha yüzeysel bir gözlemde zekâ ile karıştırılabileceği gerçeğini ve istatistiki bir modelin döngünün belirli bir aşamasından sonra zekâya ulaşabileceği iddiasının kanıta muhtaçlığını bir yana bırakalım ve bir an için istatistiki modelin bilinçli bir varlığa dönüştüğünü varsayalım. Bu varlık niye insanlığı yok etmek istesin sorusunun yanıtı yok. Hadi diyelim ki istedi, bunu nasıl yapacak sorusunun da yanıtı yok. Laboratuvar sistemlerine sızıp virüsü havaya salan yapay zekâ senaryoları günümüzün modern laboratuvarlarında işlemez. Ne virüsü otomatik sistemle havaya salmak mümkün ne de tehlikeli maddelerle çalışılan laboratuvarların sistemleri Internet’e bağlı. Nükleer bomba atmak istese mevcut güvenlik tedbirleri iki kişinin manuel girdisini gerektiriyor, çok mümkün değil. Kimseye fark ettirmeden tümüyle robotların çalıştığı fabrikalar kurup Terminatör filmindeki T-800 robotların seri üretimini yapmak istese lojistik olarak imkânsız. Kulağa daha gerçekçi gelen ekonomiyi tahrip etme senaryoları bile biraz daha ince eleyip sık dokuduğunuzda elinizde kalıyor.

Şirketlerle bağlantılı uzmanların subjektif, hislerine dayalı tahminleri üzerinden giden bu kıyamet senaryoları geniş dil modellerine dair daha acil tartışmaları da perdeliyor. Yapay zekâ insanlığı yok edecek mi diye tartışırken modeller savaşlarda ve çatışmalarda otonom silah sistemleri, dron kontrolü, veri analizi gibi yöntemlerle insanları “daha iyi ve daha verimli öldürmek için” kullanılıyor. Sigorta şirketleri kimin sağlık hakkından ne kadar yararlanabileceğini şirket dili ile “optimize etmek için” gerçekte ise kârlılık uğruna en masraflı hastalardan başlayarak insanları ölüme terk etmek için modellerden yararlanıyor. Anthropic yapay zekâ karşıtı aktivistleri bahane ederek suçu işlenmeden öngörme çalışmaları yürütüyor. OpenAI’ın modelleri kullanan bilim insanlarının çalışmalarından ne kadar “esinlendiği”, Anthropic’in kullanıcıların sohbetlerine ne kadar eriştiği, AI üretimi çocuk istismarı videoları, derin sahteler ve derin sahtelere dayalı dolandırıcılıktaki artış, kişisel verilerin yağmalanması, geniş çaplı fikri mülkiyet ihlalleri… Her biri uzun uzadıya tartışılması gereken başlıklar yerine bir avuç şirket uzmanının muhtemelen kendilerinin de gerçekliğine inanmadıkları fantezileri gündemi kapatıyor.  

[0] https://tinyurl.com/2p7nnnjt
[1] https://tinyurl.com/y3sbvuk6
[2] https://tinyurl.com/mpjcmpk2