​​​​​​​Grok faşist de diğerleri değil mi?

Elon Musk’ın, şirketi xAI tarafından geliştirilen sohbet botu Grok’un artık çok daha gelişkin olduğunu duyurmasının ardından hafta içi Grok’un küfürbaz bir naziye hızla dönüşümünü izledik. Geliştiricileri, Grok’un yanıtlarını kontrol altında tutarak “makul bir sohbet botu” izlenimi yaratan filtreleri zayıflatırken ne bekliyorlardı bilmiyoruz. Ancak Grok’un kendini “MechaHitler” olarak adlandırıp beyaz üstünlükçü komplo teorilerini art arda sıralayan küfürbaz bir zevzeğe dönüşmesini de öngörmediklerini söyleyebiliriz.

Grok’un liberal makyajı döküldüğünde içinden bir nazi subayı çıkması aslında garip değil. Çünkü diğer geniş dil modelleri gibi Grok da sahibinin sesi. Grok’un tartışmalı konularda yanıt vermeden önce Musk’ın ne dediğine baktığı ortaya çıkmış olsa da sahibi derken sadece Musk’tan bahsetmiyorum. Adı konmamış sahip kapitalizmin ta kendisi. Kapitalizmin ve patron sınıfının kendi ihtiyaçları için faşizm moduna geçmesinin tarihteki çok sayıda örneğini yeniden hatırlatmaya gerek yok. Kapitalist patron tiplemesinin karikatürize edilmiş versiyonu olan “özgürlükçü” Elon Musk’ın içinden dönem dönem püsküren faşisti de yıllar içinde pek çok kez gördük.

İçinden püsküren faşist şirket kasasına zarar vermeye başladığında Musk, Auschwitz-Birkenau Toplama Kampına bir ziyaret gerçekleştirmiş ve “Holokost trajedisinin kendi gözlerinizle gördüğünüzde sizi çok daha derinden vurduğunu” ifade etmek zorunda kalmıştı. Grok’un içinden püsküren nazi hak ettiği tepkiyi görünce xAI da Grok X’e gönderi atmadan önce nefret söylemini engelleyecek tedbirler aldığını duyurdu.

“Nazi Grok” epey ses getirmiş olsa da ne geniş dil modellerinin ne de sohbet botlarının ilk faşistleşmesi bu. Microsoft, 2016’da sohbet botu Tay’ı Twitter üzerinde bir hesap olarak yayına almış, ancak 16 saat sonra Tay’ı ırkçı yanıtları ve cinsiyetçi söylemleri nedeni ile kapatmak zorunda kalmıştı. ChatGPT’nin de faşizan sayıklamalarına, komplo teorilerini yinelemesine tanık olduk daha önce. Hemen her geniş dil modeli için benzer vakalar mevcut. Çoğu modelde bu tip tepkileri tetikleyebilmek için çeşitli yöntemlere başvurmak, arka kapılardan dolanmak gerektiğini not düşelim. Her birinin Grok’ta kaldırılan sonra da geri konulana benzer çok sayıda tedbiri var çünkü. Ancak Grok’ta yapılan benzer şekilde tedbirler kaldırılarak modellerin ipleri salınsa her birinin içinden komplo teorisyeni bir dijital faşist fırlayacak.

Peki, ne oluyor da kimilerinin “zeka parıltısı” gördüğü, kurtarıcı ilan ettiği modeller böyle kolayca dijital Hitlerciklere dönüşebiliyor? Geniş dil modelleri eğitimlerinde kullanılan devasa veri kümesinin bir ürünü. Ancak sadece veri kümesinin değil verilerin oluşturulmasındaki, seçilmesindeki vb. ön yargıların da ürünü. Dolayısıyla meselenin son on yılda pek çok ülkede yükselen faşizmle ve bunun hem veri kümesine hem de veri kümesini seçen ve tasnif edenlere etkisiyle bağlantısı var. Ancak daha az görünür olmakla birlikte daha kritik olan bir başka bağlantı daha var: Sermayenin kâr açlığı…

Geniş dil modelleri halihazırda yüksek miktarda eğitim verisine ihtiyaç duyuyor. Nereden geliyor bu veri? Şirketlerin ellerini atabildiği her yerden. Devasa korsan kütüphaneler şirketler için veri kaynağı. YouTube, Facebook, Twitter bilcümle sosyal medya şirketler için veri kaynağı. Toparlayabildikleri ölçüde tüm Internet şirketler için veri kaynağı. Veriyi tasnif etmek, ayırmak, elemek söz konusu veri kümesinin büyüklüğünde tartışırken devasa bir iş yükü, devasa bir gider. Bu gider ne kadar azsa o kadar iyi şirketler için. Sistemlerin çıktılarından hemen önceye koyulacak geliştirmesi daha düşük masraflı filtrelerle büyük ölçekte çözülüyor sorun zaten. 

Halbuki “Eğitim verisinde nefret söylemi olmayan bir modelin nefret söylemi üretmesi ne kadar olası?” sorusunun yanıtı geniş dil modelleri için zor bir yanıt değil. Şirketlerin sıkıntısı yanıtın kârlı olmaması. Zaten mevzubahis modellerin sahibi şirketlerin faşizmle de ciddi bir sorunu yok. Yeter ki kârlarına dokunulmasın. Çin’deki intihar fabrikaları da, Afrika’da koltan madenlerinde kölelik koşullarında çocuk emeği sömürüsü de, zorla çalıştırma da, aklınıza gelebilecek her türden suç da makbul onlar için. Yeter ki kârlarına dokunan olmasın ve bununla bağlantılı olarak yeter ki bu suçlar kamuoyunda ifşa olmasın. “Nefret söylemi yayan sohbet botu” imajı kârlılıklarını azaltmayacak olsa filtreleri yazan ekibi yarına kalmadan kapının önüne koyacak bir kâr hırsı mevzuubahis.

Grok vakası büyük olaslıkla Musk’ın kendi faşist püskürmelerinin bir sonucuydu. Mesele bir halkla ilişkiler kabusuna dönünce geri adım atıldı. Her birinin altında bir MechaHitler yatan diğer modeller ise Musk’tan daha az afişe olmuş benzerleri tarafından bize kurtarıcılar olarak sunulmaya devam ediyor.