Yapay zeka aptallaştırıyor mu?
Geniş dil modellerinin (LLM) gerek kurumsal gerekse de bireysel olarak kullanımının pek çok işte yaygınlaşması kimi ciddi problemleri beraberinde getirdi. Birbirine fazlasıyla benzeşen metinler, atıf yapılmadan birebir araklanan alıntılar, uydurma referanslar, yanıltıcı bilgiler gibi sıkıntılar tartışmanın bir ayağı. Tartışmanın diğer ayağını ise bilmeden/öğrenmeden üretme, becerilerin kullanılmadığı için körelmesi ve fikri tembellik gibi başlıklarla tanımlayabiliriz. Massachusetts Teknoloji Enstitüsü (MIT) Medya Lab’ı tarafından birkaç gün önce yayımlanan bir çalışma tartışmanın bu ikinci kısmına biraz da olsa ışık tutuyor. “Ön baskı” olarak yayımlanan çalışma “ChatGPT’deki beyniniz: Deneme yazma görevi için yapay zekâ asistanı kullanırken bilişsel borç birikimi”[1] başlığını taşıyor. Söz konusu çalışmanın bir ön baskı olduğunu, hakemli bir yayın olmadığını, örneklem kümesinin oldukça küçük ve seçmece olduğunu dolayısıyla sonuçlarının mutlak bir gerçekliğe işaret etmediğini önden not düşmemiz gerek.
Çalışma üç gruba bölünmüş 54 kişinin verili konularda makale yazmaları sırasında beyin aktivitelerinin EEG ile takip edilmesine dayanıyor. Gruplar ise ChatGPT desteği ile yazma, Google arama motoru desteği ile yazma ve destek olmadan yazma şeklinde bölünmüş. Üç grup arasında en düşük beyin etkileşimi ve en düşük performans ChatGPT desteği ile makale yazan grupta. Dahası ChatGPT destekli grubun birkaç ay süren çalışmada gün geçtikçe daha tembelleştiği ve tümüyle ChatGPT’den kopyalayıp yapıştırarak makale “yazdığı” gözlemlenmiş. Gruplar arasındaki en keskin ayrımlardan biri kendi makalesinden parçaları hatırlama ve tekrar edebilmede gözlemlenmiş.
Çalışmanın yöntemi de sonuçları da sonuçlara dair yorumları da tartışmaya açık. Ancak LLM’leri biraz olsun kullanan ve teknoloji patronlarının daha fazla satış için ortaya saldığı propaganda rüzgarından etkilenmeyen pek çok kişinin gözlemleri ve pratikleri ile örtüşen bulgular bunlar. Aslında benzer bir süreç Internet’in yaygınlaşması ile birlikte eğitimde yaşanmıştı. Kitap özetleri ve ödevleri içeren web sitelerinin nasıl mantar gibi türediğini hatırlayanlar olacaktır. Bu durumun ne gibi sonuçları oldu, ödevler gerçekte lüzumsuz muydu, ödevleri yapmak için bu tip siteleri kullananlar potansiyellerinin altında mı gelişti gibi soruların yanıtı zor. Ancak aynı sorular şimdi geniş dil modelleri açısından da tartışılmak zorunda.
Öğretmenler, öğrenciler, doktorlar, mühendisler, programcılar, ofis çalışanları… Geniş bir kitle LLM’leri çeşitli işlerde kullanıyor. Kimi daha basit pratik işler için, kimi ise oldukça karmaşık işlerin çözümünde. Pek çok iş bu sistemler sayesinde otomatik ya da yarı otomatik hale geldi. Bir e-posta mı yazılacak? Ver bilgileri, ver konuyu, tanımla üslubu; yapay zeka yazsın. Bir analiz mi yapılacak? Ver verileri, belirt bağlamı; yapay zeka yapsın. Tabii LLM’lerin sonuçlarına güvenebilirsen. Pek çok işte LLM’lerin çıktılarının kontrolünü yapmak işi sıfırdan yapmaktan daha zahmetli çünkü. Verili bir işi bir süre yapıp ilgili konuda öğrenecek pek bir şey kalmadığında işin otomasyonu hem kolaylaştırıcıdır hem de otomasyonun hayata geçirilme süreçleri öğreticidir. Ancak LLM’lerle birlikte tartıştığımız otomasyon süreçleri çoğunlukla nasıl yapıldığı bilinmeyen işlerin karmaşıklık seviyesi giderek artan otomasyonları. Bu sürecin olağan sonuçları arasında LLM’lerin çıktıların niteliğini, doğruluğunu değerlendirebilecek kişi sayısının azalması ve doğruluğu belirsiz içeriklerin dört bir yanı işgali var. Internet açısından bu işgal zaten başlamış durumda. LLM’ler aracılığı ile üretilmiş; nitelikleri ve özgünlükleri tartışmalı milyonlarca makale milyonlarca görsel halihazırda dolaşımda.
İnsanların uzun, sıkıcı okumalara ilgilerini kaybetmelerinin ardından kitapların önce beş dakikalık özetler haline dönüşmesi, sonrasında büyük ölçekte ortadan kalkmaları ve ardından yasaklanarak itfaiyecilere kitapları yakma görevi verilmesi Ray Bradbury’nin 1953 tarihli distopyası Fahrenheit 451’in hikayesinin önemli bir parçasını oluşturur. Bradbury’nin distopyasında değiliz ama ne kadar uzağında olduğumuz da tartışmalı.
Evrensel'i Takip Et