Yapay zekâ hepimizi öldürecek mi?

Yapay zekâ uygulamalarının çalışanların önemli bir kısmını işsiz bırakacağı ve bir noktada insan zekâsını aşarak kendi başına karar veren sistemlere dönüşeceği bir süredir tartışılıyordu. Son birkaç haftadaysa yapay zekânın insanlık için varoluşsal bir tehdit oluşturabileceğine dair uzun süredir devam eden tartışma yeniden alevlendi. Bu alandaki bazı araştırmacılar ve şirket yöneticileri ilerlemelerin yavaşlatılmasını ve daha sıkı denetlenmesini savunmaya başladı. Bu tartışmaları değerlendirebilmemiz için önce daha basit bir soruyla başlamamız gerekiyor: Yapay zekâ denilen şey tam olarak nedir ve nasıl çalışır?

Yapay zekâ, insan zekâsını gerektirdiğini düşündüğümüz dil kullanma, görüntü tanıma, problem çözme, tahminde bulunma ve karar verme gibi bir dizi işi bilgisayarlara yaptırmaya yönelik yöntemlerin günümüzdeki genel adı. Yaygın olarak kullanılan ChatGPT ve benzeri büyük dil modelleri yapay zekânın bugün en görünür olan uygulamaları. Ancak büyük dil modellerinin her biri yapay zekânın bir uygulaması olsa da yapay zekâ bu modellerle sınırlı değil. Yapay zekânın nasıl çalıştığını anlamak için iki temel yaklaşımı birbirinden ayırarak başlayabiliriz. İlkinde, yani kural tabanlı (veya sembolik) yapay zekâda bilgisayarın takip edeceği kurallar insanlar tarafından açıkça tanımlanır. İkincisinde, yani bugün yapay zekâ tartışmalarının merkezinde bulunan “makine öğrenmesi ”nde ise bütün kuralların tek tek insanlar tarafından tanımlanması yerine bilgisayarın kendisine verilen büyük miktardaki veriden hareketle örüntüleri tespit edip öğrenmesi ve bunlardan hareketle tahmin veya sınıflandırma yapması sağlanır.

Aradaki farkı anlamak için klasik bilgisayar programlamasından başlayabiliriz. Örneğin, bir bankanın kredi başvurularını değerlendirmek için basit bir program tasarladığını düşünelim. Programcı, bilgisayara “gelir şu miktarın üzerindeyse şu puanı ver”, “borç şu seviyenin üzerindeyse puanı şu kadar düşür”, “geçmişte kredi ödemesini geciktirmişse şu kadar puan çıkar” gibi kurallar verebilir. Yani insan kuralları önceden belirler, bilgisayar da bunları uygular. Makine öğrenmesinde ise bilgisayara tüm bu kuralları tek tek vermek yerine çok sayıda örnek verilir ve hangi özelliklerin hangi sonuçlarla ilişkili olduğunu bunlardan çıkarması sağlanır. Yaygın örneklerden birisini kullanırsak, diyelim ki bilgisayarın kedi ve köpek fotoğraflarını birbirinden ayırt etmesi isteniyor. Bir programcı, “kulak şöyleyse kedi, burun böyleyse köpek, tüyler böyleyse kedi” şeklinde binlerce kural yazmaya çalışabilir. Fakat bu hem son derece zor hem de muhtemelen başarısız olacaktır. Makine öğrenmesinde bunun yerine sisteme çok sayıda kedi ve köpek fotoğrafı gösterilir ve eğitim esnasında sistemin içindeki sayısal değerler tekrar tekrar ayarlanır. Zamanla model, hangi görsel örüntülerin kedi veya köpek tahmini açısından önemli olduğunu yakalamaya başlar. Sonunda daha önce hiç görmediği bir fotoğrafla karşılaştığında bunun kedi mi köpek mi olduğu konusunda bir tahminde bulunabilir. Bu, “gözetimli öğrenme” denilen yöntemin basitleştirilmiş bir örneği. Daha karmaşık, etiketlenmiş doğru cevapların kullanılmadığı başka makine öğrenmesi yöntemleri de mevcut.

Burada öğrenmeden kastedilen şey esasen çok büyük miktarda matematiksel hesaplama yapılmasıdır. Bugünkü makine öğrenmesinde kullanılan önemli yöntem ailelerinden biri olan “yapay sinir ağları” yaklaşımı, insan beynindeki nöronların birbirleriyle bağlantı kurmasından esinlenir. Bu yöntemde “yapay nöron” olarak adlandırılan ve özünde bazı sayıları alan, bunlara matematiksel işlemler uygulayan ve başka bir sayı üreten hesaplama birimlerinin birbirine bağlanmasıyla bir yapay sinir ağı ortaya çıkar. Bu ağların çok sayıda katman hâlinde birbirine bağlandığı modellere ise “derin öğrenme” adı veriliyor.

Bir bütün olarak bu sistemi, üzerinde milyonlarca, milyarlarca ayar düğmesi bulunan devasa bir makineye benzetebiliriz. Her bir ayar düğmesi modelin yaptığı hesaplamaları çok küçük miktarlarda etkiler. Bunlar “parametre” olarak adlandırılır. Bu parametrelerin tek tek hangi değerleri alacağına insanlar karar vermez. Modeli geliştiren insanlar önce hangi problemi çözmek istediklerine karar verir, kullanılacak veriyi toplar, seçer, temizler ve filtreler. Modelin matematiksel mimarisini tasarlar, kaç katman olacağını, bu katmanların birbiriyle nasıl ilişki kuracağını ve modelin yaklaşık büyüklüğünü belirledikten sonra da modelin yaptığı hatanın nasıl ölçüleceği tanımlanır ve bu hatayı azaltmak için kullanılacak optimizasyon yöntemi seçilir. Kısacası, makine öğrenmesinin ortamı ve yöntemi, modeli geliştiren insanlar tarafından belirlenir. Fakat parametreler insanlar tarafından değil modelin eğitimi esnasında optimizasyon algoritması tarafından otomatik olarak ayarlanır.

Meseleyi biraz daha anlaşılır kılmak için kedi-köpek örneğine dönersek, diyelim ki sistemin karşısına “kedi” olarak etiketlenmiş bir fotoğraf getirildi ve model ilk denemede bunun yüzde 20 ihtimalle kedi, yüzde 80 ihtimalle köpek olduğu sonucunu verdi. Eğitim sistemi, modelin tahminiyle eğitim verisindeki hedef sonucu karşılaştırır ve hatanın büyüklüğünü matematiksel olarak hesaplar. Bunun ardından optimizasyon algoritması bu hatayı azaltmak için modeldeki parametrelerin hangi yönde ve ne kadar değişmesi gerektiğini hesaplar ve parametreler çok küçük miktarlarda değiştirilir. Ardından yeni bir örnek, yeni bir tahmin, yine bir hata hesaplaması ve bunun sonucunda parametrelerin tekrar değiştirilmesi gelir. Yani tahmin-hata-düzeltme işlemi milyonlarca hatta milyarlarca kez tekrarlanır. İşte makine öğrenmesi olarak adlandırılan şeyin önemli bir kısmı budur: Modeldeki çok sayıdaki parametrenin eğitim verisindeki tahmin hatalarını azaltacak şekilde otomatik olarak ayarlanması. (*)

Dolayısıyla makine öğrenmesi sistemlerinin “kendi kendine öğrendiği” söylemi hem doğru hem de yanıltıcıdır. Doğru, çünkü insanlar milyarlarca parametrenin değerini tek tek belirlemiyor. Yanıltıcı, çünkü makine kendi eğitim yöntemini icat etmiyor, kendi eğitim verisini seçmiyor ve kendi amacını belirlemiyor; insanların kurduğu sistem ve seçtiği veri içerisinde parametrelerini otomatik olarak ayarlıyor. Karşımızda insanların seçtiği veriler üzerinden, insanların tasarladığı matematiksel modeller ve eğitim yöntemleri içerisinde çalışan, fakat bu yapı içerisinde milyarlarca parametreyi otomatik olarak ayarlayabilen son derece güçlü hesaplama sistemleri var.

Teknoloji tartışması bu noktada kaçınılmaz olarak politik ekonomiye bağlanıyor. Bu makinelerin öğrendiği devasa bilgi birikimini kim üretti? Eğitim verisi olarak kullanılan kitapları, makaleleri, internet sayfalarını, kodları, görselleri kim yarattı? Bunları toplayabilecek, işleyebilecek ve eğitime sokabilecek altyapı kimin elinde? Milyarlarca parametreyi ayarlamak için gereken gelişmiş bilgisayar çiplerini, veri merkezlerini ve enerji kaynaklarını kim kontrol ediyor?

Dolayısıyla yapay zekâyı ve onun geleceğimizi nasıl şekillendireceğini anlamak için yalnızca makinenin nasıl çalıştığına ve nasıl öğrendiğine bakmak yeterli değil. Aynı zamanda makinenin etrafında kurulan ve bu sistemin içinde geliştiği ekonomik düzeni de anlamamız gerekiyor. Yani başlıktaki soruya cevap vermek için de önce bu sistemlerin gerçekte ne yapabildiğini, ardından kimler tarafından, hangi amaçlarla ve nasıl bir ekonomik yapı içerisinde geliştirildiğini anlamamız gerekiyor. Önümüzdeki yazılarda bu ve bağlantılı soruları tartışmaya çalışacağım.

(*) ChatGPT ve benzeri büyük dil modellerindeki temel mantık da makine öğrenmesinin diğer uygulamalarından çok farklı değil. Bu modellerin eğitiminde devasa miktarlarda metin kullanılıyor. Modelin temel ön-eğitimdeki görevi, bir metinde sırada hangi kelimenin, daha doğrusu hangi kelime parçasının geleceğini tahmin etmek. Dil modelleri, metni “token” adı verilen küçük parçalara ayırıyor. Bir token bazen bir kelime, bazen kelimenin bir bölümü, bazen de bir noktalama işareti olabiliyor.