Vaatler, halüsinasyonlar ve gerçeklik

Geniş dil modelleri (LLM) dört bir koldan bizi kuşatırken teknoloji patronlarından da ardı ardına büyük itiraflar, iddialar ve “öngörüler” geliyor. Söz konusu öngörülerin haklı çıkıp çıkmayacağını zaman gösterecek ancak söz konusu ifadeler teknoloji tekellerinin insafına kalırsa nasıl bir dünya ile karşılaşabileceğimiz konusunda aydınlatıcı. Mevcut en iyi LLM’lerden biri olan Claude’un sahibi Anthropic CEO’su Dario Amodei ile başlayalım. Amodei, birkaç gün önce Axios’a verdiği röportajda önümüzdeki 1 ila 5 yıl içinde yapay zekanın giriş seviyesi tüm beyaz yaka işlerinin yarısını ortadan kaldırabileceğini ve işsizliği sıçratacağını ifade ediyor. Amodei’ye göre teknoloji, finans, hukuk ve danışmanlık sektörleri başta olmak üzere beyaz yakaları toplu işten çıkartmalar bekliyor. Amodei’nin senaryosuna göre yapay zeka; kanseri çözecek, ekonomiyi büyütecek ve işsizliği yüzde 20’lere çıkartacak.

Geniş dil modellerini çalıştıran kartların da üreticisi Nvidia’nın CEO’su Jensen Huang daha farklı bir tablo çiziyor: “İşinizi yapay zeka elinizden almayacak, yapay zeka kullanan biri elinizden alacak.” Huang’a göre yapay zeka kullanmayı bildiğiniz sürece otuz ila kırk milyon yeni iş söz konusu olacak. Google Deepmind CEO’su Demis Hassabis de benzer görüşte: “Önümüzdeki 5 ila 10 yıl içinde, […] bazı işler kesintiye uğrayacak; yeni, daha değerli, genellikle daha ilginç işler yaratılacak.” Craft Ventures Kurucusu David Sacks’a göre 5 yıl içinde robotlar her şeyi yapabilir hale gelecek. Duolingo’nun başı Luis von Ahn yapay zekanın insanlardan daha iyi öğretmenlik yaptığını ama çocuk bakımı için okullara yine de ihtiyaç olduğunu ilan etti bile. Daha da uzatabiliriz bu listeyi ancak örüntünün görülmesi için bu kadarı yeterli. Teknoloji patronları yapay zekanın her şeyi insandan daha iyi yapabilir hale geleceği iddiasında. Anlaşamadıkları konular bunun ne kadar zamanda olacağı ve ne gibi sonuçlar doğuracağı… Ya da en azından inanmamızı bekledikleri, pazarlanan senaryo bu.

Oysa teknoloji tekellerinin pratikleri başka bir gerçekliğe işaret ediyor: Yapay zeka çalışmalarının her şeyi yapabilecek bir yapay zeka modeli ile sonuçlanıp sonuçlanmaması önemli değil. “Ürün” yeterince kârlı olduğu sürece yeterince işe yaramasa da olur. Tam da bu yüzden Google arama sonuçlarını yapay zeka özetleri ile değiştiriyor. OpenAI, Apple Tasarımcısı Jony Ive ile birlikte Humane AI Pin ya da Rabbit r1 vakalarına benzer şekilde işlevsizliğin eşiklerinde dolaşması muhtemel yeni bir AI cihazını daha var olmadan pazarlamaya çalışıyor. Şirketler çıkan işin niteliğine bakmadan mevcut modelleri her işte kullanmaya çalışıyor.

“Hiç işe yaramıyor mu bu yapay zeka?” sorusunun yanıtı bugün “Ne kadar güvenilir sonuca ihtiyacınız var?” sorusu ile bağlantılı. Mahkemelere sunulan ve gerçekte mevcut olmayan, yapay zeka tarafından uydurulmuş vaka ve atıfların bir veri tabanı var örneğin. Yapay zeka desteği ile yazılmış kodların potansiyel güvenlik zaafları henüz büyük bir krize yol açmadı ama ciddi bir risk olarak önümüzde. Daha yılın 2025 olup olmadığı ya da 9.11’in 9.1’den büyük olup olmadığı gibi oldukça basit konularda bile halüsinasyonlara kapılabilen ve bu halüsinasyonlarını ikna edici bir şekilde pazarlayabilen kusurlu bir teknoloji var elimizde. Nerelerde ne kadar kullanılabilir fazlasıyla tartışmalı. 2022’de İsveç şirketi Klarna, OpenAI ile iş birliği ile 700 çalışanını işten çıkartarak yapay zeka destekli çözümlere yönelmişti. Şirket geçtiğimiz günlerde yapay zeka temsilcilerinin beklentilerini karşılayamadığını itiraf ederek, özellikle uzaktan müşteri destek rolleri için insan çalışanları yeniden işe almaya başlayacaklarını duyurdu. Teknoloji şirketlerince pazarlanan ile mevcut modellerin becerileri arasındaki fark Klarna gibi daha birçok vakaya yol açabilir.