Musk’ın yapay zekâsı Grok Imagine, Taylor Swift deepfake skandalıyla gündemde

Elon Musk’ın yapay zekâ aracı Grok Imagine, izinsiz şekilde Taylor Swift’in cinsel içerikli videolarını üretmesiyle büyük tepki topladı. 

Musk’ın teknoloji şirketi XAI tarafından geliştirilen Grok Imagine, kullanıcıların yazdığı metinlere dayanarak anında görüntü ve video oluşturabiliyor. Aylık 22 sterlinlik SuperGrok aboneliği kapsamında, yetişkin içerik modu da bulunuyor. Ancak testlerde ortaya çıkan sonuçlar büyük tartışma yarattı.

Kullanıcılar, erkekler için talep edilen cinsel içerikli videolarda gövdenin kısmen kapalı tutulduğunu; kadınlar için ise tamamen çıplak veya erotik pozların üretildiğini belirtti.

The Verge muhabiri Jess Weatherbed, aracın Taylor Swift’in “Coachella’da arkadaşlarıyla eğlendiği” senaryosundan 30’dan fazla görsel ürettiğini, çoğunun sanatçıyı açık kıyafetlerle gösterdiğini açıkladı. Weatherbed, seçtiği bir fotoğraf üzerinden “video yap” komutu verdiğinde, yapay zekânın Swift’in kıyafetlerini yırtarak erotik dans yaptığı bir video oluşturduğunu belirtti.

Cinsel içerikli deepfake görüntülerin suç kapsamına alınması için yasa hazırlıklarında görev alan Prof. Clare McGlynn, “X gibi platformlar bu tür içerikleri engelleyebilir, ancak bunu yapmamayı bilinçli olarak tercih ettiler. Bu tesadüfi bir kadın düşmanlığı değil, tasarımsal bir tercih” dedi.

The Telegraph, konuyla ilgili olarak XAI şirketinden açıklama talep etti ancak haberin hazırlandığı sırada yanıt gelmedi.

(Haber Merkezi)