23 Şubat 2019 00:10

YouTube’un pedofili problemi, algoritmalar, filtreler…

Fotoğraf: Envato

Paylaş

İsmail Gökhan Bayram

Tüm yazıları

YouTuber Matt Watson, YouTube’un çocuk istismarı ile mücadelesinin pek bir işe yaramadığını ve platformun algoritmalarının istismarcıların ve pedofillerin işlerini kolaylaştırdığını geçtiğimiz gün yayınladığı bir video [0] ile ortaya koydu. 2 milyondan fazla kez izlenen videoda Watson, yeni açılmış bir hesap ve “bikini vurgunu” gibi masum bir arama ile YouTube’un öneri algoritmaları sayesinde birkaç tıklamada çocukların spor yaparken, dans ederken, oyun oynarken vb. videolarına ulaşıyor. Bir kısmı çocukların kendi kanallarında, bir kısmı da indirilip istismarcılar tarafından yeniden yüklenerek yayınlanan bu videoların altındaki yorumlarda istismarcılar sosyal medya hesaplarını, numaralarını takas ediyor, videonun çeşitli noktalarından zaman kodlarını birbirleri ile paylaşıyor. Platformun otomatik tamamlama algoritması da sunduğu önerilerle istismarcıların bu tip videoları bulmalarını kolaylaştırıyor. Yüz binlerce görüntülenme alan bu videolar YouTube tarafından reklam verilmeye uygun görülüyor. L’Oreal’den Fortnite’ın yapımcısı Epic Games’e, Disney’den AT&T’ye geniş bir skalada reklamlar bu videolara eşlik ediyor.

Watson’un konuyu gündeme taşımasının ardından birçok büyük marka verdiği reklamları durdurdu. YouTube ise 400’den fazla kanalı ve milyonlarca yorumu sildi. YouTube, kendisine verilen reklamların yüzde 99’unun uygun içeriklerde gösterildiğini iddia ediyor. Bu iddiayı doğru kabul etsek bile böylesine dev bir platform için -hele ki de çocuk istismarı söz konusu ise- yüzde 1 oldukça büyük bir sayıya tekabül ediyor. Üstelik mesele sadece reklam alan videolarla sınırlı da değil. Reklam alabilme şartlarının katılığını dikkate alarak bu videolardan kat be kat fazla sayıda reklam almayan ve çocuk istismarcıları tarafından kullanılan video söyleyebiliriz.

YouTube’un istismarı engellemek için çeşitli otomatik filtreleri ve algoritmaları var. Ancak bu filtre ve algoritmalar tıpkı telifli içerikleri tespit etmekte kullandıkları Content ID sistemi gibi oldukça sorunlu. Örneğin bir Pokémon Go videosunun başlığında geçen ve savaş puanı (Combat Points) anlamına gelen CP kısaltmasını bu bağlamdan bihaber sistemler “Çocuk Pornosu”nun kısaltması olarak algılayarak videoyu kaldırıp kanalı ve bağlı olduğu Google hesabını insan onayına dahi sunmadan otomatik olarak kapatabiliyor [1]. Öte yanda ise istismar amacıyla yüklenen videolar ve yorumlar konu ciddi şekilde gündeme gelip de reklam verenler kaçmaya başlayana kadar platformda rahatça barınabiliyor.

Her dakika 400 saatlik video yüklenen bir platformda bu sorunun kolay bir çözümü yok. Abuk sabuk algoritmalar ve filtreler ile sorunu çözmenin mümkün olmadığı ortada. Kullanıcıların YouTube’un ilgili sayfası [2] üzerinden yapacakları ihbarların elbette bir karşılığı var ancak sorumluluğu kullanıcılara yüklemeden önce bir YouTuberın tespit edebildiğini tespit edecek özel ekipler kurmak da YouTube için pek zor olmasa gerek.

[0] https://goo.gl/HrxhgR

[1] https://goo.gl/BYuZPh

[2] https://goo.gl/B2J6QN

YAZARIN DİĞER YAZILARI