YouTube, haftalarca süren kullanıcı şikayetlerinin ardından nihayet “Cute Cat AI” adlı kanalı kapattı. Ancak bu hamle, platformda giderek büyüyen daha büyük bir sorunu gündeme getirdi: YouTube’un filtrelerini aşarak çocuklara yönelik rahatsız edici içerikler sunan yapay zeka tarafından üretilmiş videolar.
Binlerce aboneye ulaşan kanal, yapay zeka tarafından üretilen sevimli kedi animasyonlarını kullanarak çocuklara yönelik uygunsuz içerikleri gizliyordu. Birçok kullanıcı, haftalar boyunca bu kanalı şikayet ettiklerini ancak YouTube’un geç harekete geçmesinden dolayı hem rahatlamış hem de hayal kırıklığına uğramış hissettiklerini dile getirdi.
Şu anda kanala ulaşmaya çalışanlar, sayfanın kaldırıldığını görecek. Ancak YouTube, kullanıcıların “Elsagate 2.0” olarak adlandırdığı daha büyük bir sorunla mücadele ediyor: Çocuk dostu içerik gibi görünen, ancak gerçekte rahatsız edici ögeler barındıran yapay zeka destekli içerik üretim ağları.
Reddit’te bir kullanıcı, “Eğer ‘cute cat AI’ diye arama yaparsanız, aynı yöntemi kullanan onlarca yeni kanal karşınıza çıkıyor,” diyerek durumu özetledi. “Biri kapatıldığında, neredeyse anında on tane daha açılıyor.” Bu kanalları endişe verici kılan şey, yapay zekanın gelişmiş animasyon teknikleriyle kitlesel olarak masum görünen içerikler üretebilmesi. Üretim sürecinin otomatik olması nedeniyle sürekli yeni videolar yüklenebiliyor. Bu da bir kanal kapatılsa bile içerik üreticilerinin hızla yeni hesaplar açarak benzer içerikleri paylaşmasını sağlıyor ve YouTube için sürekli bir mücadeleye dönüşüyor.
Bazı kullanıcılar, benzer içeriklere sahip birçok kanalın hâlâ aktif olduğunu belirterek, bunların ortak özelliklerini listeledi. Bu kanalların çoğu, yapay zeka ile üretilmiş hayvan animasyonları, anlamsız diyaloglar ve giderek rahatsız edici hale gelen tuhaf hikâyeler içeriyor.
İncelenen videolardan bazılarının bir saatten uzun sürdüğü görülüyor. Bu da demek oluyor ki, çocuklar bu içeriklere denk geldiklerinde uzun süre boyunca rahatsız edici görüntülerle karşılaşabiliyor.
YouTube’un platformdaki içerik denetimini iyileştirmek için sürekli çalıştığı açık. Ancak yapay zekanın, kitle üretim yoluyla aldatıcı içerik oluşturmayı kolaylaştırması, güvenlik önlemlerinin hızla gelişen tehditlere ayak uydurmasını zorlaştırıyor.
Şimdilik, ebeveynler için en güvenli seçenek YouTube Kids platformunu kullanmak. Burada içerikler daha sıkı bir şekilde denetleniyor ve bahsi geçen türde zararlı içeriklerin çocuklara ulaşması büyük ölçüde engelleniyor.