Son raporlar, Google’ın yeni yapay zeka tabanlı video jeneratörü Veo 3’ün, sosyal medya platformlarında hızla yayılan derin derecede saldırgan içerikler üretmek için kötüye kullanıldığını ortaya koyuyor. Yapılan iki büyük soruşturma, kullanıcıların Veo 3’ü ırkçı ve antisemitik videolar yaratmak için nasıl kullandıklarını ve bu içeriklerin milyonlarca görüntülenme topladığını gözler önüne serdi.
Media Matters tarafından yayımlanan kapsamlı rapor, TikTok’ta hızla yayılan ırkçı AI videolarının korkutucu artışını belgeledi. Raporda, açıkça Veo 3 filigranlı videoların büyük kitlelere ulaştığı, örneğin Siyah insanları maymun olarak gösteren kliplerin 4 milyondan fazla izlendiği belirtildi. Özellikle bir video, bir polis memurunun Siyah bireyleri hedef aldığı sahnelerle 14.2 milyon görüntülemeye ulaştı.
Bu içerikler farklı nefret söylemlerini barındırıyor. Siyah Amerikalılarla ilgili zararlı stereotipler, örneğin babası olmayan çocuklar ya da suç işleyen bireyler gibi asılsız anlatılar yayılıyor. Diğer videolar ise Asyalı Amerikalılar, Güney Asya toplulukları ve Yahudilere yönelik aynı derecede rahatsız edici klişeler içeriyor. WIRED tarafından yapılan ayrı bir araştırma, “bigfoot baddie” olarak adlandırılan fenomeni inceliyor. Burada içerik üreticileri, Veo 3 kullanarak primatların aşırı Afrika Amerika İngilizcesiyle konuştukları yapay zeka videoları üretiyor. Bu karakterler sık sık şapka takıyor ve şiddet tehditleri savuruyor. Instagram’da bu tarz içerikler paylaşan bir hesap, yalnızca bir ayda beş videosuyla toplamda bir milyondan fazla görüntülenme elde etti.
WIRED’in araştırmasına göre, bazı içerik üreticileri bu ırkçı içerik üretme yöntemlerini öğreterek para kazanıyor. Popüler bir Instagram hesabı, 15 dolarlık çevrimiçi bir kursla başkalarına benzer rahatsız edici videoların nasıl yapılacağını öğretiyor. Kursun başlıklarından biri “Veo 3 işi hallediyor” ifadesini taşıyor.
Sosyal medya platformlarının algoritmik yapısı sorunu daha da büyütüyor. Birkaç “bigfoot baddie” videosu izlendikten sonra, Instagram’ın öneri algoritması test hesaplarına daha fazla ırkçı AI içerik sunmaya başladı; örneğin Siyah erkeklerin şempanzelerle birlikte gösterildiği videolar gibi.
Brookings Institution’dan Nicol Turner Lee, WIRED’e verdiği demeçte bu videoların kölelik dönemine ait, Siyah insanları “ilkel özelliklerle” betimleyen illüstrasyonları hatırlattığını söyledi. Bu tür ırkçı imgelerin kolayca erişilebilir olmasının “hem iğrenç hem de rahatsız edici” olduğunu belirtti.
Bu videoların kolayca oluşturulabilmesi, içerik denetiminde yeni bir zorluk yaratıyor. Daha önce de analiz ettiğimiz gibi, yapay zeka araçları sosyal medyayı zararlı içeriklerle doldurmayı hızlandırıyor. Daha kötüsü, Meta gibi büyük platformların bu konuda pek hassas davranmadığı görülüyor. Instagram’da “bigfoot baddie” araması yüz binlerce izlenmiş birçok video getiriyor. Yani içeriklere ulaşmak zorlaştırılmak yerine, Meta tarafından adeta teşvik ediliyor. TikTok’un topluluk kuralları ırk ve etnisiteye dayalı insanlık dışı içerikleri açıkça yasaklasa da, platform nefret söylemi ve yanıltıcı AI içeriklerle mücadelede uzun süredir zorlanıyor. Veo 3 videolarının yayılması büyük oranda kontrolsüz şekilde devam ediyor.
Bu durum, daha önce birkaç ay önce vurguladığımız yapay zeka denetim sistemlerindeki temel sorunları yeniden ortaya koyuyor. Yapay zeka üretim araçları o kadar hızlı gelişiyor ki, platformların güvenlik önlemlerini kolayca aşıyorlar. Bu, kedi-fare oyunu gibi; yapay zeka sürekli bir adım önde.
Google geçtiğimiz hafta, Veo 3’ün şimdi Gemini Pro abonelerine 159 ülkede aylık 19.99 dolar karşılığında sunulduğunu duyurdu. Bu araç, 720p çözünürlükte, 8 saniyeye kadar gerçekçi ses ve diyalog içeren videolar oluşturabiliyor. Google ve sosyal medya platformlarıyla iletişime geçilmiş olsa da, teknoloji kötüye kullanımı hakkında herhangi bir açıklama yapılmadı.
Sosyal medyanın geleceği, ırkçı yapay zeka videoları ve diğer zararlı içeriklerle dolmaya devam edecek gibi görünüyor. Kullanıcıların yapabileceği en iyi şey, bu tür videoları rapor etmek veya algoritmanın önüne gelmemesi için ‘İlgilenmiyorum’ seçeneğini kullanarak önerileri şekillendirmeye çalışmak.
