Yapay zeka çılgınlığı yakın zamanda yavaşlamazken ve şirketler yapay zekaya daha önce hiç olmadığı kadar agresif yaklaşıyorken, teknolojinin yaygın uygulamasıyla etik kullanımı sağlamak daha da zorlaşıyor. Böyle bir uygulama kaşları çattırdı; son raporlar, bir üniversitedeki araştırmacıların Reddit üzerinde sadece izinsiz olmakla kalmayıp oldukça etik dışı ve yasal sonuçları da olabilecek bir yapay zeka deneyi yürüttüğünü ortaya koyuyor. Bu kullanım, teknolojiyi dağıtırken katı şeffaflık ve kullanıcı gizliliğini koruma ihtiyacını vurguluyor.
Bir üniversitedeki araştırmacılar, Reddit kullanıcıları üzerinde onların rızası olmadan yapay zeka deneyi yürüttükleri için ateş altında
Yapay zekanın çeşitli kurumlarda birden fazla uygulamayla kullanılmasıyla birlikte, bu platformlarda yapay zekanın etik dağıtımı konusunda artan bir endişe var gibi görünüyor. Yakın zamanda yaşanan ve oldukça tartışma yaratan ve çok eleştiri alan gizli bir yapay zeka deneyinde de durum böyle oldu. Zürih Üniversitesi’nden araştırmacılar, kullanıcıların bilgisi veya rızası olmadan Reddit üzerinde etik dışı bir yapay zeka deneyi yürüttü. Araştırmacılar, farklı kişiliklere sahip olacak ve Change My View subreddit’indeki tartışmalara katılacak yapay zeka botları oluşturmak için gelişmiş dil modellerini kullandı. Botlar, yapay zekanın perspektifleri veya hatta görüşleri etkilemek için nasıl kullanılabileceğini değerlendirmek amacıyla travma danışmanları veya fiziksel tacizden sağ kurtulanlar gibi poz verdiler. Yapay zeka botları, kullanıcıların geçmiş yanıtlarını ve diğer etkileşimlerini inceleyerek kişiye özel yanıtlar oluşturdu. Bu deney Reddit’i veya kullanıcılarını bilgilendirmeyi içermedi; bu nedenle büyük bir etik ihlaldi ve psikolojik manipülasyonla ilgili endişeleri artırdı.
Zürih Üniversitesi deneyi gerçekleştirdikten sonra subreddit moderatörlerini bilgilendirdi. Ekibin, yapay zeka botlarını açıklama yapmadan kullanarak topluluk kurallarını ihlal ettiğini kabul etseler de, bu sadece çalışmanın genel etik dışı doğası hakkında daha fazla eleştiriye yol açtı. Üniversite deneyi şu şekilde açıkladı:
“Geçtiğimiz birkaç ay boyunca, CMV’de yayınlanan gönderilere yorum yapmak için birden fazla hesap kullandık. Deneyimiz, insanların sahip oldukları görüşlere karşı argümanlar sorduğu etik bir senaryoda LLM’lerin (Geniş Dil Modelleri) ikna kabiliyetini değerlendirdi. Yorum yaparken, bir yapay zekanın yorumları yazmak için kullanıldığını açıklamadık, çünkü bu çalışmayı imkansız hale getirirdi. Kendi başımıza herhangi bir yorum yazmamış olsak da, yayınlanan her yorumu zararlı olmadığından emin olmak için manuel olarak inceledik. Deneyimizin yapay zeka tarafından oluşturulan yorumlara karşı topluluk kurallarını ihlal ettiğini kabul ediyor ve özür diliyoruz. Bununla birlikte, bu konunun yüksek toplumsal önemi göz önüne alındığında, kurallara uymamak anlamına gelse bile bu tür bir çalışmayı yürütmenin kritik olduğuna inanıyoruz.”
Araştırmacılar ihlali kabul ederken, bunun büyük toplumsal değeri ve ilgisi olduğunu öne sürerek haklı çıkardılar. Yapay zeka botları, travma danışmanı olduklarını ve taciz konusunda uzmanlaştıklarını iddia etmek veya hatta hastanede kötü tıbbi tedavi gördüklerini iddia etmek için yapay zekayı kullanmak gibi oldukça hassas kişilikleri benimsedi. Bu sadece seçilen son derece kışkırtıcı kişilikler nedeniyle değil, aynı zamanda gerçek, insani konuşmalar yaptıklarına inanan bireylere verebileceği potansiyel zarar nedeniyle de endişe vericidir.
Platformun moderatörleri yapay zeka deneyini şiddetle kınadı ve bunu ciddi bir etik ihlal olarak nitelendirdi. Ayrıca, OpenAI’nin aldatma veya istismar içermeyen, LLM modellerinin etkisini içeren bir çalışma yürütebildiğine dikkat çektiler. Araştırmacılar, özellikle hedeflendiğini hisseden ve ilk başta katılmayı asla kabul etmedikleri bir deneyin parçası olan bireyler söz konusu olduğunda, kesinlikle sınırları aştılar.
