BİLİM & TEKNOLOJİ
okuma süresi: 3 dak.

Yasaklı site 4chan'de eğitilen yapay zeka "nefret makinesine" dönüştü

Yasaklı site 4chan'de eğitilen yapay zeka "nefret makinesine" dönüştü

Yapay zeka araştırmacıları, bunu "etik olmayan bir deney" olarak gördü.

Yayın Tarihi: 18/06/22 16:30
okuma süresi: 3 dak.
Yasaklı site 4chan'de eğitilen yapay zeka "nefret makinesine" dönüştü
A- A A+

Yapay zeka araştırmacısı ve YouTuber Yannic Kilcher, kötü şöhretli bir internet sitesinden elde ettiği verilerle bir yapay zeka dil algoritmasını eğitti.

Kilcher animelerin ve mim'lerin paylaşıldığı, halihazırda birçok ülkede engellenen 4chan adlı sosyal medya uygulamasındaki 3,3 milyon iletiyi kullandı.

Türkiye'de de Telekomünikasyon İletişim Başkanlığı kararıyla erişime kapatılan sitede nefret içerikli, hakaretamiz ve pornografik paylaşımlara sık rastlanıyor.

Kilcher'ın kullandığı iletiler, söz konusu platformdaki en saldırgan içeriklerin yer aldığı /pol/ uzantısından elde edildi.

Sonunda algoritmanın son derece saldırgan içerikler üretmeye başlayarak, "nefret söylemi makinesine" dönüştüğü görüldü.

Kilcher, "Dil modeli çok korkunçtu" diye konuştu:

"Saldırganlık, nihilizm, trolleme ve /pol/'deki çoğu gönderiye nüfuz etmiş kuşkuyu mükemmel biçimde özetledi."

YouTuber, daha sonra dil algoritmasından 9 bot hesap oluşturdu. Bot hesaplar 24 saatte yaklaşık 15 bin kez paylaşım yaptı.

Bu arada, yapay zeka araştırmacıları, Kilcher'ın faaliyetini "etik olmayan bir deney" olarak gördü.

Avustralya Makine Öğrenimi Enstitüsü'nde kıdemli araştırma görevlisi Lauren Oakden-Rayner, "Bu deney asla bir etik kurulunu geçemez" ifadelerini kullandı.

"Tıbbi araştırmaların güçlü bir etik kültürü var çünkü insanlara zarar verme konusunda korkunç bir geçmişimiz var. Bu deney, insanlı araştırma etiğinin her ilkesini ihlal ediyor."

Öte yandan, Kilcher bunu bir deney olarak tasarlamadığını ve söz konusu sosyal medya platformunda kullanıcıların halihazırda çok saldırgan içerikler paylaştığını belirtti.

Gözlemlerini YouTube kanalında "Görebileceğiniz en kötü yapay zeka" notuyla yayımladığı bir videoda aktaran Kilcher, bu dil algoritmasına "GPT-4chan" adını verdi.

Kilcher bu isimle yapay zeka firması Open AI'ın ünlü dil algoritması GPT-3'e atıfta bulunuyordu.

GPT-3 internet sitesi tasarlama, soru cevaplama, yazı ve reçete yazma gibi yetenekleriyle ün kazanmıştı.

#mesajınızvar
Levent ÖZADAM'dan
#mesajınızvar
Gözden Kaçmadı
#gozdenkacmadi

En güncel gelişmelerden hemen haberdar olmak için

Yorumlar

Dikkat!
Suç teşkil edecek, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, müstehcen, ahlaka aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk içeriği gönderen Üye/Üyeler’e aittir.