"Tehlikeli" yapay zeka, olmayan kelimeler üretiyor

Var olmayan kelimeler üreten yeni bir yapay zeka geliştirildi. Tek adımlı internet sitesi, olmayan kelimeler için yapay zeka tarafından oluşturulmuş yeni tanımlar geliştiriyor.

ThisWordDoesNotExist.com "wacamole" (tatlı mısır unu karışımıyla yapılan tek kişilik waffle hamuru porsiyonu), "pileset" (bir şeyin kütlesini ya da şeklini oluşturmak) veya "prayman" (bir toplumda ya da kuruluşun en önemli veya önde gelen erkekleri) gibi kelimeler oluşturuyor.

Kullanıcılar sitedeki bir düğmeyi tıklayınca yeni bir sözcük yaratılıyor.

İnternet sitesini San Francisco merkezli geliştirici Thomas Dimson geliştirdi. Daha önce Facebook'a ait Instagram için çalışan mühendis Dimson, uygulamanın öneri kısmının algoritmasını geliştirmişti.

Yeni kelimeleri oluşturan gerçek yapay zeka, doğal dil işleme algoritması Transformers'a ve dil çerçevesi GPT-2'ye dayanıyor. GPT-2 algoritması, bir metin parçası verildiğinde mevcut bilgileri kullanarak bir sonraki kelimeyi öngörebiliyor ve bir insanın yazdığı metinden neredeyse ayırt edilemeyecek bir metin yaratıyor.

GPT-2 "piyasaya sunulmak için çok tehlikeli" olduğuna dair kötü bir ün kazanmıştı ama araştırmacılar daha sonra algoritmayı kullanıma hazır hale getirdi.

Site, sosyal medya sitesi Reddit'in en çok beğeni toplayan içeriklerinden alınan 8 milyon internet sayfasının oluşturduğu veri tabanını inceleyerek çalışıyor. Algoritmalar, bir kelimenin yanında görülen başka bir kelimenin ne zaman kullanıldığını algılayabiliyor. Bu bilgiyi kullanmak (ve yeterince kez çoğaltmak) da onların yeni kelimeler ve cümleler oluşturabileceği anlamına geliyor.

Tıpkı diğer tüm yapay zekalar gibi bu sistem de mükemmel değil. Sitenin alt kısmında bulunan küçük bir sorumluluk reddi beyanı "kelimelerin incelenmediğini ve öğrenim kümesindeki önyargıyı yansıtabileceğini" belirtiyor.

Yapay zeka sistemleri, kontrolsüz olduğu ya da savaş amacıyla kullanıldığı için sıklıkla eleştirilse de birçok faydası bulunuyor.

Veriye dayalı platformlar, yasadışı vahşi yaşam ticaretini aksatmaya yardım etmenin ya da düşünceleri beyninizden metne dolaysızca çevirmenin yolu olarak teşvik ediliyor.