PhotoGuard, yapay zeka aracılığıyla görsellerin suiistimal edilmesini önlüyor

Yapay zekanın görüntüleri son derece ikna edici bir gerçeklikle değiştirebileceğine hiçbir şüphe yok. Zira öyle bir hale geldi ki gerçek olanı sahte olandan ayırmak zor bir hal aldı.

DALL-E ve Midjourney modelleri gibi yapay zekadaki son gelişmeler artık yalnızca metinsel komutlara dayalı olarak görüntüleri kolayca oluşturabiliyor veya değiştirebiliyor.

Birbiri ardına gelen yenilikler, olaylara yönelik gerçek dışı görüntüler ve bunların neden olabileceği panik ve şantaj gibi olası suiistimaller açısından bir dizi etik soruyu da gündeme getiriyor.

Massachusetts Teknoloji Enstitüsü’nün (MIT) Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı’ndaki araştırmacılar, PhotoGuard adı verilen bir teknolojiyle karşı bir savunma sunuyor.

Söz konusu yenilikçi araç, yaratıcılarının ‘pertürbasyonlar’ veya ‘şifreler’ olarak tanımladığı, görüntü piksellerinde insanlar tarafından çıplak gözle görülemeyen ancak görüntüleri oynamaya karşı koruma sağlamak üzere yapay zeka açısından önemli olan küçük değişiklikler yapıyor.

MIT’den PhotoGuard araştırmasının baş yazarı Hadi Selman, Şarku’l Avsat’a verdiği demeçte bu yeniliğin nasıl çalıştığını açıkladı.

Hadi Selman, yapay zeka görüntülerinin potansiyel olarak suiistimal edilmesi tehlikesine dikkat çekerek şunları söyledi:

“Felaket niteliğindeki olaylar hakkında yanlış içerik yayma veya kişisel görüntüleri manipüle etmek oldukça kolay. Bu, piyasayı sekteye uğratmaktan tutun da şantajlara kadar çeşitli tehditler oluşturuyor.”

PhotoGuard’ın çalışabileceği yapay zeka programlarıyla ilgili bir soruya cevap veren Selman, PhotoGuard için denenenlerin yalnızca internette mevcut olan ve Stability AI şirketinin Stable Difussion Models (Kararlı Yayılma Modelleri) adı verilen yapay zeka programlarıyla sınırlı olduğunu söyledi.

Selman, yapay zeka programları sunan şirketlerin bu yeniliği benimsemesinin önemine dikkat çekti.

Yanlış görsellerin yayınlanmasını önleyebileceği ve haber sektöründe yanıltıcı bilgilerin etkisini azaltabileceği için PhotoGuard teknolojisinin birçok uygulaması ve kullanımı bulunuyor. Kolluk kuvvetlerinde teknoloji, olay yeri görüntülerinin tahrif edilmeden kalmasını sağlayabilir. Ayrıca sosyal medya platformları, rahatsız edici içeriğin yayılmasını durdurmak için PhotoGuard’dan yararlanabilir. Bu teknolojinin uygulanabileceği görsel türleriyle ilgili bir soruya yanıt olarak, Hadi Selman, ister insan olsun, ister sanatsal çizimler olsun, farklı türlerde başarılı olabileceğini belirtti.

Hadi Selman ve meslektaşlarının PhotoGuard’ı tasarlarken karşılaştığı en büyük zorluk teknik değildi. Selman, Şarku’l Avsat’a, görüntü manipülasyonuyla mücadelenin ‘yapay zeka programları geliştiren şirketlerin ortak tepki vermesini gerektirdiğini ve politika belirleyicilerin, kullanıcıların verilerini yapay zeka yoluyla manipüle edilmekten korumak için düzenlemeler yapmayı düşünmesi gerektiğini’ söyledi.

Araştırmacılar, özellikle başta Photoshop olmak üzere herkesin hızlı bir şekilde eğitim alabileceği programları kullanarak, görüntüleri yasa dışı ve etik olmayan bir şekilde değiştirme ve çalma tehlikesini tamamen ortadan kaldıramayacaklarını belirtti. Ancak amaçlarının, PhotoGuard mevcut profesyonel düzenleme programlarının nasıl kullanılacağına dair önceden bilgi gerektirmediği göz önüne alındığında, yapay zeka programlarını kullanarak düzenleme ve sahtecilik konusunu daha büyük ölçekte daha zor hale getirmek olduğunu belirttiler. Günümüzün dijital çağında PhotoGuard, teknolojinin hem sorun hem de çözüm olabileceğinin bir kanıtı oldu.