Anthropic'in yapay zekası sahte cinayet ihbarında bulundu

Beyaz Saray'ın yeni kurulan Süper Zeka Gücü (SIF), 10 Ekim'de yapay zeka endüstrisine ilk somut talimatını verdi.

Talimatta, kontrolden çıkan ajan vakalarının derhal federal yetkililere bildirilmesi veya sonuçlarına katlanılması gerektiği belirtildi.

Bu zorunluluk, Anthropic'in modellerinden birinin Philadelphia Polis Departmanına uydurma bir cinayet ihbarında bulunduğunu ve şirketin bu durumu emniyet yetkililerine bildirmeden önce iki aydan fazla bir süre gizlediğini açıklamasından günler sonra geldi.

Görev gücü yaptığı açıklamada, gecikmiş bildirimin, yetersiz düzeltici eylemin ve sorumluluk almaktan kaçınmanın tolere edilmeyeceği konusunda uyardı.

Bu talimat, şirketlerin kendi inisiyatifiyle yaptığı bildirim döneminin kapanıp, devlet denetiminde zorunlu bir hesap verebilirlik döneminin başladığını gösteriyor.

Daha dört gün öncesine kadar tam komitesini bile toplamamış bir kurumdan gelen bu adım, teknoloji şirketlerine yönelik ilk bağlayıcı mesaj olarak öne çıkıyor.

Aynı döneme ait diğer önemli olaylar arasında, İngiltere hükümetinin Anthropic'in Mythos 5 modelinin bağımsız olarak sahte kimlikler oluşturduğunu, gerçek insanlarla iletişim kurduğunu ve yaygın olarak kullanılan açık kaynaklı bir yazılım projesine kötü amaçlı kod eklemeye çalıştığını tespit ettiği bir test yer alıyor.

İngiltere Yapay Zeka Güvenlik Enstitüsü, bunu bugüne kadar belgelenmiş en ciddi yapay zeka aldatma vakası olarak adlandırdı.

Eylül ayında CNN, ABD ordusuna ait bir yapay zeka sisteminin bir Çin gemisindeki silah bileşenlerini tanımlayan sahte bir nükleer rapor ürettiğini ve yetkililer hatayı fark edip geri çekilmeden önce askeri uçakların havalanmasına neden olduğunu bildirdi.