New York işe alımlarda yapay zeka sistemini kullanan ilk şehir

New York, yeni çalışanların işe alınmasında yapay zeka uygulamalarının ve programlarının kullanımını düzenleyen ilk ABD şehri olmaya hazırlanıyor. Ancak burada şu soru ortaya çıkıyor: Yeni yasa gerçek bir fayda sağlamayı başarabilecek mi?

Tribune Media haberine göre önümüzdeki aylarda yürürlüğe girecek olan 144 sayılı yeni düzenleme, insan kaynakları departmanlarının tercihlerinde herhangi bir yanlılık olması durumunda yapay zekâ tabanlı işe alım araçlarını test etmelerini zorunlu kılan bir çerçeve oluşturuyor. Yeni yasa, işe alımlarının yapay zekâ sistemlerine dayandığı pozisyonlar için başvuru sahiplerinin bilmeleri gereken durumları da tanımlıyor.

Ancak bazıları, yeni yasanın gerçek içeriğinin boşaltıldığını ve boşluklarla dolu olduğunu iddia ediyor. Bununda tehlikeli bir emsal teşkil ettiğini savunuyor.

İşe alım kararlarına yönelik otomatik araçlar, işe alım sürecinin her aşamasında hızla ortaya çıkmakta. Bir iş ilanının önümüzde görünüp görünmeyeceğine algoritma sistemi karar veriyor. Yapay zeka uygulaması özgeçmişinizi anahtar kelimelerle tarar Bilgisayar programı ise kişilik özelliklerinizi tahmin etmeye çalışır. İş görüşmesi sırasında duygusal tepkileriniz, yüzünüzü tanıyan işitsel bir tanıma programı tarafından değerlendiriliyor.

Mevcut iş kanununun, yapay zeka teknolojilerinin bu akışını doğrudan ele almaması dikkat çekici. Bu araçların satıcıları, makinelerin insanlara kıyasla daha tarafsız olduğunu iddia ediyor. Ancak makine sistemleri genellikle önceden var olan önyargı kalıplarını simüle ediyor. Amazon şirketi 2018 yılında yapay zekaya dayalı bir işe alım motoru geliştirdiğinde, motor erkek adayları tercih etmeyi öğrendikten sonra vazgeçildi. İnsan hakları aktivistleri, bazı yeni bilgisayar değerlendirmelerinin engelli bireylere karşı önyargılı olduğunu söyledi. Bazı araştırmacılar, iş başvurusunda bulunan kişinin konuşma ve vücut hareketlerine odaklanan araçların gerçek bilimin ürünü değil, sahte olduğunu bildirdi.

Bununla birlikte, yapay zekanın tehlikesi, insanlara kıyasla daha önyargılı olması değil. Yapay zekanın tehlikesi, eylemlerinin ve kararlarının hesap verebilirlikten kaçma olasılığının daha yüksek olması.

New York Sivil Özgürlükler Birliği’nde bir araştırmacı olan Daniel Schwarz, “Bu araçlar her türlü ayrımcılığı şiddetlendirerek belirsiz hale getirebilir. Önyargı, bir bireysel seviyeden diğerine, tamamen farklı bir örgütsel seviyeye geçebilir” dedi.

Ne yazık ki 144 sayılı yerel yasanın kapsamı, yapay zeka araçlarının çoğunu düzenlemek için çok dar kapsamlı durumda.