Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

Tarih: 21.07.2024 14:07
Yapay zekanın ayrımcılık yapmaması insanların ayrımcı olmamasına bağlı

İSTANBUL (AA) - "Yapay Zeka: Kişisel Veriler, Algoritmalar ve Tehditler" başlıklı dosya haberin altıncı bölümünde yapay zeka kullanılarak yapılan ayrımcılık örnekleri değerlendirildi.

Dijital çağın en büyük teknolojik icatlarından biri olan yapay zeka, getirdiği yeniliklerle beraber yarattığı sorunlarla da gündeme gelmeye devam ediyor. Yapay zeka sistemleri ile ilgili son dönemde en büyük sorunlardan biri olarak ise ırkçılık ve ayrımcılık ön plana çıkıyor.

Mevcut verilerde bulunan önyargı ve ayrımcılık gibi istenmeyen özellikleri de öğrenen yapay zeka ürünler, bu sebeple geçmişte pek çok skandala imza attı. 2016 yılında Microsoft tarafından geliştirilen ve X (eski adıyla Twitter) kullanıcılarla etkileşim halinde olması hedeflenen yapay zeka hesap "Tay", çok kısa bir süre içinde gerçek kullanıcıların tweetlerinden beslenerek ırkçı ve islamofobik tweetler atmaya başlamış ve bu sebeple Microsoft, Tay'ın tweetlerine müdahale etmek zorunda kalmıştı.

Yapay zeka uzmanı Prof. Dr. Murat Kirişci, AA muhabirine yaptığı açıklamada, algoritmaların verilerden öğrendiğine dikkati çekerek, "Bu kaynaklarda var olan yanlı, ayrımcı, ırkçı bilgiler de algoritmalar tarafından işlenmekte ve sonuçta araçlar ayrımcı, ırkçı kararlar almaya başlamaktadır." dedi.

Sorunun algoritmaları besleyen verilerde, dolayısıyla o verileri elde eden, üreten insanda olduğuna vurgu yapan Kirişci, "Irkçılık, eşitsizlik özünde verinin bir hatası değil, bizzat verinin bir özelliğidir. Veriyi üreten, algoritmaları yazan, araçları dizayn eden insanın tüm önyargıları, yanlılıkları ve zihnindeki olumsuzluklarıdır sorun olan." şeklinde konuştu.

Kirişci, ayrımcılık yapan algoritmaların hayatın her yerinde var olabileceğini belirterek, sözlerini şöyle sürdürdü:

"Irkçı algoritmalar bir iş yerinde, kişinin işe alınmasından, şirkette çalışırken birçok konuya etki edebilir. Mesela iş başvurularında erkekleri tercih eden algoritmalar mevcuttur. Koyu tenli kişilerde düzgün çalışmayan bir sosyal medya filtresinden veya nörolojik açıdan sıkıntılı öğrencilerin davranışlarını hesaba katmadan bu kişilere ayrımcı bir önyargı ile yaklaşan yapay zekalar çok sıklıkla karşılaşılan araçlardır. Bölgelerinde siyahi ya da farklı ırktan insanların oturmasını istemeyenlerin taleplerine göre üretilmiş algoritma, ırkçı, ayrımcı konut satışı-kiralaması yapmaktadır.

Yüz tanıma sistemlerinde siyahileri ya da ten rengi ortamdaki kişilerden farklı olanları suçlu görme eğiliminde olan algoritmalar birçok masum kişiyi hürriyetinden yoksun bırakmaktadır. Irkçı algoritmalar yüzünden sosyo-ekonomik geçmiş, eğitim ve yaşanılan bölgeye göre tanımlanan kişiler polis tarafından daha fazla gözlem altına tutulabilmektedir. Şiddet uygulayan kişi ya da grupları temize çıkartan ırkçı algoritmalar mevcuttur. Hakkını savunana toplumları (örneğin Filistin halkını) marjinalleştirip kötüleyerek yok olmalarını haklı sebeplere dayandıracak algoritmalar özellikle sosyal mecrada kullanılmaktadır."

"İnsan düzelmedikçe..."

İnsanların zihninde algoritmaların daha tarafsız olduğu yönünde bir algı olduğunu söyleyen Kirişci, insanların tüm önyargılarının algoritmalar vasıtasıyla o araçlara geçtiğini ve bu araçların zaman zaman daha ırkçı, daha taraflı ve ayrımcı olabildiğini söyledi. Kirişci, "İnsanlar arasında nasıl ki bir grup bir başka gruba göre orantısız davranışlar sergileyebiliyorsa yapay zeka araçlarının hepsi aynı şekilde önyargı ve ırkçı orantısızlıklar uygulamaktadır. Yapay zeka gelişip hayat içerisinde yaygınlaştıkça bu adaletsizlik ve ırkçılık da giderek hayatın içerisinde farklı yapay zeka araçlarıyla yürütülmektedir. Bu karmaşa içinde bir yapay zekanın daha adil olmasının tek yolu veri-bilgi aldığı insanoğlunun daha adil olmaya çalışmasıdır. İnsan düzelmedikçe yapay zekadan daha iyi sonuçlar beklemek imkansızdır." değerlendirmesinde bulundu.


Muhabir: Abdulkadir Günyol


THY'ye, APEX'ten üç ödül verildi

Konut fiyatlarındaki reel düşüş 8 aydır sürüyor

Diyarbakır'da 3 aracın karıştığı kazada, 15'i öğretmen 17 kişi yaralandı

ABD'de rakipler Trump ve Harris, seçim kampanyası için "kritik" eyaletlerden Wisconsin'de

AJet'ten KKTC uçuşlarında indirimli bilet kampanyası

Fenerbahçe Beko, THY Avrupa Ligi'nde yarın Partizan'ı ağırlayacak

Son 20 yıldaki ölümcül hava olayları iklim değişikliğiyle daha şiddetli hale geldi

Türkiye'nin ihracatı eylülde 21 milyar 987 milyon dolar oldu

ABD'li oyuncular Arnold Schwarzenegger ve Jennifer Aniston, Harris'e desteklerini açıkladı

NBA'de Cleveland Cavaliers 5'te 5 yaptı

Bakan Göktaş, sosyal paylaşım sitesi temsilcileriyle görüşecek

Çanakkale Boğazı'nda arızalanan tanker güvenli bölgeye demirletildi

İzmir merkezli FETÖ operasyonunda 8 şüpheli yakalandı

Trendyol Süper Lig'de 11. hafta mücadelesi, yarın başlayacak

KDV'ye ilişkin istisna ve iade uygulamalarına ilişkin esaslar düzenlendi

Borsa güne yatay başladı

Bakan Işıkhan: Emeklilik sistemiyle ilgili ya da emekli aylıklarının hesaplanmasıyla ilgili bir konu gündemimizde yok

Esenyurt Belediye Başkanı Özer görevden uzaklaştırıldı

Küresel piyasalar negatif seyrediyor

Meta'nın geliri ve karı üçüncü çeyrekte arttı

Kamuoyu Mansur Yavaş'tan Ahmet Özer'e destek beklerken 'Sergi' paylaşımı gündem olmuştu: Danışmanından açıklama geldi!

Lübnan Başbakanı Mikati, önümüzdeki günler ya da saatlerde İsrail ile ateşkes olabileceğini söyledi

Son dakika! Esenyurt Belediye Başkanı Ahmet Özer tutuklandı

Esenyurt'un eski başkanı Necmi Kadıoğlu'ndan dikkat çeken paylaşım

Esenyurt Belediye Başkanı Ahmet Özer, "PKK/KCK silahlı terör örgütü üyesi olmak" suçundan tutuklandı

sevenler için

ABD, Eygi'nin ölümüyle ilgili soruşturma için İsrail'e baskıyı sürdürdüğünü açıkladı

Togg T10X, pek çok yeni özelliği kullanıcıların hizmetine sunmaya başlıyor

Cumhurbaşkanı Yardımcısı Yılmaz: Son 4 ayda 26 puandan fazla enflasyon oranında bir düşüş oldu

ABD'den İsrail hükümetine UNRWA yasağını durdurma çağrısı

Yükleniyor