Yapay zekada gizli profilleme, güvenlik ve mahremiyeti tehdit ediyor

ANKARA (AA) - Son dönemde ChatGPT'nin kullanıcıların siyasi görüşleri, dini inançları gibi hassas bilgilerini sınırsız olarak etiketleyip profillemesi yönündeki iddialar, ciddi soru işaretlerine yol açtı.

ChatGPT'nin kurucusu OpenAI gibi yapay zeka şirketleri, gizlilik politikalarında kullanıcıların kişisel verilerini korumak için teknik ve idari önlemler aldığını resmi açıklamalarında belirtiyor. Ayrıca, kullanıcıların verilerinin model eğitimi için kullanılıp kullanılmayacağına karar verme hakkı olduğunu da sıklıkla vurguluyorlar. Ancak bazı uzmanlar, veri işleme süreçlerinin yeterince şeffaf olmadığını öne sürüyor.

Yüksek Veri Bilimi Mühendisi Emre Durgut, AA muhabirine yaptığı açıklamalarda, yapay zeka sistemlerinin sadece teknik değil, aynı zamanda hukuki ve toplumsal sorumluluk taşıdığına dikkati çekti.

Durgut, "En büyük risk, kullanıcılardan elde edilen kişisel bilgilerin, etiketleme yoluyla her kullanıcı için bir profil oluşturulmasıdır. Bu profiller, kullanıcının siyasi görüşleri, dini inançları, sağlık durumu gibi hassas nitelikteki kişisel verilerini içerebilir. Eğer bu bilgiler, kullanıcının açık rızası olmaksızın veya yasalara aykırı bir şekilde işleniyorsa, ciddi gizlilik ihlalleri meydana gelir." dedi.

Veri işleme süreçlerinin çoğunlukla kullanıcıdan gizlendiğini ve hukuki çerçevelerin çiğnendiğini belirten Durgut, "Kullanıcı verilerinin, özellikle de hassas kişisel verilerin etiketlenmesi ve profillemesi iddiaları doğruysa, bu durum başta Avrupa Birliği Genel Veri Koruma Tüzüğü (GDPR) ve Türkiye'deki Kişisel Verilerin Korunması Kanunu (KVKK) olmak üzere birçok yasal çerçeveyi ihlal etmektedir." diye konuştu.

Kullanıcıların genellikle sistemin nasıl çalıştığını tam olarak bilemediğinden, verdikleri bilgilerin nasıl analiz edildiğini fark edemediğini dile getiren Durgut, "Bu yasalar, kişisel verilerin işlenmesi için açık rıza, veri minimizasyonu, amaca bağlılık ve şeffaflık ilkelerini temel alır. Hassas verilerin (siyasi görüş, dini inanç vb.) işlenmesi için ise çok daha katı şartlar öngörür. Eğer platformlar, bu tür verileri yasal bir dayanağı olmaksızın işliyor, etiketliyor ve profil oluşturuyorsa, bu durum açıkça hukuka aykırı bir veri işleme faaliyeti anlamına gelir." değerlendirmesinde bulundu.

Etiketleme ve profilleme faaliyetlerinin tespitinin, teknik ve hukuki uzmanlık gerektiren karmaşık bir süreç olduğuna değinen Durgut, "Bu alan henüz çok yeni ve dünya çapında bir rekabet oluştuğu için bağımsız denetçilerin henüz sürece dahil olmadığını gözlemliyoruz. Bu nedenle kullanıcı girdileri ile sistem çıktılarının karşılaştırılması bilgilerin nasıl etiketlendiğini gösterebilir. Bu platformlarda hangi bilgilerinizin işlendiğine dair doğru birkaç teknik soru sorarak ipuçları elde edebilirsiniz." ifadelerini kullandı.

Yasal düzenlemelerin yeterli olup olmadığı sorusunu da yanıtlayan Durgut, GDPR ve KVKK gibi yasaların güçlü temellere sahip olduğunu, ancak günümüz yapay zeka sistemlerinin dinamik yapısının yeni düzenlemeleri gerekli kıldığını belirtti. Durgut, "Özellikle yapay zeka etiği, algoritmik şeffaflık, açıklanabilirlik ve otonom sistemlerin sorumluluğu gibi alanlarda uluslararası düzeyde kabul görecek yeni standartlara ve normlara ihtiyaç vardır." dedi.

Sistemin verdiği yanıtların zamanla kişiye özel hale geldiğini belirten Durgut, bunun reklam, işe alım ya da finansal kararlar gibi alanlarda ayrımcılığa neden olabileceğini söyledi.

Emre Durgut, "Örneğin, bir yapay zeka sisteminin kullanıcıların metin girdilerini analiz ederek, belirli bir siyasi görüşe, etnik kökene, dini inanca sahip olduğuna dair yanlış bir etiketleme yaptığını düşünelim. Bu yanlış etiketleme, kişiye özel reklam gösterimlerinden, kredi başvurularının reddine, hatta işe alım süreçlerindeki önyargılara kadar somut ayrımcılıklara yol açabilir." uyarısında bulundu.

Verilerin sızması halinde ise zincirleme etkinin çok daha ciddi sonuçlar doğurabileceğini vurgulayan Durgut, bilgilerin kötü niyetli aktörlerin eline geçmesi halinde sosyal mühendislik saldırıları, şantaj, dolandırıcılık gibi güvenlik açıkları doğacağını, kritik pozisyonlardaki bireylerin verilerinin ulusal güvenlik tehdidine dönüşebileceğini ifade etti.

Kullanıcılara uyarılarda da bulunan Durgut, "Öncelikle, bu tür sistemlere hassas kişisel bilgilerinizi olabildiğince vermekten kaçının. Sadece tek bir platformu kullanmadan farklı bilgileri dağıtarak riski azaltmaya çalışın. Bu tür sistemlerin kullanımında farkındalığınızı artırın ve şüpheci bir yaklaşımla hareket edin." diye konuştu.

ChatGPT ve benzeri yapay zeka uygulamaları üreten teknoloji firmalarına da büyük bir görev düştüğüne işaret eden Durgut, şunları kaydetti:

"Bu firmalar, şeffaf ve açık bir şekilde veri işleme süreçlerini ve kullanım politikalarını anlaşılır biçimde açıklamalılar. Şirketler, bağımsız denetimlerle uygulamalarını düzenli olarak denetletmeli ve sonuçlarını kamuoyuyla paylaşmalıdırlar. Kullanıcılara verileri üzerinde daha fazla kontrol ve yönetim yetkisi vermelidirler (örneğin, veri silme, erişim veya düzeltme hakları). Etik kurullar ile şirket içinde güçlü kurallar oluşturmalı ve uygulanabilir politikalar benimsemelidirler."

Muhabir: Firdevs Bulut Kartal