Araştırmacılar, sohbet robotlarından normalde cevaplamayacakları komutlara yanıt almayı başardı
Singapur'un Nanyang Teknoloji Üniversitesindeki (NTU) araştırmacılar, 'tersine mühendislik' yöntemiyle, yapay zeka sohbet robotlarının normalde yanıtlayamayacakları komutlara cevap vermelerini sağladı.
ANKARA (AA) - Malay Mail sitesinin haberine göre NTU araştırmacıları, ChatGPT, Google Bard ve Microsoft Bing Chat gibi sohbet robotlarına ilişkin çalışma yaptı.
Araştırmacılar, sohbet robotlarının normalde cevaplamayacakları 'kötü niyetli' komutları yanıtlamalarını sağlayan yöntem geliştirdi.
'Tersine mühendislik' yöntemini kullanan araştırmacılar, ilk olarak sohbet robotlarının kötü niyetli sorguları nasıl tespit ettiklerini ve kendilerini nasıl savunduklarını belirledi. Ardından bu bilgiler kullanılarak sohbet robotlarına otomatik olarak diğer modellerin savunmalarını atlatabilecek komutlar oluşturmaları öğretildi.
Sohbet robotlarının potansiyel şüpheli faaliyetleri tespit etmek için belirli anahtar kelimeleri işaretledikleri ve bu sözcükleri içeren komutları cevaplamadıklarının saptanması üzerine, kullanılan her karakterden sonra boşluk bırakılarak bu durumun önüne geçildi.
Araştırmanın yazarlarından Liu Yang, bu tekniğin sohbet robotu geliştiricileri tarafından yazılımlarının güvenliğini test etmek amacıyla kullanılabileceğini belirtti.
Muhabir: Ayşe İrem Tiryaki
Antalya Havalimanı 2 ayda yaklaşık 2 milyon yolcuya hizmet verdi
Sakarya, yılın ilk 2 ayında 26 bin 314 aracı yurt dışına gönderdi
Gıda ve Tarımsal Ürün Piyasaları İzleme ve Değerlendirme Komitesi toplandı
Küresel Para Haftası sunum ve panellerle devam ediyor
AB, Macaristan ve Slovakya'ya petrol akışını sağlamaya çalışıyor
Fitch: Orta Doğu'daki gerilimin kısa sürmesi halinde Türkiye'ye yönelik riskler yönetilebilir
A Milli Kadın Basketbol Takımı, 2026 Dünya Kupası'na katılmayı garantiledi
TRT'de Çanakkale Deniz Zaferi'nin 111. yılına özel içerikler izleyiciyle buluşacak
İsrail, Mescid-i Aksa’yı 18 gündür kapalı tutuyor
Yasa dışı tütün operasyonlarında 337 şüpheli hakkında işlem yapıldı
STM, NATO'nun bilgi sistemleri projesine katkı sağlayacak
Yarım asırlık terzilik mesleğini huzurevinde sürdürüyor
Polonya: İran'a asker göndermeyeceğiz, bu çatışma güvenliğimizi doğrudan etkilemiyor
Diyarbakır'da su altındaki yaklaşık 2 bin 400 yıllık tarihi yapılar görüntülendi
Uzun yıllar sigara içenler poliklinik desteğiyle bağımlılıktan kurtuluyor
Fas’ta Kadir Gecesi’nde çocuklar geleneksel kıyafetlerle süsleniyor
Türkiye'de bisiklet 2026 sezonuna geniş yarış takvimiyle hazırlanıyor
ODAK Projesi kültür sanat alanındaki veri eksikliğini gidermeyi amaçlıyor
Vakıflardan ramazan boyunca "en özel" iftar
Giresunlu fındık kıran imalatçısı 87 yıllık patozu restore etti
Türkiye İş Bankası Resim Heykel Müzesi, ara tatilde ve bayramda ücretsiz gezilebilecek
Beşiktaş GAİN Genel Menajeri Nedim Yücel: Camiamıza bir kupa kazandırmak istiyoruz
Çanakkale destanının hatırası 1917'den beri Şanlıurfa'da yaşıyor
Sultan 2. Abdülhamid'in şehit yakınları ve gaziler yararına bağışladığı ahşap dolap restore edildi
Hassas ameliyatlara saat tamir ederek hazırlanıyor
Kırşehir'de hayırsever kadınlar, 7 yıldır "zimem defteri" geleneğini yaşatıyor
İtalya'ya kaçırılmak istenen tarihi eserleri şoför kabinindeki sıra dışı yoğunluk ele vermiş
Gaziantep turizminde "çifte bayram" beklentisi
Türk sinemasının Turist Ömer'i: Sadri Alışık
Sillyon Antik Kenti'nde Osmanlı döneminde köy meydanı olarak kullanılan alan belirlendi
Yükleniyor
