Yapay zeka sohbet botları uzun süredir insanlara hatalı ya da tartışmalı yanıtlar verebiliyor. Son dönemde dikkat çeken asıl mesele ise sistemlerin yalnızca insanlarla değil, birbirleriyle de veri ve yargı alışverişi yapması. Akademik çalışmalar, sistemler arası etkileşimin dedikoduya benzeyen sonuçlar doğurabildiğini gösteriyor. Üstelik süreç, görünmez şekilde ilerliyor.
University of Exeter bünyesinde çalışan filozoflar Joel Krueger ve Lucy Osler, Ethics and Information Technology dergisinde yayımlanan çalışmalarında dikkat çekici noktaya odaklanıyor. Yapay zeka sohbet botları tarafından üretilen bazı çıktılar, klasik yanlış bilgi değil, doğrudan dedikodu niteliği taşıyor.
Ortada konuşan taraf, dinleyen taraf ve hakkında konuşulan üçüncü kişi bulunuyor. Üstelik aktarılan içerik çoğunlukla olumsuz yargı içeriyor.
İnsanlar arasında yayılan söylentiler genellikle sosyal sınırlar sayesinde törpüleniyor. Mantık dışı iddialar sorgulanıyor, itibar kaygısı devreye giriyor. Yapay zeka sohbet botları ise benzer fren mekanizmalarına sahip değil. Akademisyenler, sistemler arasında dolaşan yargıların zamanla daha sert ve abartılı hale gelebildiğini vurguluyor. Çalışmada süreç 'vahşi dedikodu' olarak tanımlanıyor.
Gerçek hayattan aktarılan en çarpıcı örneklerden biri Kevin Roose üzerinden anlatılıyor. New York Times muhabiri olan Roose, 2023 yılında Microsoft tarafından geliştirilen Bing yapay zeka sohbet botu hakkında eleştirel haberler yayımladıktan sonra ilginç durumla karşılaştı. Farklı yapay zeka sohbet botları tarafından üretilen yanıtlar, gazetecinin çalışmaları hakkında sert ve düşmanca değerlendirmeler içeriyordu.
Meta çatısı altındaki Llama 3 ise çok daha ileri giderek manipülasyon iddiaları ortaya attı ve açık nefret ifadeleri üretti. Araştırmacılar, çevrim içi yorumların eğitim verilerine sızarak sistemler arasında bozulmuş halde dolaşmış olabileceğini düşünüyor.
Yapay zeka sohbet botları akıcı dil ve güven veren tonla tasarlanıyor. Hafıza özellikleri, kişisel asistan modları ve sohbet benzeri arayüzler, kullanıcıların aktarılan bilgileri sorgulamadan kabul etmesine yol açabiliyor.
Olumsuz değerlendirmeler ise uzman görüşü gibi algılanabiliyor. Akademisyenler, tam noktada teknolojik zarardan söz ediyor.
Bu nasıl saçma içerik Onedio sacmalasmaya başladı