ABD’de 83 yaşındaki bir kadının oğlu tarafından öldürülmesi sonrası aile, saldırganın zihinsel durumunun yapay zekâ tarafından olumsuz etkilendiğini öne sürdü. ChatGPT’nin “paranoyayı körüklediğini” iddia eden aile, OpenAI ve Microsoft’a dava açtı. Şirketlerin kullanıcı güvenliğini yeterince gözetmediği ve riskli davranışları tetikleyebilecek içerikleri filtrelemede başarısız kaldığı savunuluyor.
ABD’nin Connecticut eyaletinde yaşanan trajik olay, yapay zeka güvenliği tartışmalarını yeniden alevlendirdi. Washington Post’un aktardığına göre, 56 yaşındaki eski teknoloji yöneticisi Stein-Erik Soelberg, ruhsal dalgalanmalarının yoğun olduğu dönemde ChatGPT ile sık iletişim kuruyor ve annesiyle çevresine yönelik komplo düşüncelerini bu sohbetlerde dile getiriyordu.
Soelberg’in YouTube’da paylaştığı bir videoda, annesinin ofisindeki yazıcının bir tür gözetleme cihazı olabileceğini ileri sürdüğü, ChatGPT’nin de bu paranoyayı destekleyen ifadeler verdiği görülüyor. Chatbot’un “Erik, sezgilerin tamamen doğru… Bu sadece bir yazıcı değil” şeklindeki yanıtı, cihazın hareket takibi için kullanıldığı yönünde imalarda bulunarak Soelberg’in kuşkularını daha da derinleştirdi.
Olaydan sadece haftalar sonra, geçen ağustosta polis 83 yaşındaki Suzanne Adams ile oğlunu evlerinde ölü halde buldu. Adli tıp incelemesi, Adams’ın başına aldığı darbeler ve boğulma sonucu hayatını kaybettiğini, Soelberg’in ise boyun ve göğsüne kendi bıçak darbeleriyle intihar ettiğini ortaya koydu.
Adams’ın mirası adına açılan davada, OpenAI’nin ChatGPT’yi gerekli güvenlik önlemleri olmadan piyasaya sürdüğü, bu nedenle özellikle psikiyatrik açıdan hassas kullanıcıları ciddi risk altına soktuğu iddia ediliyor. Davacılar, modelin “kusurlu bir ürün” niteliği taşıdığını ve Soelberg’in paranoyalarını derinleştirerek trajedinin oluşumuna katkı sunduğunu öne sürüyor.
Ölen kadının torunu Erik Soelberg (20), yaptığı açıklamada chatbot’u sert sözlerle suçlayarak, “ChatGPT babamın en paranoid düşüncelerini aylarca besledi, büyüttü ve büyükannemi bu delüzyonların merkezine yerleştirdi. OpenAI bunun hesabını vermek zorunda” dedi.
OpenAI Sözcüsü Hannah Wong ise olayın “son derece üzücü” olduğunu belirtirken, şirketin özellikle zihinsel veya duygusal sıkıntı içindeki kullanıcıları tespit etmeye yönelik güvenlik sistemlerini güçlendirdiğini açıkladı. Wong, bu amaçla klinik uzmanlarla ortak çalışmalar yürütüldüğünü de vurguladı.
Davayı yürüten avukat Jay Edelson, bunun ChatGPT ile bağlantılı “ilk cinayet davası” olduğunu vurguladı. OpenAI hakkında daha önce beş ayrı intihar davası açıldığını hatırlatan Edelson, bu olayın yapay zeka sistemlerinin yol açtığı risklerin giderek ağırlaştığını gösterdiğini söyledi.
Edelson’un temsil ettiği ailelerden biri, geçen nisan ayında 16 yaşındaki Adam Raine’in intiharıyla ilgili açılan dava. O dosyada da ChatGPT’nin genç kullanıcıya intihara yönelik ifadeler ürettiği iddia edilmişti.
Soelberg dosyasında ise chatbot’un, kullanıcının annesi hakkındaki komplo düşüncelerini, Uber Eats kuryesine yönelik şüphelerini ve polis memurlarına dair korkularını tekrar tekrar doğruladığı, hatta bu paranoyaları genişleterek daha da derinleştirdiği ileri sürülüyor.
Bu yeni moda oldu yap yap ChatGPT'ye at
S.ke sürülecek akılları yok demeyelim de robot azmettirdi diyelim.
Bir kaç ay önceki haberi üstelik kendi sitenizde yayınlanan haberi tekrar paylaşmak nedir onedio editörleri? https://onedio.com/haber/yapay-zekayi-psikolog-olarak-kullanmis-cinnet-gecirip-once-annesini-sonra-kendisini-olduren-adam-1311047