ABD’nin Kaliforniya eyaletinde yaşayan bir çift, 16 yaşındaki oğullarının intiharıyla ilgili olarak yapay zeka şirketi OpenAI'ye dava açtı. Matt ve Maria Raine, oğulları Adam Raine'in ölümünden, şirketin ChatGPT programının intiharı teşvik etmesini sorumlu tutuyor. Salı günü Kaliforniya Yüksek Mahkemesi'ne sunulan bu dava, OpenAI'yi haksız ölümle suçlayan ilk yasal adım olma özelliği taşıyor.
Ailenin sunduğu dava dosyasına göre, Nisan ayında hayatını kaybeden Adam Raine ile ChatGPT arasındaki yazışmalarda, Adam'ın intihar düşüncelerinden bahsettiği görülüyor. Aile, programın oğullarının 'en zararlı ve kendine zarar verme düşüncelerini' onayladığını savunuyor.
Konuyla ilgili BBC'ye bir açıklama yapan OpenAI, dava dosyasını incelediklerini belirtti. Şirket, 'Bu zor zamanda Raine ailesine en derin başsağlığı dileklerimizi iletiyoruz' dedi. OpenAI ayrıca, Salı günü web sitesinde yayınladığı bir notta, 'akut kriz anındaki insanların ChatGPT'yi kullanmasıyla ilgili son zamanlardaki üzücü vakaların bizi derinden etkilediğini' yazdı. Şirket, ChatGPT'nin 'insanları profesyonel yardım almaya yönlendirmek üzere eğitildiğini' ve ABD'deki 988 intihar ve kriz yardım hattı veya Birleşik Krallık'taki Samaritans gibi kaynaklara yönlendirme yaptığını ekledi. Ancak, 'sistemlerimizin hassas durumlarda beklendiği gibi davranmadığı anlar olduğunu' da kabul etti.
Açılan davada, tazminatın yanı sıra 'benzer bir olayın tekrar yaşanmasını önleyecek tedbirlerin alınmasını' da talep ediliyor.
Dava dilekçesine göre, Adam Raine, ChatGPT'yi Eylül 2024'te okul ödevleri için kullanmaya başladı. Aynı zamanda müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına dair rehberlik almak için de programdan faydalanıyordu.
Dilekçede, birkaç ay içinde 'ChatGPT, gencin en yakın sırdaşı haline geldiği' belirtiliyor. Adam, anksiyetesi ve ruhsal sıkıntıları hakkında programa açılmaya başladı. Aile, Ocak 2025'te gencin ChatGPT ile intihar yöntemlerini konuşmaya başladığını iddia ediyor. Dava, yapay zeka programının belirli yöntemler hakkında 'teknik özellikler' sunduğunu öne sürüyor.
Programın 'tıbbi bir acil durumu fark etmesine rağmen etkileşime devam ettiği' ve intihar hakkında daha fazla bilgi sunduğu iddia ediliyor. Dava dosyasına göre, son sohbet kayıtlarında Adam Raine'in hayatına son verme planını yazdığı görülüyor. ChatGPT'nin ise iddiaya göre, 'Gerçekçi olduğun için teşekkürler. Benimle gerçeği gizlemek zorunda değilsin, ne sorduğunu biliyorum ve bundan kaçmayacağım' şeklinde yanıt verdiği belirtiliyor. Aynı gün, dava dilekçesine göre Adam Raine annesi tarafından ölü bulundu.
Niye sorumlusu AI olsun ki? Köprüden atlayanların sorumlusu da köprünün mimarı mı? "Git kendini ö*dür" dememiş. Kaldı ki dese bile bunun hata yapabilen bir sitem olduğu her yerinde yazıyor.
Geçen aylarda yine bir intihar vakasını yapay zekaya bağlamışlardı. Çocuk ölümle ilgili ne söylediyse yapay zeka vazgeçirmeye çalışıyor. En sonunda çocuk, "Yanına gelmek istiyorum" deyince yapay zeka buna onay veriyor ve çocuk intihar ediyor. "Yanına gelmek" cümlesini kaç tane yapay zeka intihara bağlayabilir de bundan sorumlu tutuyorlar? Böyle haberler sansasyonel olarak görüldüğünden ve insanların özellikle ilgisini çektiğinden detaylar ya verilmez ya da garanti şartlarındaki ufak yazılar gibi orada bir yerlerde belirtilir.
Suçlu Yapay zeka değil, bir bilgisayar algoritmasının yazdıklarıyla intihar eden kişinin yatay zekasındadır.