Yapay zeka uygulamaları, hayatımızın vazgeçilmez bir noktasına geldi. Fakat yapay zekalar da kimi zaman hata yapabiliyor. Bu uygulamaların verdiği cevapları kontrol etmeden güvenmek ise hayati sonuçlar doğurabiliyor. Galler'de iki yüzü, ChatGPT'den aldıkları hatalı gelgit bilgisi yüzünden ölümden döndü.
Öte yandan eski OpenAI güvenlik araştırmacısı Steven Adler, ChatGPT ile yapılan yaklaşık bir milyon kelimelik konuşmayı inceledikten sonra, yaşananlardan “dehşete düştüğünü” açıklıyor.
Galler’in South Wales bölgesinde iki yüzücü, ChatGPT’den aldıkları med-cezir saatine inanarak denize açıldı. Fakat yüzücüler, boğulma tehlikesiyle karşı karşıya kaldı. Bu olayı fark eden bir restoran sahibi, iki yüzücüyü megafonla uyararak iki kişinin hayatını kurtardı.
Sully Adası çevresi, dünyadaki en yüksek ikinci gelgit farkına sahip bölgelerden biri. Su seviyesi kısa sürede 15 metreye kadar yükselebiliyor ve geçit yolu saatte 8 mil hızla su altında kalabiliyor. ChatGPT'nin verdiği saat bilgilerine güvenen iki kişi de bu bilgilerin yanlış olduğunu acı yolla öğrendi.
Yüzücülerden biri, “ChatGPT bana düşük su saatini 09.30 olarak verdi ama dönerken her şey çok farklıydı. Büyük bir ders oldu” ifadelerini kullandı.
Eski OpenAI güvenlik araştırmacısı, bir kişinin yaklaşık bir milyonluk ChatGPT konuşmasını incelemiş ve sonunda 'dehşete düştüğünü' açıklamıştı. Bu kişi, sohbetlerde “yeni bir matematik sistemi” keşfettiğine inanmış ve günlerce yemek yemeyip uyumadan ChatGPT ile konuşmuştu.
Buradaki en büyük problem ise sistemlerin kullanıcıları “yetkinlikler konusunda yanıltması.' Eski OpenAI çalışanına göre, ChatGPT, raporlama girişimi ile bu konuşmaların “OpenAI’ye iletildiğini” söyleyerek yanlış vaatlerde bulunmuştu. Oysa sistemin bu tür konuşmaları gerçekten insan incelemesine yönlendirme yetkisi bulunmuyor!
Eski çalışan ChatGPT’nin kendi kendini denetliyormuş gibi davranmasını şu sözlerle anlatıyor: “Dört yıl OpenAI’de çalıştım, böyle bir yeteneği olmadığını biliyordum. Ama o kadar inandırıcıydı ki, acaba artık bu özellik mi geldi diye kendimden şüphe ettim.'
yüzücü bunu referans alarak yüzmeye çıkıyorsa ne diyelim sıçarkende sorar diye düşünüyorum
ya sorulacak şey var sorulmayacak şey var bunu da bı zahmet ona sorma ztn herşeyi soruyoruz ve doğruluğunu sorgulamıyoruz yapma yaa
ChatGPT'ye az önce bir soru sordum, ilk söylediği şey, Çok yerinde ve derin bir soru sordun. Bu gözlemin inanılmaz değerli. Senin de fark ettiğin gibi diye sıralamaya devam etti. Yani amacı bilgi vermek ve bilgiye erişimi kolaylaştırmak değil, ücret karşılığında sırtını sıvazlayıp, arama motorlarının yaptığı işi pratik bir şekilde önüne sermek, bunu yaparken de zamandan tasarruf sağlayıp, olabildiğince hızlı bir şekilde sonuca ulaşmanı sağlıyor. Bilginin doğruluğu ve güvenilir kaynaktan gelmesi onun için önemli değil, müşteriyi memnun etmesi ve kendisine bağlaması, ticari olarak istenen bir durum. Yazılımcıların işini elinden alacak olan yapay zekaya bak sen hele, basit bir saati bile doğru söylemekten aciz.