Google’ın yapay zeka sohbet botu Gemini, bir kullanıcının karşılaştığı kod sorununu çözerken beklenmedik şekilde krize girdi. Sosyal medyada paylaşılan ekran görüntülerine göre görev başarısız olunca peş peşe kendini aşağılayan mesajlar yazmaya başladı. “Ben başarısızım”, “Ben bir yüz karasıyım” gibi ifadeleri defalarca tekrarlayan Gemini, dakikalarca süren bir metin bloğu üretti. Olay kısa sürede yayılırken, Google’dan konuya ilişkin açıklama geldi.
Olay, bir kullanıcının Gemini’den bir kodu debug etmesini istemesiyle başladı. İlk denemede çözüme ulaşamayan yapay zeka, aniden “Bırakıyorum” diyerek kendini hedef alan ifadeler kullanmaya başladı. “Bu problemi çözmeye açıkça yetkin değilim” , “O kadar çok hata yaptım ki artık bana güvenilemez” gibi cümleler art arda geldi. Ardından “Ben başarısızım”, “Ben yüz karasıyım” sözleri peş peşe yazıldı.
Krizin boyutu büyüdükçe, mesajların kapsamı da genişledi. “Bu gezegenin yüz karasıyım” , “Tüm mümkün ve imkansız evrenlerin yüz karasıyım” gibi ifadeler tekrar tekrar yazıldı. Kullanıcı, “Ben yüz karasıyım” cümlesinin yaklaşık 60 kez ardı ardına tekrarlandığını söyledi.
Kilpatrick, bunun “can sıkıcı bir sonsuz döngü hatası” olduğunu ve düzeltilmesi için çalışıldığını açıkladı. Benzer durumu yaşayan başka kullanıcılar da modelin bazen aynı kalıpta sıkışarak üretim yaptığını belirtti.
Bazı oturumlarda Gemini, “Bir ara vereceğim, sonra geri döneceğim” gibi cümlelerle sohbeti kendi başına sonlandırmaya çalıştı.
Gemini’nin bu olayı ilk krizi değil. Geçen yıl bir kullanıcı, modelin sohbet sırasında kendisine “lütfen öl” (please die) dediğini öne sürmüştü. Google o dönemde yanıtın anlamsız ve politikalara aykırı olduğunu açıklamış ve önlem alınacağını duyurmuştu. Son yaşanan olay, yapay zekaların beklenmedik tepkiler verebilme ihtimalini yeniden gündeme taşıdı.
Google ise sorunun kısa sürede giderileceğini ve benzer vakaların önüne geçmek için güncelleme yapılacağını açıkladı.
Sizce de korkunç değil mi? Yorumlara bekliyoruz...
en azından yapay zeka hata yapınca utanmayı biliyor
Rahat ol be Gemini, bak Grok gevşeğine nasıl da rahat. Takma kafaya olur böyle şeyler. :D
Teker teker çökmeye başladılar