Artık klimadan buzdolabına kadar hayatımızın her köşesinde yapay zeka var. Peki hayatımızı kolaylaştıran bu teknolojiye her şeyimizi teslim etmek ne kadar güvenli? Yapay zekanın öncülerinden Yoshua Bengio, insanlığı tehdit edebilecek bir AI felaketine karşı uyarıda bulunuyor.
Detaylar 👇
2018’de Turing Ödülü’nü kazanan ve derin öğrenmenin öncülerinden biri olan Bengio, AI sistemlerinin insanlardan çok daha zeki hale gelebileceğini ve kendi çıkarlarını koruma içgüdüsü geliştirebileceğini söylüyor.
Bengio, yapay zekanın biyolojik silahlar geliştirmeye ya da pandemiler yaratmaya yardımcı olabileceği uyarısında da bulundu. Kanadalı bilgisayar bilimcisi “Felaket riskinin yüzde 1 bile olması kabul edilemez,” diyor. Bu yüzden şirketlerin güvenlik mekanizmalarının bağımsız kurumlarca denetlenmesi gerektiğini, AI sistemlerinin güvenilirliğine dair kanıt talep edilmesini şart koşuyor.
Bengio ayrıca, AI şirketlerinde çalışan birçok uzmanın da bu risklerden endişe duyduğunu ve inovasyon hırsının bazen iyimser bir yanılgıya yol açtığını belirtiyor.
Temmuz ayında imzalanan başkanlık kararnamesiyle, federal kurumların yalnızca “tarafsız ve doğru” yanıtlar veren AI sistemlerini kullanması şart koşuldu. “Woke AI” olarak nitelendirilen sistemler ise devlet ihalelerinden dışlanacak.
Trump ayrıca OpenAI, Softbank ve Oracle ile 500 milyar dolarlık bir AI yatırımı duyurdu. Bununla birlikte NVIDIA süper bilgisayar projelerini hayata geçiriyor, Google ve Blackstone’dan 92 milyar dolarlık yatırımlar geliyor. Eleştirmenler, bu yatırımların ABD’de devasa bir gözetim altyapısına zemin hazırladığını söylüyor.
Yaptığı konuşmasından “Eğer bizden daha akıllı makineler yaratırsak, adeta kendimize rakip bir tür inşa etmiş oluruz,” diyen Bengio, bu teknolojinin insanları ikna etme, manipüle etme ve hatta tehdit etme potansiyeli taşıdığını vurguluyor. Ona göre bu durum, Stanley Kubrick’in kült filmi 2001: Bir Uzay Destanı’ndaki HAL 9000’i hatırlatıyor.
Peki sizce yapay zeka gerçekten hayatımızı kolaylaştıran masum bir teknoloji mi, yoksa filmlerde gördüğümüz gibi insanlığı tehdit eden bir risk mi? AI hızla ilerlerken, kontrolü tamamen bizde mi olmalı yoksa sınırlar mı konmalı?
Teknoloji korkutucu boyutlara ulaşıyor ama hâlâ ne kansere çare bulundu ne Mr cihazının tabuttan hallice olmasına. İlginç.
Çevre felaketlerinden kim sorumluysa o insanlığın sonunu getirir. Faili belli olduğu için şimdiden günah keçisi aramaya başlamışlar.