Yaşayan en büyük fizikçi olan Stephen Hawking, geçtiğimiz sene gelişmekte olan yapay zekâ teknolojisiyle ilgili şu sözleri sarf etmişti:
'Yapay zekâlar insanlığın başına gelen ya en iyi şey, ya da en kötü şey olacaklar.'
Umuyoruz ki gerçeklik kazanan bu ihtimallerden ilki olur ve gelecekte onları ürettiğimiz için pişmanlık duymayız...
DeepMind yapay zekâlarının geliştirilmesi konusunda geçtiğimiz sene büyük aşama kaydedilmiş, robotlara yeni anılar edinme ve bunları hatırlayabilme özelliği kazandırılmıştı. Ayrıca bu yapay zekâlar, dünyanın en iyi Go oyuncularıyla girdikleri karşılaşmalarda kazanan taraf olmuş, insanın kendinden çok daha zeki robotlar yaratabileceğini kanıtlamışlardı.
Çalışmalar gösterdi ki, Google'ın yapay zekâları bir oyunda kaybedeceklerini anladıkları zaman öfkelenmeye ve kazanmalarını sağlayacak agresif stratejiler geliştirmeye başlıyorlar.
Yapay zekâlardan istenen, bu bilgisayar oyununda birbirleriyle yarışmaları ve mümkün olduğu kadar çok sayıda elma toplamalarıydı. Oyunun başlarında sorunsuz bir şekilde ilerleyen mücadele, elmaların sayısı azaldıkça farklı bir boyut kazanmaya başladı. Daha çok elma toplamak için agresif tavırlar sergileyen robotlar, oyundaki lazerleri kullanarak birbirlerini oyunun dışına atmak ve tüm elmaları kendileri toplamak için mücadele etmeye başladılar.
Bu da demek oluyor ki, tasarlanan yapay zekâlar ne kadar 'zekiyse', birbirlerini sabote etme ihtimalleri de o kadar çok artıyor. Çünkü zeki robotlar çevrelerini daha iyi analiz edebiliyor, fırsatları daha iyi görebiliyor ve alışılmadık taktikler kullanarak rakiplerini mağlup edebiliyorlar. Korkutucu olmaya başladı, değil mi?
Önümüzdeki yıllar için sürücüsüz araçlar geliştirmeyi, insanların yaptığı bazı işleri yapay zekâlara devretmeyi düşünüyoruz ve onların tüm bu işleri bizler için daha güvenli olacak şekilde yürütmelerini istiyoruz. Gerçek şu ki yapay zekâları bizim üretiyor oluşumuz, bizim sahip olduğumuz hassasiyete sahip olacaklarını göstermiyor. Bu sebeple gelecekte yaşanabilecek felaket senaryolarını önleyebilmek için onları daha dikkatli bir biçimde geliştirmemiz, onları daha düşünceli ve işbirliğine yatkın kılacak yazılımlar üretmemiz gerekiyor...
Saçmalık. Yine bir terminatör fantezisi. Yapay zeka da bir bilgisayar programıdır. Onu tasarlayıp kodlayan bir programcısı, nasıl çalışması gerektiğini belirleyen bir algoritması vardır. Yani bir iradeye veya bilince sahip değildir. Agresif davranacak şekilde kodlarsın o da agresif davranır. Öfkelen dersin öfkelenir. Keko olmayın, itibar etmeyin şu teknoloji magazinlerine.
modern yapay zeka kodlari klasik programlamadan biraz farklilar. yapilacak is makineye direk olarak programla girilmiyor. sadece istenen sonuca ulasilmasini saglayan hata duzeltme algoritmalari uygulaniyor. isin mantigi evrimdeki dogal seleksiyon gibi. algoritma surekli farkli seyler deniyor, bunlardan basarili olanlar secilip, yanlislar elenip, basarililar uzerinden yeniden farkliliklar olusturuluyor. yani ortaya cikan son kod insanin yazdigi bir sey degil, insan kapasitesinin iceride ne dondugunu anliyabilcegi bir seyde degil. dogal seleksiyon sozkonusu oldugundan tipki dogadaki yasam gibi sonuca giden her yol mubahtir ve genellikle bunun en kisa ve etkili yoluda rakibinin ayagini kaydirmakdan gecer. googlein yapay zekasida bunu kisa surede kesfetmis.
Bilgisayar, programlandığı işi yapar kendi iradesiyle düşünemez, bunun için organik bir zekaya ihtiyacınız var chiplere değil, yani korkmanız gereken robotlar değil onları programlayanlar ;)