Teknoloji ilerlesin, doğayı kurtaralım, insan hayatını kolaylaştıralım, ömrü uzatalım, hastalıkları bitirelim, Mars'a gidelim, gelir eşitsizliğini silelim; olur tabii. Ancak bildiğimiz üzre, her mükemmel teknoloji, insan denen çiğ süt emmiş varlığın ellerinde potansiyel bir dehşet aletine dönüşebiliyor.
Çok da uzak demeyeceğimiz bir gelecekte, hangi teknolojinin nasıl habis biçimde kullanılabileceğini Gizmodo'dan derledik; buyrun birlikte okuyalım. 😕
İnsanın yeryüzündeki saltanatını bundan daha hızlı sona erdirecek bir şey olmayabilir. Bu tehdit son derece önemli iki güçten kaynaklanıyor: Kendi kendini denetimsiz kopyalama, ve üssel büyüme.
Nanoteknoloji teorisyeni Robert Freitas'ın, aerovorlar (gri toz), gri plankton, gri likenler ve bu tarz biyokütle katili nanoteknolojinin getirebileceği çeşitli olasılıklar konusunda teorileri bulunuyor. Aeorovorlar bütün güneş ışığını gizleyebilir; gri planktonun deniz kökenli replikatörleri karadaki karbon açısından zengin ekolojiyi yiyip tüketebilir; gri likenler karaya dayalı jeolojiyi yok edebilir ve bu tarz biyolojik kütle katilleri çeşitli organizmalara saldırabilir. Yani evet, tek bir insan gezegeni yok edebilir.
Freitas önlem olarak ise, kendini kopyalayan nanoteknoloji veya nanobotların iç mekanizmalarını bozacak bazı türde savunma yöntemlerinden bahsediyor. Yine de Freitas'a göre, bu konuda kendimizi savunmaya henüz hiç hazır değiliz ve bu nedenle de, silahlanmış nanoteknolojiye geçişi ertelememiz gerekiyor. Konunun meraklıları için daha detaylı bilgi
Yapay bilinçli makinelerin hayatımıza girmesine çok az kaldı ama aslında bunun etik boyutu üzerinde ciddi ciddi düşünmemiz gerek. Bir bilgisayar içinde işlevsel bir beyin oluşturmak gerçekten çok zalimce olabilir - hem hayvan hem de insan emülasyonları için.
Bilim insanlarına göre, örneğin birisi çıkıp dese ki, 'Zihinsel engelli insan bebekleri üreteceğiz ve doğum sonrası psikolojik gelişimlerini inceleyeceğiz.' Her türlü işlevsel ve temsilsel açıdan muzdarip olurlardı. Ayrıca genetiği X bir şeye benzeyen 'bilinçli makina' üretmenin hiçbir sınırı yok. Psikopatiyi daha detaylı incelemek için psikopat makineler, katil makineler vb bile, 'bilimsel araştırma' uğruna üretilebilir ve kesinlikle etik de değil, güvenli de değil.
Olayın bir başka etik boyutu da şu: Neticede bilgisayarları, bizim yapamayacağımız sürat ve karmaşıklıkta işlemleri yapabilsin diye geliştirdik. Bilim insanları, bir bilgisayara bilinç yüklemenin ve onu sizin için çalışmaya zorlamanın 'kölelik' olacağı görüşünde.
Kaldı ki bilinç çok kırılgan bir şey. İnsanlarda, yanlış kodlanmış birkaç gen Down Sendromu, şizofreni, otizm ya da epilepsiye yol açıyor. Peki, biraz yanlış programlanmış bir bilinç nelere yol açabilir?
Bir de bunun günlük hayatlara girdiğini düşünürsek, insanlar 'iş' yaptıkları ve para kazandıkları sürece, bunun öznel tecrübeler için kötü niyetli biçimde kullanılması epeyce olası.
Stephen Hawking'in kısa bir zaman önce de belirttiği gibi, 'yapay zeka insanlığın ya en büyük icadı, ya da sonu olur.'
Nitekim, bizden çok daha hızlı ve daha zeki sistemlerin devreye sokulmasıyla, bilgisayarlar insan zekasını taklit edebilir ve insan zekasının önüne geçebilir. Yapay zeka kendi iradesini geliştirebilir. Risklerin önüne nasıl geçeceğimizi öğrenmezsek de bu, medeniyet tarihinin son olayı olabilir.
Kuşkusuz çok fazla faydası da olacak; endüstrileşmenin doğaya verdiği zararı onarabileceğiz, aynı şekilde hastalıklar ve yoksulluğun sonunu getirmeyi de amaçlayabileceğiz. Ancak büyük tehlikeleri de beraberinde getirecek.
Dvorsky, bunun arkamıza bakmadan koşarak kaçmamız gereken teknolojilerden biri olduğu görüşünde. Zamanda geriye gitmenin, savaşların, soykırımların, salgınların, ekolojik tahribatın önünü almak amacıyla yapılacağını düşünmek, Dvorsky'ye göre nereden baksak naiflik.
Hele de kuantum zaman yolculuğu mümkün olsa, yani henüz var olmayan, bilinmeyen, oluşmamış bir geleceğe yolculuk mümkün olsa, oradan insanın 'bugününe' nasıl tehlike ve tehditler taşınabileceğini muhtemelen (şu an henüz bilip tanışmadığımız / düşünemediğimiz teknolojiler sebebiyle) hayal dahi edemeyiz.
Beynin çeşitli durumlar için verdiği değişik tepkileri ölçebilen MR cihazlarını zaten kullanmaktayız. Ama tabii zihin okumak bundan 'biraz' daha farklı bir şey. Gerçi insan beyni web ve diğer iletişim kanalları ile daha yakın bir şekilde bir araya getirilene kadar bu muhtemelen mümkün olmayacaktır.
Geçen yıl, Hollanda bilim insanları bir kişinin hangi harflere bakıyor olduğunu belirlemek için beyin tarama verileri ve bilgisayar algoritmalarını kullandı. Bu buluş, gördüğümüz, düşündüğümüz ve hatırladığımız şeyler de dahil olmak üzere, üçüncü bir tarafın insan düşüncelerini eşi benzeri olmayan bir düzeyde yeniden yapılandırma potansiyelini işaret eder. Bu gibi cihazlar, bir tür totaliter rejim ya da polis devletleri tarafından topluca kullanıldığında, hayatın dayanılmaz hale geleceğini tahmin etmek zor değil. Orwell'in bizlere selamı var.
Bir üstteki madde mümkün olduğunda, bunun da önü inanılmaz açık. İnsan beynine yerleştirilen bir çip vasıtası ile, beyinlerimizin internete ve beraberinde getireceği her türlü şeytanlığa açık hale gelmesi de diyebiliriz. Yani beyinlerimizin, rızamın hatta bilgimiz olmadan 'değiştirilmesi'.
İnanılmaz olan ise, insanlığın bu yönde adımlar atmış olması. Nörobilimcilerden oluşan uluslararası bir ekip, yakın zaman önce, katılımcıların internet üzerinden beyin iletişimi kurmalarına izin veren bir deney hazırladı. Tabii oldukça heyecan verici. Ancak böylesi bir telepatinin açacağı Pandora'nın kutusundan ne çıkacağını hiç bilemeyiz. Bir yapay zeka, kolaylıkla sizinle telepatik ilişki kurup anılarınızı silebilir; niyetinizi değiştirebilir. Şimdi böyle bir şeyin organize suç çeteleri ve paranoyak hükümetlerin elinde olduğunu düşünün.
Halen insanın zeka düzeyine erişebilmiş bir makinemiz yok. Ancak ölümcül yeteneklere sahip özerk robotların çalıştırılması için insan seviyesinde zekaya da gerek yok. Hali hazırda her çeşit robotik askeri araç inşa etmek zaten mümkün. Robot tanklar, insansız uçaklar, gemiler, denizaltılar ve insan formunda robot askerler bugün mümkün.
Uzaktan kumandayla kontrol edilen drone'lardan farklı olarak, askeri robotlar hedefleri kendileri belirleyebilir ve talimat veren bir insan olmadan da kişileri ya da yerleri yok edebilir. Bu teknolojinin tehlikeleri belli. Daha fenası, kendine verilmiş komutlarda eksiklik olabileceğinden, yanlışlıkla bambaşka bir hedefe de ateş edebilir.
Uluslararası silahlanma yarışında, herhangi bir ulusun özerk askeri robotlar kullanması durumunda tehlike büyük. Birkaç deneme sürecinden sonra, her zamankinden daha güçlü robotlar geliştirmek için yarışa girilir. En yeni jenerasyon robotların, insan kontrolündeki askeri sistemleri çatıştırabileceği bir eşik aşılabilir. Kaldı ki bilgisayar korsanlarının (hacker'ların) askeri robotlarımızı uzaktan yeniden programlayabileceğini düşündük mü acaba?
Bu, rahatsız edici derecede gündemde olan bir başka musibet. Ray Kurzweil ve Bill Joy tarafından 2005'te tekrar belirtildiği üzere, tüm dünyaya ölümcül virüs genomlarını yaymak, yıkımın reçetesi olabilir. Böyle bir şeyin, kafası doğru düzgün basmayan fanatik grupların eline geçme ihtimali daima var. Sıfırdan virüs oluşturulması, ya da var olan bir virüsün daha öldürücü hale getirilmek üzere değiştirilmesi ve ardından dünyaya yayma olasılığı her zaman var.
Twelve Monkeys (Oniki Maymun) filmini de hatırlayan hatırlar.
Elbette ki bunun konuşulmasındaki temel fikir, gerçek bir salgın öncesi düşmanını tanımak ve olası karşı önlemleri geliştirmek. Ancak virüsün laboratuvardan çıkmayacağını bilme imkanımız var mıdır? Ya da virüsün silahlandırılmayacağı, serbest bırakılmayacağı? Örneğin Dünya Ekonomi Forumuna göre IŞİD zaten hali hazırda, buna hayli istekli gözüken bir terör örgütü.
İnsan ömrü yüzlerce yıla uzadığında ceza ve tevkif sistemi nasıl olacak?
Normal yaşam süresinin uzatılmasının faydaları açık - ancak cezaların şiddetini artırmak için de kullanılabilir. Örneğin ömür boyu hapis, birkaç on yıl yerine birkaç yüz yıl anlamına gelebilir.
Yukarıda da konuştuğumuz her şeyle beraber; örneğin bir hükümlünün zihnini 100 yıl boyunca ceza çekiyormuş gibi programlayabiliriz; ve diyelim gerçekte çektiği cezanın süresi 8 saat olabilir (çünkü devletler bunca bir süre hükümlüleri içeride tutup güvenliği sağlamak üzere para harcamak yerine, cezayı zihne yükleyerek süreyi kısaltma yolunu tercih edebilir). Peki bu durumda suçlunun rehabilitasyonundan söz edilebilir mi? Ya da şimdinin 'kefalet' sistemi, cezayı zihne yükleyip hükümlülük süresinden kısaltma biçimine çevrilebilir mi?
Evet.
Sanal gerçeklik, artırılmış gerçeklik, zihne veri yükleme ile beraber, dünya üzerinde kendi sevdiğimiz, olmak istediğimiz alanı, cenneti kurgulayabiliyorsak, kim neden, zihnine hükmedebildiği biri için cehennemi kurgulayamasın?
Psikolojik ve fiziksel sıkıntıların neredeyse sınırsız olasılıklarıyla birlikte, sınırsız uzun ömrü de göz önüne aldığımızda özellikle ürkütücü bir ihtimal. Aslında belki de düşünülebilecek en feci şeylerden bir tanesi.
Kısacası insan zihninin nasıl habisçe çalışabildiğini hepimiz hem tarihten, hem bugünden, hem de belki de bizzat kendimizden, çok iyi biliyoruz. İnsan zekasının bizleri getirdiği ve getireceği teknolojik nokta her ne kadar heyecan verici olsa da, ürkütücü getirilerini de düşünmemiz gerekiyor.
Çok mu distopik geldi? Emin olun bunlardan bazılarına kendi yaşam süremiz içerisinde bizzat şahitlik edebiliriz.
Cehennem mühendisliğini yaşıyoruz belki de, bu kadar vahşet, yalan, haksızlık, bencillik ancak cehennemvari bir tarza uyuyor zira.Kötülük kaybetmediği ve cezalanmadığı gibi, daha rahat, daha aleni, daha arsızca , daha sistematik, daha kanunsal, daha devletleri ve toplumları arkasına alarak ve rahatlıkla yapılıyor.
ingiltere merkezli deepmind sirketi bir ay kadar once genel ogrenim yetenegine sahip yapay zeka gelistirdigini acikladi. onceki yapay zekalar yaptiklari isi ogrenip kendilerini insan kapasitesinin uzerinde noktalara gelistirebiliyorlardi ama bunu sadece ve sadece egitildikleri ve tasarlandiklari alanda yapabiliyorlardi. simdi yeni gelisme ile yapay zeka baska bir alanda aldigi egitimi, edindigi tecrubeyi diger baska alanlarda kullanabilmeye basladi. yani gercek anlamda genel amacli bir zeka ortaya cikiyor. yapay zekanin bilim kurgu hikayelerinin korku ogesi olmakdan cikip, yanlis kullanilirsa insanligin gelecegi icin gercek bir tehdit oldugunu soylemek mumkun.
Hepsi çok mantıklı aslında.Özelliklede zihin okuma ve ceza evleri ile alakalı olan bencde uygulanabilir. Ama bunu işte nasıl kullanıldığı önemli yinede bilim ilerleyecek dur diyemeyeceğimize göre buna da alışacağız.