TIME dergisinin yaptığı araştırmalar, yapay zeka yaratıcısı olan OpenAI'ın rahatsız edici bazı eylemlerini yakaladı. Biz de bu yazımızda yapay zeka geliştirme işinin daha az bilinen kısmından bahsediyoruz.
TIME dergisinin yaptığı araştırmalar, yapay zeka yaratıcısı olan OpenAI'ın rahatsız edici bazı eylemlerini yakaladı. Biz de bu yazımızda yapay zeka geliştirme işinin daha az bilinen kısmından bahsediyoruz.
Güçlü yapay zeka (AI) sohbet robotu, Megan Thee Stallion tarzında yeniden tasarlanmış bir Shakespeare sonesinden, 5 yaşındaki bir çocuğun anlayabileceği dilde açıklanan karmaşık matematik teoremlerine kadar hemen hemen her konu/tema hakkında metin üretebiliyor. Bu yüzden uygulama bir hafta içinde bir milyondan fazla kullanıcıya ulaştı.
Bu, süper akıllı makineler oluşturmak amacıyla 2015 yılında San Francisco'da kurulan OpenAI'yi dünyanın en değerli yapay zeka şirketlerinden biri yapacak. Ancak bu başarı öyküsü, yalnızca Silikon Vadisi dehalarının hikayesi değil. Bir TIME araştırmasına göre OpenAI, ChatGPT'yi daha az toksik hale getirme arayışında, saatte 2 dolardan az kazanan dış kaynaklı Kenyalı işçileri kullandı.
ChatGPT'nin selefi GPT-3, cümleleri bir araya getirmek için etkileyici bir beceri göstermişti. Ancak uygulama aynı zamanda şiddetli, cinsiyetçi ve ırkçı sözler söylemeye eğilimli olduğundan satışı zordu. Bunun nedeni, yapay zekanın internetten kazınmış yüz milyarlarca kelimeyle - geniş bir insan dili deposuyla - eğitilmiş olması. Bu devasa eğitim veri seti, GPT-3'ün etkileyici dil becerilerinin nedeniydi ama aynı zamanda belki de en büyük lanetiydi. İnternetin bazı bölümleri toksik olduğundan, eğitim verisinin bu bölümlerini temizlemenin kolay bir yolu yoktu. Yüzlerce insandan oluşan bir ekibin bile devasa veri kümesini manuel olarak taraması onlarca yıl alırdı. OpenAI, yalnızca yapay zeka destekli ek bir güvenlik mekanizması oluşturarak bu zararı dizginleyebilir ve günlük kullanıma uygun bir sohbet robotu üretebilirdi.
Yapılacak şey basitti: Bir yapay zekayı etiketli şiddet, nefret söylemi ve cinsel taciz örnekleriyle besleyin ve bu araç, salınacağı yerde bu tür toksisiteleri tespit etmeyi öğrenebilir. Bu yardımcı dedektör, eğitim verilerinin toksisitesini yansıtıp yansıtmadığını kontrol etmek ve kullanıcıya ulaşmadan önce filtrelemek için ChatGPT'ye yerleştirilebilir. Ayrıca, gelecekteki yapay zeka modellerinin eğitim veri kümelerinden zehirli metinlerin temizlenmesine de yardımcı olabilir.
Bu metinlerin çoğu internetin en karanlık köşelerinden çekilmiş şeylerdi. Bazıları çocuklara yönelik cinsel istismar, hayvanlarla cinsel ilişki, cinayet, intihar, işkence, kendine zarar verme ve ensest gibi durumları grafik ayrıntılarla tanımlıyordu. OpenAI'nin Kenya'daki dış kaynak kullanım ortağı, Google, Meta ve Microsoft gibi Silikon Vadisi müşterilerinin verilerini etiketlemek için Kenya, Uganda ve Hindistan'da işçi çalıştıran San Francisco merkezli bir şirket olan Sama idi. Sama kendisini 'etik bir yapay zeka' şirketi olarak pazarlıyor ve 50 binden fazla insanı yoksulluktan kurtarmaya yardımcı olduğunu iddia ediyor.
Bu hikaye için TIME, işçi maaş bordroları da dahil olmak üzere yüzlerce sayfalık dahili Sama ve OpenAI belgelerini inceledi ve projede çalışan dört Sama çalışanıyla röportaj yaptı. Tüm çalışanlar, geçim kaynakları endişesi nedeniyle isimlerini gizli tutmak kaydıyla konuştu. ChatGPT'yi mümkün kılan işçilerin hikayesi, yapay zeka endüstrisinin bu az bilinen bölümündeki koşullara bir bakış sunuyor ancak yine de yapay zeka sistemlerini kamu tüketimi için güvenli hale getirme çabasında önemli bir rol oynuyor. OpenAI'nin ait olduğu yapay zeka kuruluşlarının bir koalisyonu olan Partnership on AI, 'Bu veri zenginleştirme uzmanlarının oynadığı temel role rağmen, giderek artan sayıda araştırma bu işçilerin karşı karşıya kaldığı güvencesiz çalışma koşullarını ortaya koyuyor' diyor.
Açıklamada ayrıca, bu çalışmanın ChatGPT gibi araçların eğitim veri setlerinden toksik verileri kaldırma çabalarına katkıda bulunduğu belirtildi. Sözcü, 'Misyonumuz, yapay zekanın tüm insanlığa fayda sağlaması. Bunun için zararlı içeriği sınırlayan güvenli ve kullanışlı yapay zeka sistemleri oluşturmak istiyoruz. Zararlı [metin ve resimleri] sınıflandırmak ve filtrelemek, eğitim verilerinde yer alan şiddet içeren içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adım' diyor.
Siz bu konu hakkında ne düşünüyorsunuz? Yorumlarda buluşalım!
Türkiye ile ayni desene
Saatte 2 dolar her şeyi yapay zeka hallediyor oturdukları yerden araştırma yapıyorlar adam olana çok bile o para 😅😅
Türkiye'de özel İngilizce kursu öğretmenleri saatlik 30 TL'ye çalışıyor :)