Artificial General Intelligence (AGI) - Yapay Genel Zeka: İnsanlar gibi herhangi bir entelektüel görevi yerine getirebilen teorik bir AI formu. Futuristler ve YZ araştırmacıları gelecekteki YZ potansiyelini tartışırken kullanır.
Superintelligence - Süper Zeka: İnsan zekasını her alanda önemli ölçüde aşan bir YZ sistemi. YZ güvenlik araştırmacıları ve fütüristler, YZ'nın nihai potansiyelini ve risklerini tartışırken kullanır.
AI Doomerism - YZ Kıyametçiliği: YZ'nın insanlığı tehdit edeceği inancı. Eleştirmen araştırmacılar ve kaygılı düşünürler YZ risklerini abartılı şekilde sunarken kullanılır.
AI accelerationism - YZ Hızlandırmacılığı: YZ gelişimini hızlandırmanın toplumsal faydalarını vurgulayan bir felsefe. Teknoloji savunucuları ve bazı fütüristler AI'ın hızlı ilerlemesini desteklerken kullanır.
Alignment problem - Uyum Problemi: YZ sistemlerinin hedeflerinin ve davranışlarının insan değerleri ve amaçlarıyla uyumlu olmasını sağlama zorluğu. YZ güvenlik araştırmacıları ve etik uzmanları, potansiyel riskleri ele alırken kullanır.
Mesa-optimization - Mesa Optimizasyonu: Bir YZ modelinin, kendi iç hedeflerini, dışarıdan verilen hedeflerden farklı olarak optimize etmesi durumu. YZ güvenlik araştırmacıları, kontrol dışı YZ davranışlarını açıklarken kullanır.
Inner alignment - İç Uyum: Bir AI sisteminin iç hedeflerinin, dışarıdan verilen hedeflerle uyumlu olması. AI güvenlik araştırmacıları, AI'ın niyetini kontrol etme bağlamında kullanır.
Outer alignment - Dış Uyum: Bir YZ sisteminin davranışlarının, dışarıdan verilen hedeflerle uyumlu olması. YZ güvenlik araştırmacıları, YZ'nın eylemlerini kontrol etme bağlamında kullanır.
Reinforcement Learning from Human Feedback (RLHF) - İnsan Geri Bildiriminden Pekiştirmeli Öğrenme: YZ modellerini insan geri bildirimleriyle eğiterek istenen davranışları öğrenmelerini sağlayan bir teknik. YZ geliştiricileri, modellerin insan değerleriyle uyumlu hale getirilmesinde kullanır.
Capabilities research - Yetenek Araştırması: YZ sistemlerinin ne yapabileceğini ve gelecekte ne yapabileceğini anlamaya odaklanan araştırma. YZ araştırmacıları ve stratejistler, YZ'nın potansiyelini ve sınırlarını belirlerken kullanır.
AI governance - YZ Yönetişimi: YZ sistemlerinin geliştirilmesi ve dağıtımını yönlendiren politikalar, kurallar ve çerçeveler. Hükümetler, şirketler ve uluslararası kuruluşlar, YZ'nın sorumlu kullanımını sağlamak için kullanır.
AI timelines - YZ Zaman Çizelgeleri: Yapay genel zeka veya süper zeka gibi ileri düzey YZ'nın ne zaman geliştirilebileceğine dair tahminler. YZ araştırmacıları ve fütüristler, YZ'nın gelecekteki gelişimini tartışırken kullanır.
Compute overhang - Hesaplama Fazlalığı: Mevcut YZ algoritmalarının, mevcut hesaplama gücünden daha fazlasını kullanma potansiyeli. YZ araştırmacıları ve donanım geliştiricileri, YZ'nın gelecekteki hesaplama ihtiyaçlarını değerlendirirken kullanır.
AI winter vs AI spring - YZ Kışı’na karşı YZ Baharı: YZ araştırmalarına olan ilginin ve finansmanın azaldığı dönemler (kış) ve arttığı dönemler (bahar). YZ tarihçileri ve yatırımcılar, YZnın gelişim döngülerini anlatırken kullanır.
Model collapse - Model Çöküşü: YZ modellerinin, kendi ürettikleri verilerle eğitildiklerinde performanslarının düşmesi. YZ araştırmacıları ve veri bilimciler, modelin uzun vadeli sürdürülebilirliğini tartışırken kullanır.
Data poisoning - Veri Zehirlenmesi: YZ modelinin eğitim verilerine kötü niyetli veriler ekleyerek modelin performansını veya davranışını bozma. YZ güvenlik uzmanları ve veri bilimciler, model güvenliğini tartışırken kullanır.
Adversarial examples - Düşmanca Örnekler: YZ modelini yanlış sınıflandırmaya veya hatalı yanıtlar vermeye zorlamak için tasarlanmış girdiler. YZ güvenlik araştırmacıları, modellerin zayıflıklarını test etmek için kullanır.