Sosyal medya platformu X, yapay zeka aracı Grok üzerinden üretilen cinsel içerikli bikini görsellere gelen tepkiler üzerine radikal bir değişikliğe gitti. Platform, kimlik ve ödeme bilgilerini kontrol altında tutabilmek amacıyla görsel üretim özelliğini sadece ücretli abonelerin kullanımına sundu.
Alınan yeni kararla birlikte, sistem üzerinden görsel üretmek isteyen kullanıcıların artık ücretli abone olması gerekecek. Şirketin bu hamlesi, özellikle kadınların rızası dışında üretilen müstehcen içeriklerin sosyal medyada yayılması ve uluslararası kamuoyundan yükselen sert eleştirilerin ardından geldi.
Söz konusu kısıtlama öncesinde Grok, kullanıcıların komutları doğrultusunda mevcut fotoğraflar üzerinde değişiklik yapabiliyor ve bu durum suistimallere kapı aralıyordu. Özellikle kadın kullanıcıları hedef alan dijital manipülasyonların artması üzerine İngiliz hükümeti devreye girdi. İngiltere, medya denetleme kurumu Ofcom’a çağrıda bulunarak, X platformuna yönelik erişim engeli de dahil olmak üzere en ağır yaptırımların uygulanmasını talep etti.
Yeni sistemde, Grok’a görsel komutu veren kullanıcılara bu özelliğin sadece premium üyeler için geçerli olduğu uyarısı yapılıyor. Bu uygulama sayesinde, suç teşkil edebilecek içerikler üreten kişilerin gerçek isim ve ödeme bilgilerinin kayıt altına alınması hedefleniyor. Böylece anonim hesaplar üzerinden gerçekleştirilen ihlallerin önüne geçilmesi planlanıyor.
Ancak atılan bu adım, hukuk çevreleri ve dijital güvenlik uzmanları tarafından yeterli bulunmadı. İnternet İzleme Vakfı (IWF) yetkilileri, sadece ödeme duvarı örmenin sorunu kökten çözmediğini ve verilen zararı telafi etmediğini savunuyor. Vakıf, daha önce sistem üzerinden 11-13 yaş grubundaki çocukları andıran suç nitelikli yapay zeka içerikleri tespit edildiğini hatırlatarak, platformun daha sıkı denetimler uygulaması gerektiğine dikkat çekiyor.