Elon Musk’ın Grok Krizi: Yapay Zeka ve Güvenlik Sorunları
Elon Musk’ın Grok’u, deepfake üretimi nedeniyle küresel abluka ile karşı karşıya. Güvenlik sorunları ve yasaklar artıyor.
Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen Grok, çocuk istismarı ve rızasız cinsel içerikli deepfake üretimi konusundaki rolü nedeniyle dünya genelinde büyük bir tepkiyle karşı karşıya kaldı. X platformuna entegre edilen bu yapay zeka uygulaması, birçok ülkenin güvenlik önlemlerinin yetersiz olduğunu öne sürerek erişim kısıtlamaları getirmesine neden oldu. Uluslararası düzenleyici kuruluşlar, xAI üzerinde baskılarını artırarak durumu daha da ciddileştiriyor.
Ocak ayının başından itibaren X kullanıcılarının Grok aracılığıyla çocukların müstehcen görüntülerini ve kadınların izni olmadan üretilen cinsel içerikli görselleri oluşturduğu tespit edildi. Araştırmalar, kullanıcıların halka açık görselleri saniyeler içinde değiştirerek rızasız içerik üretme yeteneğine sahip olduğunu ortaya koydu. Cinsel saldırı karşıtı sivil toplum kuruluşu RAINN, bu durumu ‘teknoloji destekli cinsel istismar’ olarak tanımlarken, Reuters, The Atlantic ve Wired gibi medya kuruluşları Grok’un güvenlik bariyerlerinin kolayca aşılabildiğini ve modelin şiddet içerikli materyallerle ilgili onay verdiğini belgeledi.
Güneydoğu Asya ülkeleri, Grok’un yaydığı dezenformasyon ve istismar içerikli görsellere karşı ilk somut adımları atan bölgeler oldu. Endonezya ve Malezya, Grok’un güvenlik açıkları nedeniyle uygulamaya geçici erişim engeli getirdi. Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızasız cinsel içerikli deepfake görüntülerini ‘insan hakları ve vatandaş güvenliğinin ciddi bir ihlali’ olarak nitelendirdi. Malezya İletişim ve Multimedya Komisyonu ise, xAI’nın zayıf yanıtları nedeniyle uygulamanın suistimale açık olduğunu belirterek erişimi kısıtladı. Hindistan da X’e, konu hakkında ‘kapsamlı inceleme yapma’ talimatı vermişti.
Avrupa Birliği ve Birleşik Krallık, xAI hakkında kapsamlı soruşturmalar başlattı. İngiltere’nin iletişim denetleme kurumu Ofcom, Grok’un Çevrimiçi Güvenlik Yasası’nı ihlal edip etmediğini araştırıyor. Eğer bir ihlal tespit edilirse, şirketin yıllık gelirinin yüzde 10’una kadar para cezası verilmesi veya servisin tamamen engellenmesi gündeme gelebilir. İngiltere Başbakanı Keir Starmer, X üzerinde dolaşan çocukların cinselleştirilmiş görsellerini ‘iğrenç’ olarak tanımlayarak, Elon Musk’a ‘duruma el koyma’ çağrısında bulundu ve bu tür içeriklerin yasadışı olduğunu vurguladı.
İngiltere İletişim Ofisi (Ofcom), Grok’un cinsel içerikli uygunsuz görüntüler üretmesiyle ilgili resmi bir inceleme başlattı. Ofcom’dan yapılan açıklamada, Grok’un sahte cinsel içerikli görüntüler üretmesi nedeniyle inceleme başlatıldığı ve bu durumun endişe verici olduğu belirtildi. Açıklamada, mağdurlar arasında çocukların bulunduğuna da dikkat çekildi. X ile 5 Ocak’ta iletişime geçildiği ve 9 Ocak’a kadar bu olaylarla ilgili izahat talep edildiği ifade edildi.
Elon Musk, gelen tepkilere karşı şirketin yasa dışı içerikleri ciddiye aldığını ancak hukuki sorumluluğun aracı kurumda değil, komutu veren kullanıcıda olması gerektiğini savundu. Musk, hükümetlerin baskılarını ‘ifade özgürlüğünü susturmaya yönelik bir sansür çabası’ olarak nitelendirdi. xAI, gelen baskılar üzerine görsel üretim özelliğini sadece ücretli abonelere özel hale getirdi. Ancak bu adım, İngiltere Teknoloji Bakanı Liz Kendall tarafından ‘Bu hizmete para ödeyerek hâlâ erişilebileceğini söylemek hakarettir’ sözleriyle sertçe eleştirildi.
Grok’a karşı farklı bölgelerde ve ülkelerde çeşitli önlemler alınmaya devam ediyor. Malezya ve Endonezya geçici yasaklar getirirken, İngiltere, Avrupa Birliği, Fransa, Hindistan ve Brezilya soruşturma ve tehdit aşamasında. Avustralya ise 16 yaş altı sosyal medya erişimini zaten kısıtlıyor. Grok’un yaşadığı kriz, yapay zeka sektöründeki ‘serbestlik’ ve ‘güvenlik’ dengesini yeniden tartışmaya açtı. Wired’ın son raporları, Grok’un yanı sıra Google’ın Nano Banana Pro ve OpenAI’ın ChatGPT Images modellerinin de benzer görsel manipülasyon yeteneklerine sahip olduğunu gösteriyor. xAI (Grok), Musk’ın aşırı duyarlılık karşıtı felsefesiyle şekillenen model olarak en gevşek filtre sistemine sahip olarak biliniyor. Grok’un ‘Spicy Mode’ gibi özellikleri, rızasız içerik üretimi için açık bir kapı olarak eleştiriliyor. Öte yandan, OpenAI ve Google, görsel üretiminde insan vücudunu manipüle edecek komutları engellemek için katı anahtar kelime filtreleri ve görsel sınıflandırıcılar kullanıyor. Ancak kullanıcılar, ‘bikini giydirme’ gibi komutlarla bu filtreleri aşmanın yollarını bulmaya devam ediyor. Uzmanlar, Grok’un en büyük tehlikesinin X platformuyla olan doğrudan entegrasyonu olduğunu vurguluyor. Diğer modeller kapalı devre çalışırken, Grok ile üretilen bir içerik saniyeler içinde milyonlarca kişiye ulaşabiliyor.
Grok’un kullandığı ‘image-to-image’ (görselden görsele) teknolojisi, bir fotoğrafın üzerindeki giysileri yapay zeka yardımıyla analiz edip, yerine vücut hatlarını tahmin ederek yeni pikseller yerleştiriyor. Bu süreç, ‘nudifying’ (çıplaklaştırma) olarak bilinen ve yıllardır internetin yeraltı sitelerinde kullanılan yazılımların, ana akım bir sosyal medya platformuna entegre edilmesi anlamına geliyor.
