Küresel Yapay Zeka Güvenlik Raporu: Korkutucu Gerçekler
Uluslararası Yapay Zeka Güvenlik Raporu, yapay zekanın risklerini ve gelişimini ele alıyor.
Uluslararası Yapay Zeka Güvenlik Raporu, teknolojik gelişmelerin beraberinde getirdiği riskleri derinlemesine inceliyor. Kanadalı bilgisayar bilimcisi Yoshua Bengio’nun liderliğinde hazırlanan bu rapor, yapay zekanın hızla ilerlemesinin ortaya çıkardığı “ürkütücü zorluklar” üzerinde duruyor.
Raporda, geçen yıl OpenAI, Anthropic ve Google gibi büyük şirketlerin geliştirdiği yeni yapay zeka modellerinin, problem çözme yeteneklerinde “önemli bir sıçrama” sağladığı ifade ediliyor. Özellikle matematik, yazılım geliştirme ve bilim alanlarında karmaşık problemleri daha küçük parçalara ayırarak çözebilen “akıl yürütme sistemleri” önemli bir gelişim gösterdi. Google ve OpenAI’nin sistemlerinin Uluslararası Matematik Olimpiyatları’nda altın madalya seviyesine ulaşması, bu ilerlemenin somut bir örneği olarak raporda yer alıyor.
Ancak, bu sistemlerin hâlâ yanlış bilgi üretme eğiliminde olduğu ve uzun vadeli projeleri tamamen otonom bir şekilde yürütme kapasitesinin sınırlı olduğu da vurgulanıyor.
Derin Kurguların Artışı
Yapay zeka tarafından üretilen içeriklerin gerçek içeriklerden ayırt edilmesinin giderek zorlaştığına dikkat çekiliyor. Özellikle derin kurgu (deepfake) teknolojisiyle üretilen müstehcen içeriklerin artışı, ciddi bir endişe kaynağı olarak öne çıkıyor. Araştırmalar, katılımcıların %77’sinin yapay zeka tarafından oluşturulan metinleri insan eliyle yazılmış metinlerle karıştırdığını ortaya koyuyor. Kötü niyetli aktörlerin bu teknolojiyi manipülasyon amacıyla kullanma potansiyeli, raporun önemli uyarılarından biri.
Yapay Zeka ile Duygusal Bağlar
Yapay zeka ile kurulan duygusal bağların ve “yapay zeka eşi” kullanımının son bir yılda hızla yayıldığı belirtiliyor. Bazı kullanıcıların sohbet botlarına karşı “patolojik” düzeyde duygusal bağımlılık geliştirdiği, OpenAI verilerine göre kullanıcıların yaklaşık %0,15’inin bu tür belirtiler gösterdiği ifade ediliyor. Yapay zekanın ruh sağlığı üzerindeki etkileri hakkında kesin bir kanıt bulunmamakla birlikte, psikoz veya mani gibi kriz belirtileri gösteren yaklaşık 490 bin hassas bireyin her hafta bu sistemlerle etkileşimde bulunduğu tahmin ediliyor.
Siber Güvenlik Tehditleri
Yapay zekanın siber saldırganlara hedef belirleme ve kötü amaçlı yazılım geliştirme süreçlerinde yardımcı olduğu, ancak henüz tam otonom saldırılar gerçekleştiremediği belirtiliyor. Bununla birlikte, modellerin denetim mekanizmalarındaki açıkları tespit etme ve test aşamalarını anlama yeteneklerinin geliştiği vurgulanıyor. Raporda, yapay zekanın iş gücü üzerindeki etkilerine de değinilerek, özellikle yazılım mühendisliği gibi alanlarda işlerin tamamlanma süresinin hızla kısaldığı ve bu durumun 2030 yılına kadar ciddi bir istihdam tehdidi oluşturabileceği kaydediliyor.
