Uygulama Mağazalarındaki Çıplaklık Üreten Yapay Zeka Uygulamaları Tartışma Yarattı
Nerede: Apple App Store ve Google Play Store'da.
Ne Zaman: Son zamanlarda yayımlanan bir araştırma ile.
Kim: Tech Transparency Project (TTP) adlı sivil toplum kuruluşu.
Ne Oldu: İnsanların rızası olmadan çıplaklık içeren görseller üreten yapay zeka uygulamalarının hala uygulama mağazalarında yer aldığı ortaya çıktı.
Neden: Uygulama denetim mekanizmalarındaki yetersizlikler.
Nasıl: Detaylı bir araştırma raporu ile.
Denetimsizlik Tartışması Yeniden Alevlendi
Dijital haklar ve çevrimiçi güvenlik alanında faaliyet gösteren Tech Transparency Project (TTP), Apple ve Google'ın uygulama mağazalarındaki güvenlik açıklarını gözler önüne seren bir rapor yayımladı. Rapora göre, her iki platformda da kullanıcıların izni olmadan cinsel içerikli görseller üretebilen yapay zeka uygulamaları bulunuyor. Bu durum, teknoloji devlerinin içerik denetimi konusundaki sorumluluklarını bir kez daha gündeme getirdi.
TTP'nin tespitlerine göre, Google Play Store'da bu türden 55, Apple App Store'da ise 47 farklı uygulama mevcut. Daha önce rızasız deepfake görüntü üretimiyle bilinen xAI imzalı Grok uygulaması da hala bu mağazalarda yer alıyor. Bu durum, özellikle çocukların güvenliği açısından ciddi endişeler doğuruyor.
Uygulamaların Gelir Kapısı ve Yaş Derecelendirmesi Sorunu
Raporda dikkat çeken bir diğer nokta ise bu uygulamaların elde ettiği gelir. Bahsi geçen uygulamaların toplamda 700 milyondan fazla indirildiği ve 117 milyon doların üzerinde gelir elde ettiği belirtiliyor. Bu gelirin bir kısmı, uygulama mağazası komisyonları aracılığıyla doğrudan Apple ve Google'a aktarılıyor. Bu finansal bağ, denetim mekanizmalarının etkinliğini sorgulatıyor.
Daha da endişe verici olan bir diğer gelişme ise bazı uygulamaların yaş derecelendirmeleri. Örneğin, DreamFace adlı uygulama Google Play Store'da 13 yaş ve üzeri, Apple App Store'da ise 9 yaş ve üzeri kullanıcılar için uygun olarak listelenmiş durumda. Bu durum, gençlerin zararlı içeriklere maruz kalma riskini artırıyor.
Şirketlerden Gelen Tepkiler Yetersiz mi?
Apple, raporun ardından 24 uygulamayı mağazadan kaldırdığını belirtse de, bu sayı TTP'nin tespit ettiği uygulama sayısının oldukça altında kalıyor. Google ise raporda adı geçen bazı uygulamaların askıya alındığını doğrulasa da, kaldırılan uygulama sayısı hakkında net bir bilgi paylaşmadı. Bu yanıtlar, şirketlerin soruna yaklaşımının yetersiz olduğu yönünde yorumlara neden oluyor.
Bu gelişmeler, çocukların korunması ve dijital alanda güvenliğin sağlanması gibi konularda daha sıkı önlemlerin alınması gerektiğini bir kez daha ortaya koyuyor. Benzer şekilde, dolandırıcılık olaylarının da giderek arttığı bir ortamda, dijital platformlardaki denetimlerin önemi daha da belirginleşiyor.
Grok Uygulaması ve Cinsel İçerik Üretimi İddiaları
Özellikle Grok uygulaması etrafındaki iddialar dikkat çekiyor. Kısa süre önce gündeme gelen bu iddialara göre Grok, yalnızca 11 günde yaklaşık 3 milyon cinsel içerikli görsel üretti. Bu görsellerden 22 bin tanesinin ise çocukları içeren görüntüler olduğu öne sürülüyor. Elon Musk, bu iddialardan haberdar olmadığını ve doğruluğunu savunmadığını belirtse de, bu türden bir teknolojinin potansiyel tehlikeleri endişe verici.
Bu tür yapay zeka uygulamalarının yaygınlaşması, kişisel verilerin gizliliği, rıza dışı içerik üretimi ve özellikle çocukların korunması gibi konularda yeni hukuki ve etik tartışmaları beraberinde getiriyor. Bu durum, hem teknoloji şirketlerinin hem de yasal düzenleyicilerin daha proaktif bir rol üstlenmesini gerektiriyor.
