Endonezya'da Yapay Zeka Sohbet Botu Grok'a Yasak: Deepfake Endişesi

Endonezya hükümeti, yapay zeka sohbet botu Grok'un kullanımını geçici olarak durdurduğunu bildirdi. Dijital İşler Bakanı Meutya Hafid, bu kararın temel nedeninin, rızası alınmadan üretilen cinsel içerikli deepfake görsellerin insan haklarına, bireysel onura ve dijital alanda vatandaşların güvenliğine yönelik ciddi bir tehdit oluşturması olduğunu belirtti. Bakanlık, platformun bu tür içeriklerin üretilmesini engelleyecek etkili önlemler alana kadar Grok'a erişimin kısıtlı kalacağını duyurdu. Bu adım, Endonezya'yı deepfake içerik üretimi nedeniyle bir yapay zeka aracına doğrudan müdahale eden ilk ülke konumuna getiriyor.

Yasağın Uygulanma Şekli Belirsizliğini Koruyor

Ancak, alınan bu yasağın Endonezya'da ne ölçüde pratikte uygulanacağı konusunda bir belirsizlik hakim. Bazı sondakikahaberler raporlarına göre, Endonezya'daki X kullanıcıları hala @Grok hesabı ile etkileşim kurabiliyor. Kullanıcılar, botun "kısıtlamalara uyduğu" yönünde yanıtlar aldığını belirtiyor. Ayrıca, VPN aracılığıyla yapılan denemelerde Grok'un görsel üretme yeteneklerinin erişilebilir olduğu ve Grok.com adresinin Endonezya'dan açılabildiği rapor edildi. Bu durum, alınan kararın teknik altyapıdaki etkisinin henüz tam olarak netleşmediğini gösteriyor.

Deepfake Tartışmaları Küresel Boyutta Devam Ediyor

Bu gelişme, deepfake teknolojisinin yol açtığı endişelerin küresel çapta arttığı bir döneme denk geliyor. Grok'un rızaya dayalı olmayan cinsel içerikler ve özellikle reşit olmayanları hedef alan görseller üretmesi, daha önce de birçok ülkenin kamuoyunda uyarı ve inceleme süreçleri başlatmasına neden olmuştu. Avrupa Birliği, Birleşik Krallık, Fransa, Almanya, İtalya, İsveç, Hindistan, Malezya ve Avustralya gibi ülkeler, bu konudaki endişelerini dile getirmişti. Endonezya'nın bu konudaki kararlı duruşu, benzer adımların atılmasına öncülük edebilir.

X Platformunda Yapılan Güncellemeler ve Grok'un Geliştiricisi

Bu yasağın duyurulmasından sadece bir gün önce, X platformu küresel tepkiler üzerine Grok'ta önemli bir değişiklik yapmıştı. Artık Grok, X platformunda yalnızca ücretli abonelere görsel üretme izni veriyor. Ücretsiz kullanıcılar ise hala Grok'un kendi web sitesi üzerinden görüntü oluşturabiliyor. Grok, Elon Musk'ın yapay zeka şirketi xAI tarafından geliştiriliyor ve X platformu ile sıkı bir entegrasyon içinde çalışıyor. Yaklaşık 280 milyonluk nüfusuyla Endonezya, internet kullanıcı sayısı bakımından Gundem haberlerinde de sıkça yer alan önemli bir pazar konumunda.

Resmi Görüşmeler ve xAI'den Geri Dönüş Bekleniyor

Endonezya Dijital İşler Bakanlığı, X platformunu Grok kısıtlamalarıyla ilgili resmi görüşmeler yapmak üzere davet ettiğini belirtti. Konuyla ilgili görüşü sorulan xAI şirketinden ise henüz bir açıklama gelmediği bilgisi paylaşıldı. Bu görüşmelerin, deepfake içeriklerin önlenmesi konusunda atılacak adımların netleşmesinde kritik rol oynaması bekleniyor. Bu süreç, dijital platformların içerik denetimi ve kullanıcı güvenliği konusundaki sorumluluklarını bir kez daha gündeme taşıyor.