TTP Raporu Alarm Veriyor: Yapay Zeka Destekli “Soyunma” Uygulamaları Mağazaları Doldurmuş
Tech Transparency Project (TTP) tarafından yayımlanan yeni rapor, App Store ve Google Play’deki denetim mekanizmalarının ciddi şekilde sorgulanmasına neden oldu. Rapora göre, yapay zeka destekli ve rıza dışı “soyunma” (nudify) görüntüleri üreten uygulamalar, her iki uygulama mağazasında da sanılandan çok daha yaygın.
Bu uygulamalar, son dönemde Grok gibi yapay zeka araçlarıyla yeniden gündeme gelen etik ve hukuki sorunların mobil taraftaki en somut örneklerinden biri. Aslında problem yeni değil; ancak yapay zekanın teknik engelleri neredeyse sıfırlaması, bu tür içeriklerin saniyeler içinde üretilmesini mümkün hale getirdi. Geleneksel fotoğraf düzenleme araçlarıyla günler süren işlemler, artık tek tuşla yapılabiliyor.
Rakamlar Çarpıcı
TTP raporuna göre:
- Bu tür uygulamalar 705 milyondan fazla kez indirildi
- Toplamda 117 milyon dolar gelir elde edildi
Daha da kritik olan nokta şu: Apple ve Google, uygulama mağazalarından aldıkları komisyonlar sayesinde, kendi politikalarını ihlal eden uygulamalardan dolaylı olarak gelir elde etmiş durumda.
Denetim Var Diyorlar, Ama…
Apple ve Google, App Store ve Google Play’i “güvenli platformlar” olarak konumlandırıyor ve yüksek komisyon oranlarını da sıkı denetim süreçleriyle gerekçelendiriyor. Ancak TTP raporu, bazı uygulama kategorilerinin bu denetimlerin rahatça dışına çıkabildiğini net biçimde ortaya koyuyor.
Özellikle ironik olan detay şu:
Google Play politikaları, kişileri nesneleştiren veya kıyafet altını gösterdiğini iddia eden uygulamaları (şaka amaçlı olsa bile) açıkça yasaklıyor. Buna rağmen bu uygulamaların milyonlarca indirme alabilmiş olması, politikanın kağıt üzerinde kaldığını düşündürüyor.
Bu rapor şunu net söylüyor: Sorun sadece “kötü niyetli geliştiriciler” değil, ölçek büyüdükçe zayıflayan platform denetimleri. Yapay zeka hızlandıkça etik ihlaller de aynı hızda yayılıyor. Apple ve Google için top artık net şekilde orta sahada. Ya denetimler gerçekten sıkılaştırılacak ya da “güvenli mağaza” söylemi giderek inandırıcılığını kaybedecek.
Kurumsal dilde söylersek: Bu bir itibar riski.
Gerçek hayatta söylersek: Bu iş böyle gitmez.
