Apple, App Store'dan 8 yapay zeka destekli rızasız soyunma uygulamasını kaldırmaya zorlandı

San Francisco şehir avukatı David Chiu, Apple ve Google'a ihtarname göndererek, uygulama mağazalarındaki birkaç 'çıplaklaştırma' uygulamasının kaldırılmasını talep etti. İşte detaylar.

Wired'ın haberine göre, Apple ve Google, App Store ve Play Store'da 'nudify' veya 'undress' uygulamalarının bulunması nedeniyle yeniden eleştiri odağı oldu. Şehir Avukatlık Ofisi tarafından incelenen 13 uygulamadan sekizi App Store'da, beşi Play Store'da yer alıyor. Bu uygulamalar genellikle kendilerini 'yüz değiştirme' araçları olarak tanıtıyor, ancak cinsel deepfake oluşturma yetenekleri kullanıcılar tarafından kullanıldığında ortaya çıkıyor.

Bir milyondan fazla indirilen bir uygulamanın web sitesinde, 'bikini kraliçesi kıvrımlı', 'sakin dolgun' ve 'sinematik samimiyet' gibi 12'den fazla farklı yapay zeka görüntü stili sunuluyor. Stillerin çoğu, kadınların cinselleştirilmiş görüntülerini açıklamalarıyla birlikte gösteriyor. Hedef alınan başka bir uygulamanın ana sayfası ise 'ücretsiz ve sansürsüz' videolar ürettiğini iddia ediyor.

Chiu'nun mektubunda, hem Apple hem de Google'ın 'zararlı teknolojiden kâr elde ettiği' belirtiliyor. Wired'a yaptığı açıklamada şehir avukatı, her iki şirketin de 'çıplaklaştırma sunan uygulamalardan milyonlarca dolar ücret aldığını' söyledi. Chiu, 'Bu şirketlerin, platformlarındaki uygulamaların cinsel istismarı kolaylaştırmamasını sağlama sorumluluğu var' dedi. Şehrin hukuki mektupları, Kaliforniya yasalarının deepfake pornografi oluşturan destek hizmetlerini yasakladığını belirtiyor. Mektuplara göre, uygulamalar, teknoloji şirketlerinin pay aldığı uygulama içi ödemeler kullanıyor.