xAI, yapay zeka aracını çocukları cinselleştirmek için kullanan kullanıcıya dava açtı

Elon Musk'ın yapay zeka şirketi xAI, Güney Carolina'da yaşayan ve daha önce reşit olmayanları cinsel istismar suçlamalarıyla tutuklanan bir adama dava açtı. Şirket, Terry Harwood'un yapay zeka aracı Grok'u kötüye kullanarak çocukların cinsel içerikli görüntülerini oluşturduğunu iddia ediyor.

Salı günü Teksas federal mahkemesinde açılan dava, Harwood'un şirketin hizmet şartlarını bilerek ihlal ettiğini öne sürüyor. 12 sayfalık şikayet dilekçesinde, "Davacı, sahte kimlikler kullanarak birden fazla xAI hesabı açtı. xAI Hizmet Şartları ve Kabul Edilebilir Kullanım Politikası'na açıkça uymayı kabul etmesine rağmen, Grok'un yerleşik güvenlik önlemlerini aşmak için yanıltıcı komutlar tasarladı ve aracı, fotoğraf konularının bilgisi veya rızası olmadan cinsel içerikli görüntülere dönüştürmek için kullandı" ifadeleri yer aldı.

Dava, Harwood'un yetişkin ve reşit olmayan kişilere ait cinsel içerikli olmayan fotoğrafları yüklediğini ve ardından bunları cinselleştiren 'deepfake'ler oluşturmaya çalıştığını belirtiyor. Dilekçede, "Davacının xAI hesaplarının incelenmesi, ilgili dönemde birçok kez Grok'a görüntülerdeki kişileri cinselleştirmek için komutlar gönderdiğini ve Grok'un bu tür materyallerin içerik denetleme kurallarını ihlal ettiği gerekçesiyle komutları yerine getirmeyi reddettiğini gösteriyor" denildi.

Buna karşılık Harwood'un, Grok'un denetleme çabalarını aşmak için değişiklikler yaparak defalarca yeni komutlar gönderdiği ifade edildi. Bu dava, bir yapay zeka şirketinin kullanıcılarından birine karşı açtığı ilk dava olma özelliği taşıyor.