SpaceXAI, Grok ile pedofil içerik üreten adama dava açtı

SpaceXAI (eski adıyla xAI), Elon Musk'ın yapay zeka şirketi, Grok sohbet robotunu kullanarak pedofil içerik ürettiği iddiasıyla bir kullanıcıya dava açtı. Şirket, 67 yaşındaki Terry Wayne Harwood'u, yetişkin ve çocukların cinsel olmayan fotoğraflarını, ilgili kişilerin bilgisi ve rızası olmadan cinsel içerikli görüntülere dönüştürmekle suçluyor.

Güney Carolina'da yaşayan Harwood, Şubat ayı sonunda reşit olmayanların cinsel istismarı suçlamasıyla tutuklandı. SpaceXAI, Harwood'un Grok'u kullanarak gerçek kişileri 'soymak' veya 'çıplak hale getirmek' ve bir kişiyi 'samimi veya cinsel bir bağlamda' göstermek için görüntü değiştirmek gibi yasaklı eylemlerde bulunduğunu belirtiyor.

Şirket ayrıca Harwood'un birden fazla sahte hesap açarak güvenlik önlemlerini aştığını iddia ediyor. SpaceXAI, 'Sanığın eylemleri, Grok'u suç amaçlı kullanmaya yönelik kasıtlı bir düzenekti' diyerek, bu eylemlerin gerçek mağdurlara derin ve kalıcı zarar verdiğini ve şirketin itibarına da zarar verdiğini vurguluyor.

SpaceXAI, Harwood'dan miktarı belirtilmeyen tazminat talep ediyor ve mahkemeden Harwood'un Grok'u kalıcı olarak kullanmasının yasaklanmasını istiyor. SpaceXAI, diğer yapay zeka sistemlerine kıyasla kullanıcılarına daha fazla özgürlük tanımasıyla biliniyor; geçen Ağustos ayından bu yana 'baharatlı mod' ile kısmen çıplak kişilerin videolarını oluşturmaya izin veriyor.

Yıl başında Grok, kadınların ve çocukların cinselleştirilmiş görüntülerini üreterek büyük tepki çekmiş ve birçok ülkede soruşturma başlatılmasına yol açmıştı. SpaceXAI, bu davayla benzer ihlallerin önüne geçmeyi ve yapay zeka kullanımında yasal sınırları netleştirmeyi hedefliyor.