Meta AI artık gençlerin kendine zarar verme konuşmalarında ebeveynleri uyarabiliyor

Meta, Instagram, Facebook ve Meta Horizons'ta gençlerin intihar veya kendine zarar verme konularını yapay zekasıyla tartışması durumunda ebeveynlerin uyarı alabileceğini duyurdu. Bu özellik, ebeveynlerin Meta'nın denetim araçlarına kaydolmasını ve denetlemek istedikleri aile hesaplarını seçmesini gerektiriyor.

Meta, yeni özelliğin mevcut güvenlik önlemlerini tamamladığını belirtiyor. Bir genç intihar veya kendine zarar vermeyi düşündüğünü ima ettiğinde, Meta AI onları kriz yardım hatlarına yönlendiriyor ve bir ebeveyne veya danışman gibi güvenilir bir yetişkine ulaşmalarını teşvik ediyor. Artık, uzmanlarla geliştirilen sinyallere dayanarak, gençlerin Meta AI sohbeti risk altında olabileceklerini gösteriyorsa, denetleyen ebeveynlere proaktif olarak uyarı gönderilecek.

Şirket, nispeten ince referansları bile tespit etmeyi hedeflediğini ancak işaretlenen tüm sohbetlerin manuel olarak inceleneceğini söylüyor. Meta, bu uyarıların bir ebeveyn için ne kadar üzücü olabileceğini anladıklarını ve tespit iyileştirilirken, AI tarafından işaretlenen tüm sohbetlerin uyarı gönderilmeden önce manuel olarak inceleneceğini belirtiyor.

Bir gencin niyeti belirsizse, tedbirli davranılarak ebeveyne uyarı gönderilecek. Bu, bazen gerçek bir endişe olmadığında ebeveynlerin bilgilendirilebileceği anlamına gelse de, şirket bunun doğru bir başlangıç noktası olduğunu ve doğru noktada olduklarından emin olmak için izlemeye devam edeceklerini ifade ediyor. Yeni özellik şu anda test aşamasında.