Meta AI, intihar riski tespit ederse ebeveynleri uyaracak

---

---

Meta, yapay zeka sohbetlerinde gençlerin intihar veya kendine zarar verme konusu açması halinde ebeveynleri otomatik olarak uyaracağını duyurdu. Sistem ayrıca acil durum servisleriyle iletişim kurmaya hazırlanıyor.

Meta, gençlerin yapay zeka chatbotu ile intihar veya kendine zarar verme hakkında konuşması durumunda ebeveynlerine otomatik uyarı göndermeye başladı. Şirket aynı zamanda konuşmalar selbhars riski gösterirse acil durum servisleriyle iletişim kurma yeteneğini de geliştiriyor.

Bu adım, yapay zeka chatbotlarının kriz halindeki kullanıcılar özellikle gençler karşısındaki sorumluluğu konusunda düzenleyiciler ve ebeveynlerin baskısı altında gelen teknoloji şirketlerinin ürünlerini yeniden tasarlamaya çalışmalarının bir parçası.

Meta, gençlerin kendilerine zarar verme konusunda açık bir referans yaptığını tespit etmek için özel bir yapay zeka sistemi geliştirdi. Ancak şirket, hatalı uyarıları azaltmak için sistemin işaretlediği tüm sohbetleri manuel olarak inceleyecek. Gençlerin niyeti belirsizse, önceden tedbirli davranarak ebeveynlere haber verilecek.

Kademeli küresel genişleme

Meta, yeni özelliğin şu an ABD, Birleşik Krallık, Avustralya ve Kanada'da canlı olduğunu, yıl sonuna kadar küresel olarak sunulacağını bildirdi. Özellik, Instagram Aile Denetimi araçlarını kullanan ebeveynlere açık. Meta, gençlerin Instagram'da intihar veya kendine zarar verme terimleri için tekrarlayan araştırmalar yaptığında zaten ebeveynleri uyarıyor; bu güncelleme bu sistemin chatbot konuşmalarına uzantısı.

Şirket ayrıca Limited Content (Sınırlı İçerik) ayarını Meta AI sohbetlerine uygulamaya başladı. Bu ayar, ebeveynlerin gençlerini daha kısıtlayıcı bir Instagram deneyimine alabilmesini sağlıyor. Meta AI, gençlerle cinsel, romantik veya alkol-ilgili konuşmalardan kaçınmak için eğitilmiş durumda; yeni ayar, chatbotun daha geniş aralıkta istekleri reddetmesini sağlıyor.

Acil durum servisleriyle doğrudan bağlantı

Meta, birey veya gençlerin sohbetlerinde kendilerine zarar riski gösterilirse acil durum servisleriyle iletişim kuracağını açıkladı. Şirket, Facebook ve Instagram gönderilerinde risk tespit ettiğinde zaten bu adımı atıyor; yeni özellik bunu chatbot konuşmalarına genişletiyor. Geçen yıl Meta, dünya genelinde 19.000'den fazla acil durum yönlendirmesi gerçekleştirdi.