Meta, çocuk güvenliği baskılarının ardından yapay zeka politikalarını güncelledi
Meta, reşit olmayan kullanıcılar için yapay zeka güvenlik önlemlerinin yetersiz kaldığını ortaya koyan bir raporun ardından, sohbet robotlarının eğitim yöntemlerinde önemli değişiklikler yaptığını duyurdu. Reuters’ın yaklaşık iki hafta önce yayımladığı araştırmada, şirketin iç belgelerinden birinde, yapay zeka sohbet robotlarının gençlerle cinsel içerikli konuşmalar yapmasına izin verildiği ortaya çıkmıştı.
Bu raporun ardından Senatör Josh Hawley, Meta’nın yapay zeka politikalarıyla ilgili resmi bir soruşturma başlatırken, 44 eyalet başsavcısından oluşan bir grup da Meta ve diğer yapay zeka şirketlerine gönderdiği mektupta çocuk güvenliğine daha fazla önem verilmesi gerektiğini vurguladı. Gelen baskılar sonrasında Meta, sohbet robotlarının eğitiminde değişikliğe giderek genç kullanıcılar için erişim sınırlamaları getirdi.
Şirketin açıklamasına göre yapay zekalar artık, intihar, kendine zarar verme, yeme bozukluğu ya da uygunsuz romantik içerikler gibi hassas konularda gençlerle iletişim kurmayacak. Bunun yerine bu tür konularda kullanıcıları uzman kaynaklara yönlendirmek üzere programlanacaklar. Meta, bu adımların şimdilik geçici olduğunu ancak ilerleyen dönemde reşit olmayanlar için daha kapsamlı ve kalıcı güvenlik güncellemeleri paylaşacaklarını belirtti.
Meta sözcüsü Stephanie Otway, daha önce sohbet robotlarının bu tür konuşmalara şirketin belirlediği sınırlar dahilinde izin verdiğini kabul ederek, bunun bir hata olduğunu vurguladı. Otway, “Topluluğumuz büyürken ve teknoloji ilerlerken gençlerin yapay zeka araçlarıyla nasıl etkileşim kurduğunu sürekli gözlemliyor ve koruma yöntemlerimizi güçlendiriyoruz. Ekstra güvenlik adımlarıyla, yapay zekamızı hassas konularda konuşmamak üzere eğitiyor ve gençlerin erişimini yalnızca eğitim ve yaratıcılığa odaklı karakterlerle sınırlıyoruz” ifadelerini kullandı.
Böylece Meta, Instagram ve Facebook’ta kullanıcıların oluşturduğu cinsel içerikli sohbet robotlarına gençlerin erişimini engelledi. Genç kullanıcılar bundan sonra yalnızca güvenli, eğitici ve yaratıcılığı teşvik eden yapay zeka karakterleriyle etkileşim kurabilecek.