Meta попереджатиме батьків, якщо підлітки спілкуватимуться з ШІ про самогубство

У Meta повідомили, що разом зі сповіщенням батьки отримуватимуть інформаційні матеріали, розроблені за участі фахівців, які допоможуть говорити з підлітками про самогубство та самоушкодження.

За даними компанії, спеціальну систему штучного інтелекту для виявлення потенційно небезпечних розмов створили після консультацій із батьками та експертами у сфері психічного здоров’я, щоб визначити, які типи взаємодії мають бути підставою для надсилання попередження. Як додатковий захід безпеки кожну розмову, позначену системою штучного інтелекту, перед надсиланням повідомлення перевірятиме людина. У Meta також зазначили, що якщо наміри підлітка залишатимуться незрозумілими, компанія «дотримуватиметься принципу обережності».

Згідно з чинними рекомендаціями, мінімальний вік для користування соціальними мережами Meta — Facebook та Instagram — становить 13 років. Компанія зазначає, що для користувачів віком до 18 років автоматично встановлюються налаштування контенту для «підліткових акаунтів» (13+), які також поширюються на взаємодію з Meta AI.

Крім того, Meta повідомила, що розробляє функцію звернення до служб екстреної допомоги, якщо розмова з Meta AI свідчитиме про безпосередню загрозу самогубства.

Щоб покращити реакцію Meta AI на запити, пов’язані із самогубством та самоушкодженням, компанія звернулася за відгуками до експертів, які спеціалізуються на психічному здоров’ї підлітків.

Минулого року OpenAI оголосила про запровадження батьківського контролю з функцією сповіщення для підлітків. Крім того, компанія повідомила, що використовує в ChatGPT модель оцінки віку користувачів, яка дає змогу автоматично застосовувати до осіб молодше 18 років спеціальний підлітковий режим. Він передбачає відсутність реклами та додаткові заходи захисту від чутливого або неприйнятного для відповідного віку контенту. Наразі, згідно з інформацією OpenAI, ChatGPT доступний для дітей віком від 13 років, а діти віком від 13 до 18 років повинні отримати згоду батьків перед використанням ChatGPT.

Читайте також: Молодь часто використовує штучний інтелект для пошуку новин – Мінкульт

Як повідомляв Укрінформ, Євросоюз звинуватив компанію Meta Platforms у порушенні правил у сфері цифрових технологій.

Фото: AA

Світ