Google разрабатывает для чат-бота Gemini функцию, которая будет сообщать родителям, если ребенок заговорит с ИИ о причинении вреда себе. Возможность планируют встроить в систему родительского контроля, но компания пока не объявляла о ней официально.
Упоминания функции обнаружили специалисты Android Authority в версии 17.73.15 приложения Google. Согласно найденному в коде тексту, детям покажут предупреждение о том, что родители получат уведомление, если Gemini выявит разговоры о самоповреждении.
Сейчас родители могут с помощью Family Link ограничивать доступ к приложениям и настраивать фильтры контента. Новая функция должна не только ограничивать опасные ответы чат-бота, но и выявлять тревожные сообщения самих детей.
При этом уведомления могут повлиять на готовность подростков делиться переживаниями: если они будут знать, что родители увидят такие разговоры, то могут начать скрывать психологические проблемы или реже обсуждать их с ИИ.
Google не сообщила, когда функция появится. В коде приложения также нашли упоминания о разработке ограничений на ежедневное время использования Gemini. Это указывает на расширение инструментов родительского контроля для защиты детей при общении с искусственным интеллектом.
Оригинал этой публикации впервые появился на Glob-News.com.