Многие технологии развивались не только благодаря науке, но и из-за естественного интереса людей к эротическому контенту. Сфера искусственного интеллекта также сталкивается с этой темой, ведь некоторые компании рассматривают возможность использования подобного контента для развития своих платформ. В то же время они пытаются действовать в рамках законодательства и этических норм. Компания OpenAI пока не готова запускать эротические чаты в своем чат-боте ChatGPT.
О возможности появления такого функционала ранее говорил генеральный директор Sam Altman. Изначально планировалось, что новая функция может появиться до конца прошлого года, позже запуск перенесли на текущий квартал. Однако теперь ясно, что эти сроки не будут соблюдены, и запуск может быть отложен как минимум на месяц.
Еще до появления ChatGPT компания проводила эксперименты с генерацией текстового контента. Например, в 2021 году пользователям была предложена интерактивная игра AI Dungeon, в которой сюжет развивался в зависимости от действий игроков. Во время тестирования специалисты заметили, что искусственный интеллект иногда сам предлагал обсуждать темы сексуальных отношений или делал ответы слишком откровенными. Это заставило компанию задуматься о необходимости четких этических ограничений.
В последнее время руководство OpenAI осторожнее говорит о возможности запуска подобных чатов. По предварительным планам, если они и появятся, то ограничатся лишь текстом без создания откровенных изображений или видео. В то же время конкуренты также экспериментируют в этом направлении. Например, Элон Маск заявил, что чат-бот Grok от его компании xAI в будущем может создавать видео с контентом категории «18+». А Meta позволяет пользователям вести романтические ролевые диалоги со своим чат-ботом, но только после подтверждения совершеннолетия.
В то же время у OpenAI существуют серьезные опасения по поводу безопасности. Система проверки возраста пока может ошибаться примерно в 12% случаев, что создает риск доступа несовершеннолетних к взрослому контенту. Также эксперты волнуются из-за возможного появления запрещенных сценариев, психологической зависимости пользователей от чат-ботов и снижения интереса к реальным отношениям.
Именно поэтому компания пока не спешит с запуском подобной функции. В руководстве отмечают, что взрослых пользователей нужно воспринимать как ответственных людей, но создание безопасного и этичного опыта взаимодействия с такими технологиями требует значительно больше времени.