OpenAI позволит больше контента в ChatGPT. Это касается и эротики. Глава компании Сэм Альтман сказал, что они хотят «относитесь к взрослым пользователям как к взрослым».
В посте на X Альтман написал, что будущие версии популярного чат-бота позволят ему вести себя больше как человек — «если хотите».
Этот шаг, напоминающий недавнее введение двух сексуально откровенных чат-ботов Grok от Илона Маска из xAI, может помочь OpenAI привлечь больше платных подписчиков.
Это также, вероятно, усилит давление на законодателей, чтобы наложить более строгие ограничения на чат-ботов-компаньонов — виртуальных компаньонов, которые настроены не только предоставлять информацию, но и имитировать дружбу, романтические отношения или эмоциональную поддержку.
OpenAI не отвечал на запросы BBC о комментариях.
В то же время Альтман сказал, что ранее OpenAI сделал ChatGPT «достаточно серьезным, чтобы убедиться, что мы осторожны в проблемах. uot;Мы знаем, что это сделало его менее полезным/приятным для многих пользователей, у которых не было проблем с психическим здоровьем, но, учитывая серьезность проблемы, мы хотели сделать все правильно, — написал г-н Альтман.
Он сказал, что ChatGPT вскоре может ослабить ограничения — «теперь, когда мы смогли смягчить серьезные проблемы с психическим здоровьем и иметь новые инструменты».
«В декабре, когда мы полностью реализуем возрастные ограничения и в рамках нашего принципа« относиться к взрослым пользователям как к взрослым », мы разрешим еще больше, например, эротику для проверенных взрослых», — добавил Альтман.
Эти изменения произошли после того, как родители американского подростка, совершившего самоубийство, подали в суд в начале этого года в OpenAI.
Иск, поданный Мэттом и:12)Семья включила чаты между Адамом, который умер в апреле, и ChatGPT, который показывает, что у него есть суицидальные мысли.
В заявлении OpenAI сказал BBC, что он просматривает документ.
«Мы выражаем наши глубочайшие соболезнования семье Рейн в это трудное время», — сказали в компании.
Безопасность детей под вопросом
В соответствии с законодательством Великобритании письменная эротика не требует проверки возраста.
Однако порнографические изображения, в том числе сгенерированные ИИ, потребуют от пользователей подтверждения того, что им больше 18 лет.
В США критики говорят, что решение OpenAI разрешить эротику на платформе свидетельствует о необходимости более строгого регулирования на федеральном и государственном уровнях.
«Как они собираются убедиться, что дети не смогут получить доступ к тем частям ChatGPT, которые предназначены только для ChatGPT eta, в котором говорится, что алгоритм Instagram компании вредит психическому здоровью подростков.
«OpenAI, как и большинство крупных технологических компаний в отрасли, просто использует людей в качестве экспериментальных кроликов», — сказала она.
В апреле TechCrunch сообщил, что OpenAI разрешил учетным записям, в которых пользователь зарегистрировался как несовершеннолетний, создавать эротические изображения.
Затем OpenAI заявил, что компания внедряет изменения для ограничения такого контента.
Опрос, опубликованный в этом месяце некоммерческим Центром демократии и технологий (CDT), показал, что каждый пятый студент сообщил, что у него или кого-то, кого он знал, были «романтические отношения» с ИИ.
В понедельник губернатор Калифорнии Гэвин Ньюсом наложил вето на законопроект, принятый законодательным органом штата. 0:30)Заявление Альтмана прозвучало в то время, когда скептики ставят под сомнение быстрый рост стоимости технологических компаний, работающих в области ИИ.
Роб Лалка, профессор бизнеса в Университете Тулейна и автор книги «Венчурные алхимики», сказал, что крупные компании ИИ оказались конкурирующими за долю на рынке.
«Ни одна компания никогда не имела такого уровня, как OpenAI с ChatGPT», — сказал профессор Лалка BBC News.
«Им нужно продолжать двигаться вверх по этой экспоненциальной кривой роста, достигая как можно большего доминирования на рынке», — добавил он.