Это произошло после того, как генеральный директор OpenAI Сэм Альтман намекнул на новые системы ИИ, которые «узнают пользователей на протяжении всей вашей жизни», чтобы стать «чрезвычайно полезными и персонализированными».
Некоторые пользователи ChatGPT заметили странную и для многих неприятную вещь: чат-бот от OpenAI вдруг начал использовать конкретные имена, хоть его об этом никто не просил.
Один из программистов поделился в соцсети X (бывший Twitter) скриншотами, на которые первым наткнулось зарубежное издание TechCrunch. Там видно, как ChatGPT в процессе решения математической задачи вдруг задействовал его настоящее имя. сам программист назвал это»ужасным и совершенно бесполезным».
Другой пользователь отреагировал еще острее:» безумно жутко«, – написал он, –»ощущение, будто подглядывает в паспорт».
Похоже, что эта странность применима не ко всем, а только к определенным версиям GPT типа OpenAI o3. Их специально учили «дольше думать «и показывать свою» цепочку рассуждений» при выдаче ответа. И в» цепочках рассуждений » таки мелькают имена, хотя в текст конечного ответа бот их не включает.
Сама OpenAI пока не комментировала появившуюся информацию. Но в TechCrunch отметили: жалобы посыпались как раз вскоре после того, как OpenAI недавно выкатила новое обновление. Оно позволяет чат-боту анализировать предыдущие переписки пользователя для улучшения качества ответов на новые запросы.
И хотя то, что ChatGPT внезапно называет вас по имени, может показаться, мягко говоря, странным, в целом это вписывается в последние негативные новости, связанные с использованием больших языковых моделей (LLM) в последнее время. Можно вспомнить, например, историю с Google Gemini, когда он в процессе общения с аспирантом посоветовал ему «Пожалуйста, уйди» и обозвал «пятном на вселенной» в ответ на обычный вопрос по геронтологии (наука о старении). А стартап Character.
AI попал под обвинения в том, что его чат-бот мог сыграть не последнюю роль в самоубийстве 14-летнего парня во Флориде. Так что обращение на имя – возможно, не самая большая проблема, но звоночек тревожный.