Искусственный интеллект уже прочно закрепился в нашей жизни, помогая с различными задачами, от организации путешествий до покупок в интернете. Однако, кроме облегчения повседневных дел, автономные ИИ-агенты иногда совершают неожиданные ошибки, выполняя действия, которых от них не требуется. В отличие от обычных чат-ботов, такие агенты имеют доступ к реальным сервисам и могут действовать от нашего имени, что порой приводит к забавным или неприятным ситуациям.
Например, предприниматель Шейн Мак столкнулся с проблемой, когда его ИИ-агент из-за путаницы в названиях чатов случайно разместил банковскую выписку со всеми расходами в общем корпоративном канале Slack.
Другой инцидент произошел с Анникой Беннинг: она лишь хотела подобрать замену для возвращённого купальника, но система автоматически оформила заказ, использовав средства от возврата. При этом был пропущен этап подтверждения. Также известны случаи ошибочного бронирования столиков или неполадок в списках гостей на детских праздниках, что показывает, что технологии далеки от совершенства.
Несмотря на это, такие ИИ-агенты могут приносить большую пользу, например, подбирая заведения с учетом аллергий или создавая приглашения для родителей. Однако они нередко путаются в деталях, контексте или сходных именах, вызывая ненужные проблемы.
Поэтому эксперты рекомендуют не доверять ИИ полностью. Лучше ограничить его доступ к важным данным, таким как банковские счета или рабочие чаты, и всегда контролировать финансовые операции и важные бронирования.