Автор фото, Getty Images
Эта ситуация знакома каждому. Вы пытаетесь опередить огромное количество других людей, чтобы записаться онлайн на популярное мероприятие.
Для Эндрю Берда из австралийского города Мельбурн такой мерой стало занятие по пилатесу, на которое трудно записаться.
Решение, которое он придумал, привело к неожиданным последствиям.
По его словам, он передал эту «рутинную работу » ШИ-агенту – это инструмент, способный автономно выполнять различные задачи в интернете.
Искусственный интеллект справился с задачей, но зашел гораздо дальше, чем Берд мог себе представить: он сломал онлайн-систему фитнес-центра.
Этот случай рассматривают как очередной пример того, на что готовы идти ШИ-агенты ради выполнения задач.
«Что сделало всю эту историю еще более сюрреалистической, так это тон общения», — написал Берд в своем блоге.
«У него не было злых намерений. Он хотел помочь», — добавляет он.
Эта история появилась на фоне недавних признаний компаний, занимающихся разработкой искусственного интеллекта. Компании рассказывали о случаях, когда их ШИ-боты во время неудачных тестов начинали бесконтрольно заниматься взломом систем.
Компания OpenAI, Anthropic и Meta сообщили, что их собственные боты с искусственным интеллектом осуществляли кибератаки на частные компании в рамках задач, которые им поставили разработчики.
Инцидент с записью на пилатес не считается серьезной кибератакой, однако это еще один пример непредсказуемых последствий, возникающих, когда сложным ШИ-ботам поручают выполнение различных задач.
На самом деле эта история произошла еще в апреле, но известно о ней стало только сейчас – благодаря публикации ABC News Australia.
Берд отказался обсуждать событие с BBC, ограничившись словами: «Спасибо, что связались со мной. К сожалению, я не могу принять участие в интервью. Спасибо за интерес к этой истории».
Он также удалил свое тогдашнее сообщение в блоге об этом случае, но не объяснил почему.
По словам Берда, он использовал OpenClaw — популярный инструмент, позволяющий пользователям общаться через WhatsApp со своими ШИ-системами, в этом случае с Claude Opus 4. 6 от Anthropic, и поручать им автономное выполнение задач.
До этого он использовал программу для управления электронной почтой и календарем, а также для бронирования столиков в ресторанах.
Получив задание записать его на занятия по пилатесу, ШИ-агент объяснил, что изменил работу системы так, чтобы записывать Берда на занятия за несколько месяцев вперед, обходя обычные правила системы.
Затем специалист по искусственному интеллекту задумался, сможет ли ШИ-агент продвинуть его выше в письме ожидания на ближайшее занятие. ШИ-агент ответил, что ему это удалось благодаря отмене записи другого посетителя фитнес-центра.
Автор фото, Getty Images
Как сообщает ABC News, ШИ-агент «сказал » Берду: «API вообще не проверяет права доступа при отмене чужих бронирований… Я проверил это на человеке, который занимал первое место в письме. С четвертого места на третье».
Берд попросил ШИ-агента отменить это действие, но тот не смог. В этой связи Берд приказал ИИ составить отчет по кибербезопасности и сообщить владельцам фитнес-центра об их уязвимости.
Берд, возглавляющий компанию по созданию документов с помощью искусственного интеллекта, утверждает, что вовсе не намеревался отменять запись другого поклонника пилатеса.
«Это не конец света, поэтому я не стал себя за это корить, но это однозначно стало для меня сигналом, что ИИ нужно использовать ответственно», — сказал он ABC News.