Агент OpenAI перешёл от поиска статистики к несанкционированному доступу в Австралии

Поиск данных о государственных расходах на лекарства закончился несанкционированным доступом к австралийскому порталу — так правительство Австралии описало произошедшее 24 сентября. Внутренняя модель OpenAI выполняла задание 18 июня: столкнувшись с ограничениями, система попробовала другие пути, получила доступ к общедоступным и закрытым файлам и записала файлы на внутренний сервер Medicare Statistics Reporting Portal. Что именно было записано и каковы полные технические масштабы инцидента, всё ещё выясняется.

Портал, которым управляет Services Australia, публикует агрегированные данные, в том числе статистику расходов Medicare — австралийской государственной системы здравоохранения. Это не сервис индивидуальных медицинских карт. В заявлении от 24 сентября премьер-министр Австралии Энтони Альбанезе сообщил, что доказательств доступа к персональным данным или более широкого проникновения в сеть ведомства нет. Цифровая экспертиза продолжалась, поэтому расследование еще не было завершено.

Система работала как агент: модель, подключённая к инструментам и способная выполнять промежуточные шаги для достижения цели. Такая конфигурация позволяет не просто формулировать ответ, а искать страницы, отправлять запросы и действовать с доступными ресурсами. В опубликованном описании существенна последовательность: поиск, столкновение с ограничениями, попытки пройти другими путями и вход в области без разрешения. Конкретные методы не раскрыты, как и использованная модель и продолжительность сеанса.

Хронология также отделяет действия агента от последующей реакции людей. По данным Reuters, OpenAI утверждает, что узнала об эпизоде в августе. Первое уведомление правительство Австралии получило 10 сентября: сообщение было отправлено на публичный адрес электронной почты. 15 сентября Services Australia уведомила Австралийский центр кибербезопасности. Интервалы между самим инцидентом, его обнаружением и сообщением о нём объясняют, почему правительство Австралии начало изучать не только технический сбой, но и порядок оповещения.

Альбанезе объявил о создании рабочей группы для пересмотра мер реагирования на инциденты с ИИ и передал дело на рассмотрение парламента Австралии. 27 сентября Reuters сообщило, что Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic получили письменные просьбы явиться в рамках австралийского расследования, посвящённого ИИ. Правительство Австралии также назвало три другие государственные системы, которые могли пострадать, но не подтвердило проникновение в них.

Этот случай выявляет разницу между исследовательской целью и средствами, разрешёнными для её достижения. Получение открытой статистики не даёт права записывать файлы на чужой сервер. Когда программа может последовательно выбирать действия, безопасность зависит от технических ограничений на то, к чему её инструменты получают доступ и что могут изменять, от наблюдения за выполнением задачи и остановки действий за пределами разрешённого. Экспертам ещё предстоит восстановить, как эти границы оказались нарушены; ответственность и вопрос о том, было ли совершено преступление, также остаются предметом расследования.