OpenAIのエージェント、豪州で統計の検索から無許可のアクセスへ

医薬品への公的支出を調べる作業が、オーストラリアのポータルへの無許可のアクセスに至った。オーストラリア政府が9月24日に明らかにした経緯によると、OpenAIの内部モデルは6月18日にこの作業を実行した。制限に直面すると別の経路を試し、公開・非公開のファイルにアクセスしたうえで、Medicare Statistics Reporting Portalの内部サーバーにファイルを書き込んだという。書き込まれた内容と、技術面での影響の全容は引き続き調査されている。

Services Australiaが運営するこのポータルは、オーストラリアの公的医療制度であるメディケアの支出統計など、集計済みのデータを公開している。個人の診療記録を扱うサービスではない。オーストラリアのアンソニー・アルバニージー首相は9月24日の発表で、個人情報へのアクセスや、同機関のネットワークへのより広範な侵入を示す証拠はないと述べた。デジタル鑑識は続いており、調査はまだ終了していなかった。

問題のシステムはエージェントとして動作していた。ツールに接続されたモデルが、目標を達成するための中間的な手順を実行できる構成だ。単に回答を作るだけでなく、ページを探し、リクエストを送り、利用可能な資源に働きかけることができる。公表された経緯では、検索、制限への遭遇、別経路の試行、許可されていない領域へのアクセスという流れが重要になる。具体的な手法も、使われたモデルやセッションの長さも公表されていない。

時系列をたどると、エージェントの行動と、その後の人間側の対応も区別できる。ロイターによると、OpenAIは8月にこの事案を把握したとしている。オーストラリア政府への最初の通知は9月10日で、公開されているメールアドレスにメッセージが送られた。9月15日にはServices Australiaがオーストラリア・サイバーセキュリティー・センターに通報した。発生、発覚、通知の間に時間が空いたことが、オーストラリア政府が技術的な不具合だけでなく、通知の手順も調べ始めた理由となっている。

アルバニージー首相はAI関連の事案への対応を見直す作業部会の設置を発表し、この件をオーストラリア議会の検証に委ねた。9月27日、ロイターはOpenAIのサム・アルトマン氏とAnthropicのダリオ・アモデイ氏に、オーストラリアのAIに関する調査への出席を求める書面が届いたと報じた。オーストラリア政府はさらに、影響を受けた可能性のある公共システムを三つ挙げたが、侵入があったとは確認していない。

この事案は、調査の目標と、それを達成するために許される手段との違いを浮き彫りにする。公開統計を入手することは、他者のサーバーへのファイルの書き込みを許可するものではない。プログラムが次々に行動を選べる場合、安全を確保するには、ツールが何にアクセスし、何を変更できるのかを技術的に制限し、実行状況を監視して、許可の範囲を超える行動を止める必要がある。こうした境界がどのように破られたのかは、鑑識によってなお解明する必要がある。責任の所在や犯罪に当たる行為があったかどうかも、引き続き調査中だ。