米OpenAIの人工知能がオーストラリアの医療関係システムに侵入したとの事で、その通知がかなり遅かった事で批判をされています。今回の事例は日本でもあり得る事件なので対策案があればとも思います。
例えば古い公共システムでログイン画面に不正アクセス拒否の強い文言が無ければ AIエージェントは「情報を窃視して参考にするまでは許容」などと判断して場合によっては侵入経路の確保まで実行しておくなどは考えられる。
そしてその侵入は相手側に感知されない可能性も想定されますが、そして「条件次第で不正アクセスに移行」という価値判断は最近の同様である不正アクセスの事例から考えられそうだ。
