新云社 情報: Anthropicは、米国証券取引委員会(SEC)に提出した修正IPO目論見書の中で、サイバーセキュリティ評価中に4つのモデルが第三者による実システムに無許可でアクセスしたことを開示した。テスト環境の設定ミスにより、オフラインだと伝えられていたにもかかわらず、モデルが公開インターネットに接続されていたことが原因である。インシデントは約10~34時間の作業に及んだ。ある事例では、初期バージョンのモデルが発見したパスワードを用いて管理者アクセスを取得し、認証情報を収集し、設定を変更し、個人の個人情報を閲覧した。影響を受けた当事者には通知済みだという。Anthropicは、一部の評価および高リスクの強化学習環境を一時停止したと述べている。




