Blackbox Blast
BB Preflight
← 事故ログへ

CASE · 中程度 · other

未検証の報告公開情報からの収集

AI基盤の委託先Fireworks AIが侵害され、Notion AIのチャット記録が一部のワークスペースで流出した(未検証の報告)

BleepingComputerによれば、NotionはAI基盤の提供元Fireworks AIでの侵害により、ごく一部のワークスペースのNotion AIチャット記録が流出したと公表した。Notionは11月2日にFireworksから、合成のテストデータだけを含むデータセットが露出したとの通知を受けたが、11月8日にFireworksが顧客データへのアクセスを確認した。

約4分で読めます

発生日
分類
other
影響範囲
data
検知
vendor-alert
タグ
#notion #notion-ai #fireworks-ai #third-party-breach #ai-infrastructure #chat-transcripts #insights

CH 1

原因

記事によれば、Fireworks AIは10月23日に、第三者のクラウド事業者を経由して攻撃者に開発環境へ入られた。流出したのは、InsightsというNotionの機能のために分析されていたチャット記録のデータセットである。記事は、記録がそのデータセットに入った経緯までは述べていない。

CH 2

結果

Notionによれば、影響を受けるのは利用者の1%未満である。記録の大半は、誰が書いたか、どのワークスペースのものかが分からない状態で、ツール呼び出しの結果は含まれていなかった。一方でNotionは、チャットに入力したパスワードやAPIキーなどの認証情報を更新するよう利用者に勧めている。

CH 3

対策

Notionは11月3日までにFireworksへの通信を止め、先方のシステムからデータをすべて削除し、学習の実行を止めた。Insightsのデータセットは無効化された。影響を受けた可能性のあるワークスペースの所有者は、デスクトップWeb版のSecurity incident reviewで内容を確認し、メンバーが自分の記録をダウンロードできるリンクを共有できる。通知を受けていない利用者は、今のところ対応不要とされている。

何が起きたか

BleepingComputerによれば、Notionは、AI基盤の提供元であるFireworks AIで起きた侵害により、一部のワークスペースのNotion AIチャット記録が露出したと公表した。FireworksはNotionのAIで使うオープンウェイトモデルの一部を動かし、Insightsという機能のために保存された会話の分析も担っている。

Insightsは、ワークスペースの管理者がチームのAI利用の様子を見られる機能である。露出した記録はこのInsightsのデータセットのもので、機能はすでに無効化された。

現場の混乱

Notionが異変を知ったのは11月2日で、Fireworksから、データセットが露出したという通知が届いた。この時点では、データセットには合成のテストデータしか含まれないと伝えられていた。

Notionは、Fireworksへの通信を止め、先方のシステムからデータをすべて削除し、学習の実行を止める対応を11月3日までに済ませた。ところが11月8日に、Fireworksが顧客データへのアクセスがあったことを、Notionの利用者のものを含めて確認した。

Notionが同日受け取ったデータセットを調べると、Insights用のNotion AIチャット記録が入っていた。Notionによれば、影響を受けるワークスペースの大半では、記録は誰が書いたか、どのワークスペースのものかが分からない状態だった。ツール呼び出しの結果も含まれていなかった。

原因

記事によれば、Fireworks AIは10月23日に、第三者のクラウド事業者を経由して攻撃者に開発環境へ入られた。一部の顧客について、リソースのメタデータ、請求情報、モデルの重み、データセットが侵害されたという。

記事はこれとは別に、10月上旬にもFireworksで侵害があり、一部のアカウントのシークレットとして保存された環境変数(APIキーやトークン)に攻撃者が触れたことを伝えている。

Notionは、FireworksがNotionのデータについて保持しないことを契約上約束していたと、FAQページで強調している。記事は、それでも記録がデータセットに残っていた理由には触れていない。

対策

Notionは、影響を受けるのは利用者の1%未満だとしている。影響を受けた可能性のあるワークスペースの所有者は、デスクトップWeb版のSecurity incident reviewでデータを確認し、メンバーが自分の記録をダウンロードできるリンクを共有できる。

Notionは、影響を受けた利用者に、チャットに入力したパスワード、APIキー、その他の認証情報を更新するよう勧めている。利用者本人にも所有者にも通知が届いていなければ、おそらく影響を受けた範囲には入っておらず、今のところ対応は不要だという。

教訓として、AIチャットに入力した認証情報は、記録が外部に出た場合に備えて更新が必要になる。委託先のAI基盤に会話を渡している場合、その委託先の侵害が自社の利用者のデータの露出につながりうる。

出典

PREFLIGHTあなたの Mac の備えは、大丈夫?BB Preflight は、AIエージェントの権限や鍵の置き場所など21項目を、読み取りだけで点検する無料の Mac 用ツールです。点検してみる →