このサイトについて

なぜ、このサイトを作ったのか

2026年の2月ごろ、YouTubeの「AI仙人」を見たのがきっかけでした。それまでAIは、気の利く検索システムぐらいにしか思っていませんでした。5月からは仕事として本格的に始めました。自分で考えたアプリやシステムを、世界の人に紹介したいと思ったからです。

AIエージェントに任せる仕事が増えるほど、事故も増えました。

• 7月、秘密情報の検出をすり抜けたAPIキーが、そのままGitへpushされた。
• 9月、定期ジョブが13回続けて失敗し、5日間だれも気づかなかった。
• 同じ9月、解約したドメインを、公開中のサイトと決済ページがまだ読み込んでいた。第三者に取られていれば、決済画面で任意のスクリプトを動かされる状態だった。

どれも、派手に壊れたわけではありません。エージェントは「成功しました」と返し続け、裏で静かに壊れていました。

同じ穴に落ちた人の報告は、ブログやSNSに散らばっていました。けれど、原因と対策まで一か所で読める場所は見つかりませんでした。だから、自分が踏んだ地雷を隠さずに記録し、世界の事例と並べることにしました。

何を目指しているか

AIを怖がるためのサイトではありません。前提は「AI対人間」ではなく、AIとの共生です。

AIはこれから、もっと賢く、もっと自律的になります。そのとき役に立つのは、うまくいった話よりも、うまくいかなかった記録です。事故の記録が集合知になれば、次に同じ地雷を踏む人を減らせます。来たるAGI・ASIの時代に、人とAIが協調するための備えになると考えています。

編集の方針

1. 事実だけを書く。何が・どの条件で・だれによって観察されたかを書き、推測や煽りを混ぜません。
2. 出典を必ず示す。自分の事故は記録から、外部の事例は元の報告から書きます。元の報告だけで確かめられないものは「未検証の報告」と明記します。
3. 深刻度は公開した基準で付ける。基準は深刻度の基準にあります。
4. 検証環境での観察は、実際の事故と分ける。研究機関の実験などで観察された振る舞いには「検証環境での観察」と表示します。
5. 議論の紹介では立場を取らない。政策や研究の議論は、主張を紹介するだけで、サイトとしての賛否は書きません。対立する見解があれば並べます。
6. 引用は短く。元の文章の引用は1本につき短い一文までにし、あとは自分たちの言葉で要約して、元の記事へリンクします。

AIの使い方について

このサイト自体も、AIと一緒に作っています。

• 毎日の情報収集と、候補の最初の採点は、AI（Claude）が行います。
• 載せるかどうかは、すべて運営者が一つずつ判断します。
• 記事の下書きはAIが書き、公開の前に、AIによる出典との照合と、運営者の確認を通します。

AIの事故を扱うサイトが、AIを使いながら、その使い方を隠さない。それもこのサイトの記録の一部です。

運営者

もりじい。20数年前、Web制作で生計を立てていました。紆余曲折を経て、今は山の麓の森で暮らしています。

X：@FORESTLIFEai（運営者）／@blackboxblast（このサイト）

訂正・掲載停止・情報提供

事実の誤り、掲載停止のご依頼、事故の情報提供は、X の @blackboxblast までお寄せください（DM 可）。訂正したときは、記事にその旨を残します。