なぜ炎上は止まらなくなるのか――「訂正可能性」と失敗が自己増幅する構造

仕事・就労
2026.08.19

SNSでは、たびたび不思議な炎上を見る。

最初の発言だけなら、説明を補うか、『そこは間違っていた』と訂正すれば終わりそうに見える。ところが、批判に対して誤解を解こうと返信を重ねるほど、新しい論点が増え、その返信自体が次の批判を呼ぶ。最後には、最初の発言よりも、その後の応答の方が大きな問題になっている。

本人は炎上させようとしているようには見えない。むしろ、自分の正当性や意図を説明しようとしている。

それなのに、批判に答えるための返信まで、次の炎上の燃料になってしまう。

なぜこんなことが起きるのだろう。

原因を、

  • 認知バイアスがあるから
  • 創設者シンドロームだから
  • メディアリテラシーが低いから
  • 性格に問題があるから

と一つに還元すると、どうも説明しきれない。

問題設定、自己経験、専門性、認知バイアス、組織内の役割、第三者による確認、訂正判断、公開前確認、SNSでの応答。それぞれ別の場所にある失敗が重なり、一つの判断のズレが途中で止まらず最後まで貫通している、と考えた方が近いのではないか。

この記事では、炎上がどのように自己増幅し、一つの判断のズレが途中で止まらなくなるのかを考えてみたい。

  1. 1. 訂正以前に、そもそも違う問題を見ている
  2. 2. 自分の経験は強力だが、一般化とは別である
  3. 3. 専門家ほど強力な『ハンマー』を持っている
  4. 4. 四つのケース――同じ『訂正不能』でも中身は違う
    1. ケース1　個人飲食店――自分の行動を自分で裁定する
    2. ケース2　医学・解剖学的な説明を用いた楽器奏法改善サービス――説明できることと、モデルを訂正できることは違う
    3. ケース3　短時間睡眠――自分自身が自説の証拠になる
    4. ケース4　精神科医・経営者・発信者――複数の役割が一人に重なる
  5. 5. 『失敗学』から、システムとして失敗を見る
  6. 6. ただし、炎上は『穴が一直線に並ぶ』だけではない
  7. 7. 認知的ハウリング――出力が増幅されて入力へ戻る
  8. 8. 役割集中と創設者シンドローム
  9. 9. 『訂正の利益相反』
  10. 10. エンジニアは『間違えること』を前提に品質を作る
  11. 11. 失敗が『どこを通ったか』と、訂正が『どこまで深いか』は別軸
  12. 12. 専門家が批判をすぐ受け入れないことには合理性もある
  13. 13. 自分自身をモデルの外側へ置かない
  14. 14. 外部のファンも、必ずしもチェック機構にならない
  15. 15. SNSは『判断から公開まで』の防御層を薄くした
  16. 16. AIは防御層にも、増幅器にも、反復編集装置にもなる
    1. 1. 自説を正当化させる
    2. 2. AIそのものをレビュー層にする
    3. 3. 人間とAIで反復的に編集する
  17. 17. 成功例を『炎上しない攻略法』にはしない
  18. 18. 『絶対に間違えない人』ではなく『間違いが貫通しない構造』を作る
  19. あとがき――サカナクション『怪獣』
  20. 参考資料
    1. ケース・動画の一次資料

1. 訂正以前に、そもそも違う問題を見ている

たとえば、ある企業の過酷な長時間労働について問題提起されたとする。

それに対して、

  • 自分は辞めた
  • 他にも辞めた人はいた
  • 自分の身は自分で守るしかない
  • 嫌なら辞めればよい

と返す。

これらの経験や選択肢そのものが存在しないとは限らない。

しかし、元の問いが、

企業がそのような労働環境を作ってよいのか

であれば、問われているのは組織側の責任である。

そこに、

個人には辞める自由がある

と返しても、

組織の責任

という問題を、

個人の自己防衛・退出可能性

という別の問題へ置き換えている。

これは、答えを訂正できるかどうかより前の段階で起きる。

何を問題として切り取るか。何を原因と見るか。誰の選択について議論しているのか。

こうしたフレーミング(問題の切り取り方・枠づけ)がずれていれば、その後にいくら論理を積み重ねても、元の問いには答えていない。

ただし、『嫌なら辞めればよい』『本人が選べばよい』という考え方自体が常に間違っているわけではない。

問われているのが、本人に複数の選択肢を認めるべきかという問題なら、個人の選択を持ち出すことは正面から論点に答えている。

問題なのは、組織の責任を問われているのに個人の退出へ置き換えることである。

同じ言葉でも、何について答えているのかによって妥当性は変わる。

この線引きの難しさ自体が、フレーミングの問題をよく表している。

2. 自分の経験は強力だが、一般化とは別である

さらに強いのが、自分自身の経験である。

  • 自分はこの方法で成功した
  • 自分はその会社を辞められた
  • 自分は短時間睡眠でも活動できている
  • 自分はこの治療法で患者を診てきた
  • 自分はこの奏法・身体操作で改善した

本人が実際に経験しているなら、その経験は一つの観察事実である。

しかし、

自分には成立した

ことと、

他人にも一般化できる

ことは別だ。

本人にとって、自分の経験ほど実感を伴った強い証拠は少ない。

だからこそ、自分自身が成功例・実践者・商品提供者・広告塔まで兼ねている場合には、『経験があること』と『その経験から一般法則を導けること』を分離する必要がある。

逆に、自分の経験を完全に無価値として扱う必要もない。

個人の経験は仮説を生む重要な材料になる。

問題は、

経験した
↓
だから仕組みを説明できた
↓
だから他人にも成立する

と、その間に必要な検証を飛ばしてしまうことである。

3. 専門家ほど強力な『ハンマー』を持っている

精神科医の益田裕介氏が、サブチャンネルで精神科医療や治療者側の問題を率直に語った動画の中で、『ハンマーしか持っていなければ、何でも釘に見える』という趣旨の比喩を使っていた。

ある治療技法を深く学んだ治療者ほど、目の前の問題をその治療モデルから理解しやすくなる。

技法を学ぶこと自体は当然必要である。専門家は、一般の人には見えない構造を見つけるために専門的なモデルを身につける。

しかし、そのモデルが強力だからこそ、

本当にこの問題は、このモデルで説明すべきなのか

という一段上の問いが抜けることもある。

これは治療者に限らない。

自己責任で困難を乗り越えてきた経営者なら、社会や組織の問題まで個人の自己責任として見やすくなるかもしれない。

医学的・解剖学的な説明を用いて楽器の奏法改善サービスを提供する専門家なら、演奏上の問題を身体機能のモデルから説明しやすくなる。

短時間睡眠を実践し、それをサービスとして提供する人なら、睡眠問題全体を自分の成功モデルから説明しやすくなる。

ITエンジニアなら、社会や組織の問題までシステム設計の問題として見たくなることもあるだろう。この記事自体も例外ではない。

専門性とは、世界を見るための高性能な道具である。

だから普通の人には見えないものが見える。

同時に、その道具に合わない問題まで同じ形に見えてしまう可能性もある。

専門性は訂正可能性を高めることもあれば、低くすることもある。

ここが重要だと思う。

4. 四つのケース――同じ『訂正不能』でも中身は違う

ここまで考えるきっかけになった事例は、職種も事業内容もかなり違う。

共通しているのは『変な人だった』ということではない。

自分が判断・説明・成果物を作り、その妥当性について外部から指摘され、さらに本人自身もその指摘を評価する立場にいる。

その構造が、違う形で現れている。

ケース1　個人飲食店――自分の行動を自分で裁定する

小規模な店では、経営者本人が現場責任者でもある。

スタッフが顧客対応を間違えたなら、経営者が外側から状況を確認して、

その対応はまずかった
次からこうしよう

と訂正できる。

しかし、問題となった対応をしたのが経営者本人だった場合には構造が変わる。

行動した人
= 事情を説明する人
= その説明が妥当か判断する人
= 最終的な対応を決める人

となる。

第三者から見れば、

そこで一言認めれば終わるのではないか

と思える場面でも、本人側には本人側の経緯、意図、これまでの経験がある。

その説明を自分自身で評価するため、

自分にはこういう事情があった
↓
だからこの対応には理由がある
↓
したがって自分だけが悪いとは言えない

という閉じた回路ができやすい。

これは『謝れない性格』とだけ見るより、当事者と裁定者が同じであることに注目した方が分かりやすい。

ケース2　医学・解剖学的な説明を用いた楽器奏法改善サービス――説明できることと、モデルを訂正できることは違う

二つ目は、身体機能や解剖学的な説明を用いて楽器の奏法改善を扱う専門サービスである。

このケースが興味深いのは、自己分析もできるし、状況によっては謝罪もできることだ。

自分の感情や対人関係について言葉で説明する能力も高い。

普通に考えれば、

自分を客観視できる
↓
間違いにも気づきやすい

ように思える。

しかし、それでも類似した衝突が繰り返されることがある。

ここで分けなければならないのが、

自分自身を説明できること

と、

自分が使っている説明モデルそのものを反証可能な位置へ置けること

である。

『なぜ自分がそう反応したか』を精密に説明できても、

そもそも、その出来事を理解するために使っている枠組み自体がずれていないか

まで戻れなければ、説明は精密になってもモデル自体は固定されたままになる。

しかも、その説明モデルがサービスの専門性と結びついているなら、モデルの修正は単なる一発言の訂正ではなくなる。

過去の説明、専門家としての自己像、提供サービスの妥当性まで連動してくる。

自己分析の深さと、自己モデルの訂正可能性は別物である。

ケース3　短時間睡眠――自分自身が自説の証拠になる

三つ目は短時間睡眠をめぐるサービスである。

提唱者自身が、

提唱者
= 実践者
= 成功例
= 商品・サービス提供者
= 広告塔

になっている。

本人が本当に短時間睡眠で活動できているなら、その事実は無視できない。

しかし、それは、

その方法によって誰でも同じ状態になれる

ことの証明ではない。

さらに厄介なのは、本人自身が最も目立つ成功例であるため、

自分ができている

という事実が、本人の理論を本人へ常にフィードバックすることだ。

理論を信じる。

↓

実践する。

↓

自分は活動できる。

↓

理論への確信が強まる。

↓

その理論を商品として説明する。

本人の経験が理論の入力であり、理論の成果でもあり、広告でもある。

この場合、外部から反例が出ても、

方法が間違っている

のではなく、

実践が不十分だった
本人の理解が足りなかった
個人差だった

と説明することもできる。

もちろん、それらが本当に原因である場合もある。

だからこそ、自説を否定するデータが何なのかを事前に定義しにくいという問題が生じる。

ケース4　精神科医・経営者・発信者――複数の役割が一人に重なる

四つ目では、さらに多くの役割が一人へ集まる。

創業者
= 経営者
= 医療機関の責任者
= 精神科医
= 著者
= 情報発信者
= SNS上で批判へ回答する本人
= 訂正するかどうかの最終判断者

一つ一つは別の役割である。

問題なのは、それぞれの役割に本来あり得るチェック機構まで同じ人物へ集約されることだ。

特にここでは、精神科医という専門性がある。

精神科・心療内科は、人の認知、感情、行動、対人関係、精神状態などを専門的に扱う領域である。

発達障害やメンタルヘルスについても著書・事業を通して発信している。

つまり、認知の偏りや対人関係上の問題を『分析する側』になり得る専門家である。

それでも、自分自身がSNS上の対立の当事者になれば、その専門性だけで自動的に問題を回避できるわけではない。

専門知識があることと、自分自身へその知識を正しく適用できることは別である。

さらに、医師としての専門性、経営者としての権限、著者・発信者としての個人ブランドが一人へ重なると、

どこまでが医学的な専門判断なのか
どこからが経営上の価値判断なのか
どこからが個人的な応答なのか

という境界も見えにくくなる。

このケースが『典型的すぎて特殊』に見えるのは、一つの原因が極端だからではない。

別々に存在するはずの失敗モードが、一人の中で同時に観察できるからである。

5. 『失敗学』から、システムとして失敗を見る

畑村洋太郎氏の『失敗学のすすめ』は、2000年に刊行された本である。

そこでは、失敗を単なる本人の不注意として終わらせず、失敗の種類、階層、伝達、組織の仕組みまで含めて考える。

『失敗には階層性がある』『失敗情報は隠れたがる』『失敗を生かすシステムづくり』といった視点は、今でも今回の問題を考える入口として分かりやすい。

同じ2000年、心理学者James Reasonは、医療安全を扱った論文で、人間の失敗を見る『person approach(個人アプローチ)』と『system approach(システムアプローチ)』を区別している。

有名なスイスチーズモデルでは、防御策を穴の開いたチーズの層にたとえる。

一つの防御層に穴があっても、通常は事故にならない。

別の層が止めるからである。

しかし、複数の層の穴が一直線に並ぶと、危険がすべての防御を通り抜ける。

SNS上の失敗にも、この比喩はかなり使いやすい。

チェックポイント そこで起こり得る失敗 本来の防御
問題設定 問われている問題を別の問題へ置き換える フレーミングの再確認
事実・経験の評価 自分の経験を一般化する 外部データ・反例
専門性の境界 専門外まで同じモデルで説明する 異分野の確認
第三者確認 自分だけで判断する レビュー・相談
訂正判断 訂正される本人が訂正を裁定する 判断主体の分離
公開前確認 感情や勢いのまま出す 時間を置く・推敲
公開後の再評価 批判を即座に敵対情報として処理する 反証として再評価
SNS応答 返信が次の論点を作る 応答の停止・整理

どれか一つで失敗しただけなら、途中で止まる可能性がある。

問題設定を間違えても、第三者が止めるかもしれない。

第三者確認がなくても、公開前に本人が気づくかもしれない。

公開してしまっても、批判を受けて訂正できるかもしれない。

複数の防御が同時に機能しないと、一つのズレが最後まで貫通する。

6. ただし、炎上は『穴が一直線に並ぶ』だけではない

ここまでならスイスチーズモデルでかなり説明できる。

しかしSNS上で炎上が自己増幅する過程には、もう一つ特徴がある。

出力した結果が、次の判断の入力として本人へ戻ってくる。

投稿する。

↓

批判される。

↓

反論する。

↓

支持者から肯定される。

↓

自分の判断への確信が強まる。

↓

さらに投稿する。

これは単純な一方向の事故連鎖ではなく、フィードバックを持った系である。

安全工学でも、より複雑な社会技術システムを扱うために、Nancy LevesonがSTAMP(System-Theoretic Accident Model and Processes、システム理論に基づく事故モデル)を提唱している。

STAMPでは、事故を『部品Aが壊れ、次にBが失敗した』という故障の鎖だけでなく、ソフトウェア、人間、運用、管理、組織文化などを含むシステム全体の制御とフィードバックの問題として扱う。

今回の記事をSTAMPそのもので分析するつもりはない。

ただ、

単一原因を探す
↓
防御層の重なりを見る
↓
さらに相互作用とフィードバックを見る

という発展は、炎上が自己増幅する構造を考えるうえでかなり参考になる。

『失敗学』やスイスチーズモデルを古いから捨てるのではなく、より複雑なフィードバック系を見るための入口として使う方がよさそうだ。

7. 認知的ハウリング――出力が増幅されて入力へ戻る

このフィードバックを、音響にたとえると分かりやすい。

マイクで拾った音は、ミキサーを通り、アンプで増幅され、スピーカーから出る。

本来はそれで終わる。

しかしスピーカーの音を再びマイクが拾うと、

マイク → ミキサー → アンプ → スピーカー
↑　　　　　　　　　　　　　　　↓
└──────── 音が戻る ──────────┘

出力が再び入力へ戻り、何周も増幅される。

これがハウリングである。

認知でも似たことが起こり得る。

自分の判断
↓
発言・投稿
↓
支持者・自分の説明・AIによる整理
↓
より強く、もっともらしくなった自説
↓
自分へ戻る
↺

最初の判断が正しければ、このループが必ず悪いわけではない。

学習や議論もフィードバックによって改善する。

問題は、訂正情報を除去しながら、自説を支持する情報だけが増幅される回路になったときである。

ここでは、このような状態を仮に『認知的ハウリング』と呼ぶ。

外から批判が入っているのに、その批判への反論を作るたび自説が精巧になり、本人の確信まで強まっていく。

火を消そうとして返信しているはずなのに、その返信が次の燃料になる。

炎上が自己増幅する中心には、このループがあるのかもしれない。

8. 役割集中と創設者シンドローム

この役割集中を考えるうえで参考になる概念が、創設者シンドローム(Founder’s syndrome)である。日本の研究でも『創設者シンドローム』という訳語が用いられている。

これは医学的な診断名ではない。

創業者が組織の成長後も強い権限や影響力を保持し、組織の意思決定やガバナンスが過度に創業者へ依存する状態を扱う組織論上の概念である。

創業期には、

  • 素早く決める
  • 強い理念で引っ張る
  • 一人で複数の役割を担う
  • 失敗してもすぐ方向転換する

ことが強みになる。

問題は、その構造が組織の成長後も残る場合である。

  • 経営判断
  • 商品・サービス設計
  • 専門的判断
  • 広報
  • SNS
  • 最終承認

まで同じ人物へ集中すると、本来は別々に存在するはずの確認工程まで同じ人物へ畳み込まれる。

これは『成功した創業者は傲慢になる』という人格論とは違う。

同じ人物が複数の防御層を兼ねることで、防御層同士の独立性が失われる。

そこが重要である。

9. 『訂正の利益相反』

専門家には、さらに別の問題もある。

ある技法を学ぶ。

時間や費用を投資する。

その技法の専門家になる。

それを商品・サービスとして提供する。

その専門性によって、自分の評価や収入も形成される。

その状態で、

その技法は本当に必要なのか
効果を過大評価していないか
その説明モデル自体が間違っていないか

と問われる。

すると、

その方法が妥当か評価する人

と、

その方法へ投資し、提供し、専門家として評価されている人

が同じになる。

つまり、

訂正される側 = 訂正するべきかを判定する側

になる。

これは、その人が必ず間違うという意味ではない。

しかし判断の独立性という観点では、構造上の利益相反がある。

ここでは、この構造を『訂正の利益相反』と考えると理解しやすい。

自分の判断を修正することが、

  • 過去の発言
  • 自分の専門性
  • 提供サービス
  • 自分が作った組織
  • 自分のブランド
  • 場合によっては収入

まで同時に修正することへつながるなら、訂正コストは高くなる。

訂正しない方が短期的には一貫性を保ちやすい。

しかし、その一貫性を守るために新しい説明を積み重ねれば、長期的にはさらに訂正しにくくなることもある。

10. エンジニアは『間違えること』を前提に品質を作る

この問題を考えていて、ITエンジニアについて『なぜ謝罪する人が少ないのか』という趣旨のX投稿を目にした。

エンジニアの側から見ると、少し前提が違う。

複雑なソフトウェアでは、すべての入力・環境・状態の組み合わせを網羅してテストすることは現実的ではない。

ISTQB(国際ソフトウェアテスト資格認定委員会)のテスト原則にも、

  • テストは欠陥の存在を示せるが、欠陥がないことの証明にはならない
  • 全数テストは、単純なケースを除いて不可能

という考え方がある。

だから開発では、『絶対に間違えない人』を作って品質を担保するのではなく、

  • レビュー
  • テスト
  • 異常系確認
  • CI(継続的インテグレーション)
  • ログ
  • 監視
  • ロールバック
  • 回帰テスト

などを重ねる。

人間もコードも間違えることを前提に、一つの失敗がそのまま利用者まで貫通しないようにする。

開発内部ではむしろ、

ここ壊れない？
その前提おかしくない？
この条件を考えていない
その実装では仕様を満たしていない

と、成果物をかなり否定的に疑うこと自体が仕事になる。

人格を攻撃しているのではない。

成果物を疑わない方が危険だからである。

そして、ここから見ると、

誤りを認めること、実際に直すこと、謝ることは同じ処理ではない。

バグであると認定しても、

  • 影響が小さい
  • 修正によるデグレード(別の箇所への悪影響)の方が大きい
  • 優先順位が低い
  • 次のリリースで対応する方が合理的

と判断し、即座には直さないこともある。

それは『バグではない』と言っているのとは違う。

逆に、

申し訳ありません

と謝っても、何も直さなければ訂正したことにはならない。

さらに、原因や影響範囲がまだ確定していない段階で、

全面的にこちらの過失です
必ず完全に直します

と、謝罪と原因断定と結果保証まで一体化すると、その説明自体が新しいコミットメントになる。

後から別の原因が判明したり、修正によるデグレが発生したり、残存リスクが見つかったりしたとき、今度は最初の説明を修正しにくくなる。

利用者側に、

バグが出ること自体が異常である
一度謝ったのだから完全に直るはずである

という実現不可能な期待を作れば、次の問題で信頼をさらに落とすこともある。

つまり、

謝罪そのものが訂正可能性を下げるのではない。未確定の事実や将来の結果まで謝罪と一緒に固定してしまうと、後の訂正コストが上がる。

だから、

謝らない = 誤りを認めない

とも、

謝る = 訂正可能性が高い

とも単純には言えない。

エンジニアリングが示しているのは、もっと別のことだ。

間違えることを前提に、それでも品質を維持できる仕組みを作る。

これは今回の記事全体につながる。

11. 失敗が『どこを通ったか』と、訂正が『どこまで深いか』は別軸

ここまで見てきたのは、失敗がどのチェックポイントを通り抜けたかという経路の話だった。

では、失敗に気づいた後、何を直せば『訂正した』と言えるのだろう。

訂正は、少なくとも次の四段階に分けて考えられる。

レベル 訂正する対象 例
1 認識・事実 『この認識は間違っていた』と更新する
2 行動・成果物 投稿、コード、サービス、対応を実際に直す
3 前提・判断モデル なぜその結論になったか、判断基準まで見直す
4 構造 同種の失敗を検知・再検討・防止できる仕組みに変える

ここに『謝罪』をレベル5として足すのは違う。

謝罪、説明、補償といったものは、訂正の深さとは別の対人的応答の軸である。

たとえば、

『申し訳ありません』

と言うだけで同じ行動を繰り返すなら、

謝罪○ / 訂正レベル0〜1

ということもあり得る。

逆に、

『この挙動は当方の不具合です』

と認定し、修正し、テストを追加し、同じ原因が再発しにくい工程へ変えるなら、謝罪表現が弱くても、

訂正レベル4

まで達している。

もちろん、実際に他者へ損害を与えたり、明確な過失があったりする場面では、対人的な謝罪が必要になることはある。

ただ、

『謝れる人格』と『訂正できるシステム』は同じものではない。

そして、この四段階も必ず一方向に進むわけではない。

構造まで直したつもりでも、後からその再発防止策自体が間違っていたと分かるかもしれない。

そのときは、構造そのものをもう一度訂正すればよい。

訂正した結果も、また訂正対象になる。

12. 専門家が批判をすぐ受け入れないことには合理性もある

ここまで読むと、

では批判されたら全部受け入れればよいのか

という話になりそうだが、それも違う。

専門家は、その分野について一般の人より、

  • 既知の失敗パターン
  • トレードオフ
  • 発生率
  • 技術的限界
  • 過去の検討
  • 品質保証工程

を大量に知っている。

外部から、

これ、おかしくない？

と言われたことが、内部では既に何十回も検討され、その上で現在の設計になっている場合もある。

専門家がすぐに同意しないこと自体は、訂正可能性の低さを意味しない。

必要なのは、

既知の制約で説明できる指摘

と、

自分の前提を本当に崩す新しい反証

を区別できることだ。

しかし、ここにも専門性の罠がある。

同じ的外れな批判を100回受けた専門家が、

101回目も同じだろう

と判断する。

ところが101回目だけは、本当に本人が見落としていた。

専門性は、誤った指摘を正しく棄却する能力を高める。

同時に、新しい指摘を自分が既に知っている分類へ押し込める能力まで高める。

だから必要なのは、すべての批判を採用することではない。

自分の分類そのものが間違っている可能性を完全には閉じないことなのだと思う。

13. 自分自身をモデルの外側へ置かない

ここで、益田氏の話へ戻る。

治療者が、

自分が学んだ技法に引っ張られる
何でも同じ病因・治療モデルで見てしまう

という問題を語るだけなら、他の専門家への批判として終わる。

しかし、興味深いのは、益田氏自身が医師と患者のすれ違いを扱う際などに、自分自身の実力不足やコミュニケーション上の問題も分析対象に入れている点である。

『専門家はこういう罠に陥る』

ではなく、

自分もその専門家集団の一員であり、例外ではない

という位置に自分を残している。

これは、その人物が常に正しいことを意味しない。

自分を分析対象に入れれば必ず訂正できる、という攻略法でもない。

ただ、

自分だけはこのモデルの外側にいる

という特権的位置を置かないことは、一つの訂正経路になり得る。

この記事も例外ではない。

ここまでの記事では、

  • 失敗学
  • システム安全論
  • エンジニアリング
  • フィードバック

を使って人間の問題を説明してきた。

しかし、この見方自体も、エンジニアリングやシステム思考という一つの『ハンマー』に引っ張られている可能性がある。

すべての炎上がシステム工学で説明できるわけではない。

この記事のモデル自体も、反例やより良い説明が出れば訂正されるべきである。

14. 外部のファンも、必ずしもチェック機構にならない

組織内部の人間が創業者へ意見しにくくても、SNSには外部の人がいる。

ならば外部からの批判がチェック機構になるようにも思える。

しかし、個人ブランドが強い場合には別のフィードバックが生まれる。

発信する
↓
支持者が肯定する
↓
自分の判断への確信が強まる
↓
さらに発信する

批判者が現れても、

批判者 = 自分を理解していない人
支持者 = 自分を理解している人

という分類が成立すれば、外部評価まで訂正機構として働かなくなる。

もちろん、ファンがいること自体が問題なのではない。

支持者が正しい場合もある。

問題は、支持・批判という反応の方向そのものを、内容の妥当性と同一視することである。

批判されたから正しいわけでも、支持されたから正しいわけでもない。

しかしSNSでは、数、速度、感情の強さが可視化されるため、内容よりフィードバックの大きさが本人の確信へ影響する可能性がある。

認知的ハウリングが起きやすい環境である。

15. SNSは『判断から公開まで』の防御層を薄くした

SNS以前にも炎上はあった。

しかしSNSには、失敗を高速化しやすい構造がある。

以前なら、

考える
↓
書く
↓
誰かに見せる
↓
編集する
↓
公開する

という工程が入りやすかった。

SNSでは、

考える
↓
投稿する

まで数十秒で済む。

さらに、

投稿
↓
批判
↓
即反論
↓
新たな批判
↓
再反論

というループまで高速に回せる。

SNSの問題は単に『人を怒らせやすい』ことだけではない。

判断と公開の間にあった時間と他者という防御層を簡単に飛ばせることも大きい。

そして、一度炎上すると、

誤解を解かなければ
早く説明しなければ
黙ったら認めたことになる

と感じ、返信頻度が上がることもある。

本来なら一度止まって再検討するべき局面ほど、高速化する。

それが炎上の自己増幅をさらに強くする。

16. AIは防御層にも、増幅器にも、反復編集装置にもなる

生成AIが入ると、この構造はさらに複雑になる。

AIの使い方は、少なくとも三種類に分けられる。

1. 自説を正当化させる

自分が正しい理由を説明して
この批判へ反論して
相手の論理の穴を探して

とだけ求め続ける。

AIは大量の論拠や文章を高速に作れるため、本人の前提を固定したまま使えば、認知的ハウリングの増幅器になり得る。

最初は曖昧だった直感が、AIによって整理され、引用や理屈まで付けられれば、本人にとってさらに確かなものに見える。

2. AIそのものをレビュー層にする

逆に、

この主張の反対意見を作って
私が置いている前提を疑って
専門外の主張を分離して
人格攻撃になっている部分を抜き出して
この判断が間違っていると仮定して反証して

と使うこともできる。

こうすれば、AIを追加の防御層として使える。

ただしAIも間違える以上、AIの反論をそのまま最終回答として採用するのではなく、人間側で再確認する必要がある。

3. 人間とAIで反復的に編集する

もう一つは、AIに最終判断を任せるのではなく、

人間が考える
↓
AIに草案を作らせる
↓
人間が違和感・誤り・構成上の問題を見つける
↓
人間が直接直す、またはAIへ修正点を返す
↓
AIが再構成する
↓
人間が再確認する

という使い方である。

修正をAIにやらせてもよいし、人間が直接書き換えてもよい。

実際、この記事もその方法で作っている。

一度作った草案を読み、

この表現では意味が取りにくい
この概念には日本語説明が必要
ここは一般化しすぎている
この二つの節は重複している
この事例は削りすぎている

と人間側から修正し、再構成している。

重要なのは、AIの出力も、人間の初期判断も、完成品として固定しないことである。

AIの強みの一つは『必ず正しい答えを出すこと』ではない。

草案、反論、別案、再構成を低いコストで繰り返しやすくし、訂正そのもののコストを下げられることにもある。

17. 成功例を『炎上しない攻略法』にはしない

では、比較的訂正しやすく見える専門家や発信者には、何が違うのだろう。

公開された言動を比較し、

  • 自分の専門性の限界を明示する
  • 自分自身も分析対象に入れる
  • 指摘された事実と評価を切り分ける
  • 必要なら発言や成果物を更新する
  • 他者による確認経路を持つ
  • その場で答えず、一度保留する

といった行動を観察することはできる。

しかし、

この6項目を実践すれば炎上しない

という攻略法にはしない方がよい。

複数の成功例で同じ行動が観察されたとしても、その行動が成功の原因だと証明されたわけではないからだ。

人格、専門分野、フォロワー数、組織構造、炎上した論点、偶然など、条件が違いすぎる。

ここでも、

観察できること

と、

因果として証明できること

を分ける必要がある。

この記事が批判してきた一般化を、最後に自分でやってしまっては意味がない。

18. 『絶対に間違えない人』ではなく『間違いが貫通しない構造』を作る

人は間違える。

専門家も間違える。

経営者も間違える。

成功者も間違える。

批判する側も間違える。

この記事の分析も間違える可能性がある。

問題は、間違いそのものを完全になくせるかどうかではない。

  • 問題設定を見直せない
  • 自分の経験を一般化する
  • 専門性の境界を越える
  • 第三者レビューがない
  • 訂正される本人が訂正を裁定する
  • 公開前確認を飛ばす
  • SNSですぐ反論する
  • 支持者の反応によってさらに確信する

こうした別々の失敗が重なると、一つの判断ミスが複数の防御層を貫通する。

さらにフィードバックが加わると、訂正するために入ってきた情報さえ、次の失敗を増幅する材料になり得る。

東浩紀氏の『訂正可能性の哲学』や『訂正する力』が扱う『訂正可能性』という言葉を、ここではその哲学全体と同一視するのではなく、現在の判断を後から覆し、読み替え、書き換えられる経路を残すという実務的な視点として借りたい。

エンジニアリングでは、人間もコードも間違えることを前提に、レビュー、テスト、監視、ロールバックを作る。

同じように人間の判断についても、

自分は謙虚だから大丈夫
自分は精神や心理の専門家だから大丈夫
自分は何度も成功しているから大丈夫
自分には批判してくれるフォロワーがいるから大丈夫
AIに確認したから大丈夫

ではなく、

自分も必ずどこかでバグる

ところから設計した方がよい。

必要なのは、『絶対に正しい人』になることではない。

一つの誤りが最後まで貫通しないこと。

間違いを発見したら、事実だけでなく、必要な範囲まで行動・前提・仕組みを更新できること。

そして、その更新自体も後からもう一度訂正できること。

訂正可能性とは、単に『素直に謝れる性格』ではない。

人間が間違えることを前提にした、判断のシステム設計なのだと思う。

あとがき――サカナクション『怪獣』

この記事を書きながら、サカナクションの『怪獣』を思い出した。

この曲は、アニメ『チ。―地球の運動について―』のオープニング主題歌として制作された。

山口一郎氏は制作時、原作のテーマをそのまま分かりやすく具体化するのではなく、抽象的でありながら説得力のある音楽にすることを重視したとコメントしている。

『チ。』で描かれるのは、ある時代に『真理』とされていた世界像に違和感を持ち、観測し、考え、その知識を次の人へ渡しながら更新していく人々でもある。

『怪獣』の歌詞も、単純に『正しい答えを知れば終わる』というより、分からなさを抱えながら、それでも知ろうとすること、現在の認識を固定しないことを連想させる。

もちろん、この曲が『訂正可能性』を歌った曲だと言いたいわけではない。

この記事の主張を歌詞で証明するつもりもない。

ただ、一万字以上かけて理屈として考えてきた、

今の自分の理解を最終回答にしない
分からないものを分からないまま観察する
新しい情報によって世界の見方を書き換える

という感覚を、別の方向から思い出させる曲だった。

この記事を読み終えたあとに聴く一曲として置いておきたい。

サカナクション『怪獣』

参考資料

ケース・動画の一次資料

この記事を評価

星をクリックしてください

まだ評価はありません

コメント

タイトルとURLをコピーしました