NISHIO Hirokazu[Translate]
エピステミック・セキュリティ
GPT5

要旨
定義(実務寄り):民主社会が信頼できる知識を生産・流通・取得・評価するプロセスを脅かす要因を、継続的に回避できる状態/能力のこと。ターニング研究所の報告は、これを社会の「社会的認識インフラ(social epistemic infrastructures)の強靭性」の課題として定式化しています。(turing.ac.uk)
政策文脈での位置づけ:英国シンクタンクDemosは、国家レベルでは「情報供給網(information supply chains)の健全性を確保すること」だと要約しています(同報告は、この用語が2020年にDSTL・ケンブリッジ大・ターニング研究所の研究者らにより整理された、と位置づけ)。(Demos)

何から社会の「知の安全」は脅かされるか(代表例)
組織的な偽情報/操作情報、専門知の権威失墜、知識生産・配布機関への不信の拡大、極端な分断、検閲、多様な観点の抑圧、生成AIの濫用や説得的AIの悪用など。(Elizabeth Seger)

Audrey Tang(唐鳳)との関係(一次資料で確認できる点)
Tangは対話記録で、「ヒトの注意とエピステミック・セキュリティ」をAI研究の柱の一つとして言及(“human attention and epistemic security”)。用語を直接使っています。(moda.gov.tw)
さらに、「エピステミック・インジャスティス(認識的不公正)」の低減を政府のAI評価枠組みに組み込む、と繰り返し表明(AI評価センターでAIの虚構化や認識的不公正を検査)。これは「知の安全」を制度的に保全する実装例。(moda.gov.tw)
実務の運用としては台湾で確立した
“humor over rumor(2-2-2)”:20分・200字・2画像の即応で流言を“楽しく”打ち消す運用。(ガーディアン)
Cofacts:市民主導・オープンソースのファクトチェック基盤(メッセージング起点の検証コミュニティ)。(Cornell Tech)
vTaiwan/Polis:論点ごとに「ラフ・コンセンサス」を可視化し、合意形成の土台(=社会的認識インフラ)を強化。(blog.pol.is)

Cognitive Security認知セキュリティ)」との違い(混同しやすいので要点)
Cognitive Security:人の認知そのもの(注意・判断・行動)を狙う攻撃や影響工作に対して、心の領域を守る防衛概念(NATOなどで整備が進展)。(NATO)
Epistemic Security:知識が成立・共有される社会的プロセス(観測→検証→配布→評価→意思決定)を制度・コミュニティ・情報供給網レベルで堅牢化する概念。EUでも近年、認知セキュリティの議論を防衛枠組みへ拡張する文脈が見られます。(turing.ac.uk)

すぐ使える運用チェックリスト(短縮版)
1. 情報供給網KPI:一次情報公開の迅速性、訂正までのTTR(time-to-rebuttal)、メディア横断の再現性。(Demos)
2. 社会的認識インフラ:ファクトチェック(Cofacts等)の参加裾野と反証可能性、議論空間(Polis等)の合意指標を常時モニタ。(Cornell Tech)
3. プリバンキング:2-2-2運用のような先回りのナラティブ設計で拡散前に収束させる。(ガーディアン)
4. AI評価:幻覚/バイアス/認識的不公正の検査指標を導入し、公開・改善の循環を作る。(moda.gov.tw)

"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]