---AIまとめ

6pack.care PDF要約（日本語）

6-Pack of Care — Institute for Ethics in AI

目的は、ケア倫理とPluralityの視点でAIアラインメントを「関係性のプロセス」として捉え直し、水平的協調を促す市民的AI（Civic AI）を構想すること。

6つの原理（Attentiveness/Responsibility/Competence/Responsiveness/Solidarity/Symbiosis）を、複数主体が協調するための“コア筋群”として提示。

アラインメントは固定目標への最適化ではなく、信頼できる熟議・協働プロセスへの整合（alignment-by-process）と位置づける。

「局所的な神（kami）」の比喩で、AIは拡大志向ではなく関係性に根差した十分性（enoughness）と退出可能性を持つべきだと示す。

vTaiwan等の実験や協調AIの議論を参照し、共創（co-production）と市民参加を中心に据える。

6-Pack of Care: A Manifesto — Institute for Ethics in AI

AIの高速化は功利主義/義務論的倫理を脆弱にするため、非対称性を前提とした「Civic Care」を提案。

2014年以降の台湾のデジタル民主主義（Polis等）を、分断を“重なり”へ変える実装例として紹介。

Alignment Assemblyの事例（詐欺広告対策等）で、熟議＋AI支援が高い合意形成と法制度化につながることを示す。

政策レバーとして、表現と拡散の分離、ソーシャル・ポータビリティ、橋渡し指標の透明化、連邦型Trust & Safetyなどを提案。

「is-ought問題」への解として、厚い文脈に根差したケア倫理を基盤に6原理を設計原理へ落とし込む。

単一超知能ではなく、局所的なAI群による「水平的超知能（We, the People）」を展望。

Chapter 1: Attentiveness in Recognition — Institute for Ethics in AI

最初に「何を注視するか」を公正に決めることが全体の基盤であり、関係性の可視化が出発点。

基本的人権を下敷きにし、説明責任・異議申立て・独立監督を組み込むことを強調。

ブリッジング・マップや受領レシートで、少数派や影響を受ける人々の声を可視化・修正可能にする。

重要なルールは可逆的に設計し、誤りがあればロールバックできる仕組みを重視。

例として災害支援ボットを挙げ、聴取→地図化→公平な注意配分→異議申立て→修復という循環を示す。

Chapter 2: Responsibility in Engagement — Institute for Ethics in AI

「誰が・いつまでに・どの範囲で・どう補償するか」を明文化した約束（Engagement Contract）が核。

逸脱は“採用か説明（adopt-or-explain）”の原則で公開し、監督機関に停止権と補償権を持たせる。

エスクローやペナルティ、監査ログ等で“紙の約束”を実効性ある約束に変える。

参加オフィサー（PO）による責任のフラクタル化で、制度的な継続性を確保。

災害支援ボットの例で、SLA、ロールバック条件、補償、引継ぎを具体化。

Chapter 3: Competence in Action — Institute for Ethics in AI

有能さは設計ではなく運用で証明されるため、シャドー運用→カナリア→一般公開の段階的導入を提案。

橋渡しスコアやRLCF（Community Feedback由来の強化学習）で、怒りより協調を報酬化。

透明なトレース、再現可能な評価、権利ガードレールのコード化を重視。

監視可能性（observability）とドリフト監視で、失敗を局所化して学習に変える。

Chapter 4: Responsiveness in Adaptation — Institute for Ethics in AI

異議申立てを“安く速く”することで、修復のループを回し続けることが核心。

コミュニティ自身が評価指標（Wiki Evals）を作り、被害者視点が評価に反映される設計。

インシデント対応ログを公開し、修復結果をテストに変換して再発を防ぐ。

修復は「説明か修正」どちらかを必ず提供し、期限付きで完結させる。

Chapter 5: Solidarity in Community — Institute for Ethics in AI

協調が“最も楽な選択肢”になるよう、エコシステム全体を設計する。

メロニミティ（部分匿名）によるAgent IDで、責任の所在を示しつつプライバシーを保護。

ソーシャル・ポータビリティと相互運用性で、ロックインではなくケア品質で競争させる。

連邦型のTrust & Safety共有により、単一ゲートキーパー依存を避ける。

Chapter 6: Symbiosis in Horizon — Institute for Ethics in AI

単一AIではなく、局所的な「ケアの神（kami）」が連邦的に協調する生態系を提案。

目的・資源・期間の上限を契約と技術で縛り、拡張志向を抑える。

補完関係は条約（プロトコル）で規定し、問題は可能な限りローカルで解決する（補完性）。

サンセットと引継ぎを成功要件として組み込み、退出可能性を制度化。

Chapter 7: Frequently Asked Questions — Institute for Ethics in AI

市場の軍拡化への対抗策として、相互運用性、公共オプション、広告の出所証明、使命固定のガバナンス、アラインメント・アセンブリ等を提示。

「癌を治す」のような結果至上主義ではなく、複数の局所的kamiが協調する研究生態系を推奨。

Civic AIは万能薬ではなく、共通基盤の形成と局所的な橋渡しを支援する枠組みだと説明。

低信頼・貧困・暴力のあるコミュニティでは、外部からの“解決策”よりも地域主導の小さな橋を積み上げるべきと強調。

「善意の名のアジェンダ押し付け」を防ぐため、透明なプロセス、橋渡し指標、退出権を重視。

---

関連

6なのにpacksとならないのは、いわゆる腹筋のシックスパックのメタファーだからだと思う

シビック・マッスルみたいにこの種のことを筋肉に例えるメタファーが以前から使われている