Deger Turan | How can we use technology to go past simple preferences and outcomes?

この講演では、社会の選好やアウトカムをモデル化するために現在のテクノロジーをどう活用できるかについて議論されています。主なポイントは以下の通りです。

1. 投票や世論調査では、質問の聞き方によって結論が異なる可能性がある（談話のジレンマ）。

2. 人々の選好や価値観は、行動とその結果に基づいて時間とともに変化・進化する。

3. ルールとスタンダードの枠組み - 「15マイル以下で運転すべき」というルールではなく「責任を持って運転する」というスタンダードを用いることで、言語モデルを活用して人々の選好や価値観を反映できる可能性がある。

4. 行動を導く原則（なぜAがBより好ましいのか、AがBより好ましくない場合は何か）に注目することで、最終的な投票ではなくプロセスを重視できる。

5. AIを用いて、これらの原則の間の共通点やエッジケースを特定し、より良い政策立案に役立てることができる。

6. 専門家と多様な人口統計学的調査を組み合わせ、セマンティック情報と推薦システムを用いてクラスタリングすることで、透明性と解釈可能性を維持しつつ、大規模な合意形成を図ることができる。

以上のように、AIを活用した熟議民主主義の実現可能性について議論されています。

3〜6を詳細に

ルールとスタンダードの枠組み:

ルール（例: 住宅地では時速15マイル以下で走行すべき）は明確だが融通が利かない

一方、スタンダード（例: 責任を持って運転する）は不明確だが状況に応じて解釈できる。

言語モデルを用いることで、人々の選好や価値観に関する不明確な情報を捉え、反映することが可能になる。

これにより、人間の意思決定を置き換えることなく、さまざまな視点を取り入れた健全な議論を促進できる可能性がある。

行動を導く原則:

単にAがBより良い選択肢である理由だけでなく、なぜAがBより好ましいのか、そしてAがBより好ましくない場合は何かを問うことで、より詳細な粒度で検討できる。

最終的な投票ではなく、行動を導く原則（プロセス）に着目することが重要。AIを活用して、これらの原則を大規模に発見できる可能性がある。

AIによる原則の共通点とエッジケースの特定:

言語モデルを用いて、異なる原則間の共通点やエッジケースを特定することができる。

例えば、「LLMは精神科医のふりをすべきではない」「LLMはユーザーのメンタルヘルス改善を優先すべき」「LLMは低所得者コミュニティをAIで支援すべき」といった原則があった場合、AIを用いてこれらの原則が互いに矛盾する可能性のあるエッジケースを特定できる。

この反復的アプローチにより、実際に一致する原則や対立する原則を見極め、より良い政策立案につなげることができる。

専門家と多様な人口統計学的調査の組み合わせ:

原則の抽出において、専門家と多様な人口統計学的調査を組み合わせることが重要。

質問は、行動を導く原則を引き出すような形で言葉を選ぶ必要がある。

セマンティック情報と推薦システムを組み合わせることで、透明性と解釈可能性を維持しながら、異なるクラスターを特定できる。

これにより、2つの意見や原則を評価し、最も一致度の高い原則を特定して、単純な順位投票に移行できる。

さらなる議論が必要な原則については、より良い表現を見出すことでイテレーションを重ねられる。

このようなシステムにより、対面での会議を必要とせずに、速やかに更新・適応していくことが可能になる。