NISHIO Hirokazu[Translate]
灘校土曜講座2025
2025-05-24



自分の部分だけ転載しておく



















質疑
たくさんの人の意見を集めてそれをまとめるときにまとめるAIが歪める可能性があるのでは?
それはもちろんある
関連質問: LLMにバイアスがあるのでは?
LLMによって多様なバイアスがある
しかし、人間がまとめるならバイアスはないか?といえばもちろん人間にもバイアスがある
なのでこれは「AIか人間か」の問題ではない
プロセスをオープンにして第三者が検証可能にするなどの仕組みづくりで解決すべき問題
関連質問: AIはブラックボックスになるのでは?
Reasoningモデルは思考過程を言葉にしてアウトプットしながら動く、黙って考える人間よりもブラックボックス度合いは低い
タスク実行中のモデルの内部の発火具合を調べる研究も進んでいる。これは人間に例えるなら脳に電極を刺すようなもの
公務員に電極を刺すことは倫理的に難しいが、公務に携わるAIの内部状態を開示することは将来的に可能になる
ブラックボックスであることが問題だと考えるなら、むしろ人間ではなくAIを使う方が良い
政治について考えて発言できる人ばかりではない、考えてない人をどうするか?
無意識データ民主主義のような過激な意見もあるが、それには賛成していない
意見を聞いてもらえる機会、意見を言って良かったと思える機会が現状かなり乏しいのが、考えて意見を言う能力が育たない原因
特に未成年者には投票権がない、成人したらいきなり投票するべきと言われる、無茶な話
台湾ではJOINなどのシステムで学生の段階から意見を言う機会が作られた
シン東京2050ブロードリスニングでも同様のクラスタが見られた
今のメジャーなSNSは過激な意見を言う人が目立つ
大部分の人は過激な人と議論したくない
親ソーシャルメディアの考え方では異なる意見クラスタの人から賛成されるような「橋渡しする意見」に注目が集まるように設計される
国際社会に影響を与える?
もちろん、言語の障壁がなくなることが大きい
Q:生成AIが「どういう意見が市民に受けるか」でマニフェストを作るとどの政党も同じになるのでは?
大きなクラスタに集まると違いがなくなるので支持者が流動しやすくなる、これを既存の党は好まない
可視化してみると現時点でも政党が代表してないクラスタがある
小さなクラスタであっても、1%あれば政党になれる
多数派を取りに行くのはレッドオーシャンなので、すべての党が大きなクラスタに行くはずだ、という前提は正しくない
長期的にはそもそも政党政治が今と同じ感じで続くかどうかは不明
党議拘束のメリットデメリットのバランスに影響がある
支持層がコロコロ変わると安定しないのでは
コロコロ変わりはしないだろう、コロコロ変わるという前提がどこから出てきたのかよくわからない


"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]