>nishio 今日のイベントを通じて少し言語化が進んだ。「人間より賢いAI」は「同じ入力が与えられたなら」「人間の中央値より賢い」わけなのだけど、この「同じ入力が与えられたら」の部分の難易度が解く問題によって異なる。「与えた文章を翻訳せよ」は簡単な問題。「人々を幸福に統治せよ」は難しい問題。

>nishio この問題を解くためには「大勢の人々が、それぞれどんな状態にあり、どんな経験をして、どんな気持ちになったのか」の情報を集める必要がある。それを集める上で「紙に政治家の名前を書いて箱に入れる」という収集手段では帯域が狭すぎる。もっと良い情報収集手段が必要になるわけだ。

>nishio ちなみに「入力を受け取って判断を下すAI」の部分も、現在多くのケースでは「一人一票で選択肢を選び、最も大勢から選ばれたものに決める」という貧弱なアルゴリズムが使われている。これをより良いものに置き換えようというのがメカニズムデザインの目的の一つで、Quadratic Votingはその成功例。