NISHIO Hirokazu[Translate]
リバースアライメント
>AI を人間に合わせる「アラインメント」の反対側、つまり社会の制度やルール、人々の技能のほうを AI の時代に合わせて作り直す取り組みです。グレン・ワイルらが 2026 年に掲げました。


>nishio 「アライメント」というと「AIを人間の価値観に沿わせること」と理解され、暗黙のうちに「変わるべきなのはAIであり人間社会は今のままでよい」と考えてしまいがちだ。
> AIによる生産性向上を社会的な便益に変換するには、人間社会の制度・規範・技能も整え直す必要がある。そうしなければ、AIの能力向上は権力集中、失業、情報汚染を加速させるだけになりかねない。
> ブロードリスニングはその具体例の一つ。AIを社会の「聞く能力」を増幅するために使う。これを一時的な意見募集イベントで終わらせず、市民の声を継続的に整理し、政策形成・意思決定・実施へ接続する、行政と政治の常設機能として組み込んでいく。


"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]