HCI’s For Aligned Governance in the AI Age
AIアラインメントの問題に取り組むには、人間同士のコーディネーションを改善する必要がある。AI Objectives Instituteでは、この目的のためのツール開発を行っている。
例えば、AIシステムを使って、AIリサーチャーの意見を幅広く集約・分析し、共通の見解や論点を明らかにする「タウンホールディスカッション」のシミュレーションを行っている。
これにより、AIアラインメントコミュニティ内の多様な意見を可視化し、合意形成に役立てることができる。
メタカラスでは、政策立案者向けのシナリオ思考と、フォーキャスターの具体的な指標を結びつけるワークショップを実施している。
人間のコーディネーション能力を高めるAIアラインメントシステムの構築は、AIのアラインメントと人間のアラインメントの両方に役立つと考えられる。
Related Pages
- →アダム・カヘン×小田理一郎×plurality×社会的差異を超えた協力×ファシリテーター×変容的シナリオ・プランニング×パワーと愛の両輪×敵と協働する×ともに前進できる最小限の方向性×ファシリテーション×垂直型ファシリテーション×トップダウン×指揮命令×水平型ファシリテーション×ボトムアップ×合意形成×変容型ファシリテーション×力と愛×貢献とつながり×チームの知的生産性の向上×コンテクスト×メンバーの関係性×場の質×結論を出す×前に進む×ネガティブケイパビリティ×主体性×当事者性×障害を取り除く×神秘の出現に対する障害を取り除く×貢献・つながり・平等×敵とのコラボレーション×社会変革のシナリオプランニング×open_space_technology×u理論×未来を変えるためにほんとうに必要なこと×自己実現に駆り立てる力×再結合へと駆り立てる愛×垂直型ファシリテーションと水平型ファシリテーションはどちらもコラボレーションを制約する×民主的×水平型×垂直型×呼吸のたとえ×アウターゲームとインナーゲーム→
- →まず泥臭い問題解決で信頼醸成×外部からいきなりctoとして就任する時に気をつけていること×後から来た人間は先にいた人間の信頼を獲得する必要がある×u曲線モデル×既存のシステム×すり合わせ×既存システムをリスペクトする×リスペクト×評価関数の違い×個人の尺度×協調コスト×法的リスク×組織の尺度×キャリア・トラックの非対称性×起業志向×スピード×独自性×安定志向×再現性×合意形成×摩擦コスト＞成果×若年期ボーナス×失敗回数の多さ×尖った言動×失敗許容量×信頼資産×リスクテイク×連帯コスト×巻き添えロス×火消し対応×信頼回復×総コストに対する総価値×コミュニケーションの問題は互いに問題がある×紹介者責任制×コミュニティに有害な人はコミュニティに誘われない×みずから引き起こした疎外×殺す人間の世界は広がらない×社会資本の拡大再生産×社会関係資本の使い方×u理論×downloading×presensing×ソーシャルフィールド×performing→
- →熟議の概念について解像度を高める×ジャン＝ジャック・ルソー×ルソー×一般意志×社会契約論×合意形成×the_social_contract×volonté_générale×一般意志は、市民全員が公共の利益を熟慮した結果として形成される×直接民主主義→
- →スマートニュース×なめらかな社会とその敵×なめ敵×なめ敵会×picsy×なめら会議×異世界転生としての別コミュニティ突入×小口化×radical_markets×partial_common_ownership×salsa×gradualとpco×ステップな市場×組織の境界×top_trading_cycleアルゴリズム×dedeal×toori_mo×ルソー×人間不平等起源論×暴力が正義を作る×エコン×観察者の存在が互恵性の維持に重用×コミュニティによる生産性向上のすすめ×正義のゲーム理論的基礎×分散型エスクロー×ekyc×non-custodial×sowawa×reality.eth×foteison×達成できたら解散×老害×式年遷宮×逃げ続けるsns×unipos×nam生成×propagational_proxy_voting×decidim×polis×合意形成×citydao×誤った二項対立×aml×自転車置場の議論×エントロピー増大の法則×均衡は不況×plural_qf×ネットワーク外部性×colors.js事件×ethereum×quadratic_funding×quadratic_voting×gitcoin×plural_funding×soulbound_token×quadratic_votingはなぜ平方根を取るのか×一人一票×なめらかに共有するバーチャルな時空間×未来の自分に作業配信×メッセージ(sf)×オズマ問題×シルバー民主主義×主観主義×分割統治法×truthcoin×マージマイニング×マイクロスコープ×繋がっても距離は0ではない×ウェブサービスの提供拒否の権利×desci×松尾研×企業研究者×コールド・スプリング・ハーバー研究所×理化学研究所×財閥解体×ケンブリッジ市×市民参加型予算編組×ステーキング×全体主義×直接民主主義×splitdao×知識集権×柄谷_行人×世界史の構造×カリスマ的存在×vitalik×ナカモトサトシ×opportunities_and_risks_of_llms_for_scalable_deliberation_with_polis→
- →サイボウズラボ勉強会×plurality_tokyo×plurality×ブロードリスニング×polis×PluralityとPolis勉強会×polis勉強会×plurality_seoul×audrey_tang×gisele_chou×talk_to_the_city×AI Objectives Institute×deger_turan×aiと著作権に関するパブリックコメント×安野たかひろ氏が東京都知事選に出馬へ×マイナンバーカード×直接投票×オープンソース×デジタル公共財×人間増強×知的生産性の向上×都知事選でtalk_to_the_cityをする×tokyoai×主観か客観かではなく、一人の主観から大勢の主観へ×シビックテックによる、社会と民主主義のアップデート×手書きの図×polis:_scaling_deliberation_by_mapping_high_dimensional_opinion_spaces×polis体験レポート:同性婚を合法化すべきか×台湾の同性婚は親族にならない×vtaiwan×オープンガバメント×デジタル民主主義×透明性×参加型民主主義×アジェンダ設定の権限を人々に開放する×モデレーション×polisのモデレーション×aoiのtttcページにaudrey_tangのコメントがある×集団的議論×集団的意思決定×peter_eckersley×electronic_frontier_foundation×let's_encrypt×certbot×privacy_badger×brittney_gallagher×talk_to_the_cityでplurality本の内容を可視化×bertopic×bertopic:_neural_topic_modeling_with_a_class-based_tf-idf×umap×hdbscan×mashbean×初探_polis_2.0：邁向關鍵評論網絡×熟議×レジリエンス×双方向的マスコミュニケーション×国民ラジオ×一方向的マスコミュニケーション×聞く姿勢×デジタルネイティブは4年に1度のアップロード帯域で十分とは思わない×雪玉×polis_2.0×発想法×川喜田二郎×kj法×凝集型階層的クラスタリング×u理論→
- →talk_to_the_city×brittney_gallagher×deger_turan×AI Objectives Institute×silent_cry×社会復帰の課題×技術へのギャップ×雇用障壁×メンタルヘルスサポート×whatsapp×mashbean×障がい者×社会的弱者→
- →deger_turan×大規模なフィードバック収集×苦情帳×ルイ16世×他者との比較×少数意見×grand_débat×継続的な市民との対話の場×住民投票×市民陪審×公共的討議×透明性×アカウンタビリティ×可視性→
- →村×ソリディティ村×民主主義×メイフラワー号×ピューリタン×社会契約×プリマス植民地×アレクシ・ド・トクヴィル×リテラシー×アーリーアダプター×小さなコミュニティ×合意形成×社会の仕組み×ゲーテッドコミュニティ×村社会2.0×落合_渉悟×鈴木_健→
- →plurality×polis×サイボウズラボ勉強会×階層組織×llmがもたらす組織構造の変化×ダンバー数×国民ラジオ×松下幸之助×サイロ化×llm×audrey_tang×ブロードリスニング×人間の増強×知識社会は上司と部下の社会ではない×階層的な組織よりも水平的な組織の方が容易になる×統治構造×選挙は4年に一度5bit送信する遅い通信だ×vtaiwan×チームワークあふれる社会を創る×技術は中立×善用×悪用×パノプティコン×監視×社会信用システム×フェイクニュース×画像認識×雨傘運動×シンギュラリティ×broad_listening×decentralized_id×quadratic_funding×retroactive_funding×ソーシャルインパクトボンド×quadratic_voting×decentralized_identifiers×gitcoin_passport×worldcoin×web3はオワコン×終わったように見えるのは流行の上振れしか見えてないから×共感×異文化理解力×意思決定×合意形成×空気が支配する日本ではブロードリスニングが重要×human_augmentation×when_we_hear_“the_singularity_is_near”,_let_us_remember:_the_plurality_is_here×roulette_wheel_selection×t-sne×polis:_scaling_deliberation_by_mapping_high_dimensional_opinion_spaces×polis勉強会×都市国家×デジタルネイティブは4年に1度のアップロード帯域で十分とは思わない×紙と箱による民主主義×デジタル投票×アジェンダ設定の権限を人々に開放する×シルバー民主主義×一人一票×論点のブレインストーミング→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]