OpenAIの「Democratic inputs to AI」に応募した話
for LLM Meetup Tokyo #3 2023-07-05 by 西尾泰和
- backup from [/omoikane/OpenAIの「Democratic inputs to AI」に応募した話](https://scrapbox.io/omoikane/OpenAIの「Democratic inputs to AI」に応募した話)
OpenAIの「Democratic Inputs to AI」
- 5/25にアナウンスされた: Democratic inputs to AI
- OpenAI「民主的プロセスを改善する実験を支援します」
- 総額$1,000,000……いちおくえん？！
- 何これ？民主的プロセス？？OpenAIはなぜこれに1億円も出すの？？？
「Democratic Input to AI」の目的
AIは経済的社会的に広範囲な影響をもたらす
この方向性の第一歩を踏み出すために実験プロジェクトを支援する
「AIシステムが従うべきルールとは何か」という疑問に答えることができる民主的プロセスの概念実証を開発するチームを募集する
私たち(OpenAI)はこれらの実験から学び、よりグローバルで、より野心的なプロセスの基礎としたい
意思決定に関連する問題を探求し、将来的にはより直接的に意思決定に情報を提供できるような、新たな民主的ツールを構築することを期待している。
すっごく面白そうじゃん？！
- OpenAIが旗を振ってる「AIの未来のための試み」に参加するのが面白い！
- よりグローバルで、より野心的なプロセスの基礎を作ることに関与したい！！
応募した！！
- 7/15に結果がわかる
- 普通こういうのは採否未定の段階では話さないんだけど、プロジェクトの計画を立てるうちにプロジェクトメンバー自身がワクワクし始めて「面白いから採否関係なくやっちゃおう」ということになった
- もう活動開始して、プロジェクトへの参加を受付開始している
採択されたらやらなければならないこと
- 要件
- 500人以上が参加する実験を行う
- 実験から得られた知見に関して10/20にレポートを公開する
- 「500人以上が参加」この要件が難しそう…？
Code for Japan
- ここでCode for Japanの話
- Code for Japanは2014年に設立された一般社団法人
Code for Japanの目的: 公共サービスを市民参加型のプロセスを通じて改善し、より良い政府・自治体の実現を通じて社会に貢献する
- 2020年から参加型民主主義プラットフォームDecidimを日本国内に展開
- 今回Code for Japanのプロジェクトとして応募した
- 代表理事である関 治之さんがメンバーの一員
- 「500人？問題ないでしょう！」
- OpenAIとの契約などはCode for Japanが法人格としてやってくれる
- (こういうときに活動実績のある法人格が動くと諸々とてもやりやすいのでありがたい
)
- 代表理事である関 治之さんがメンバーの一員
- という経緯で実現可能性が格段にアップ！
プロジェクトの構造
- 詳しい説明に入るまでに少し「ピザ」のたとえ話
- 「ピザの土台」があれば、その上に色々な「トッピング」ができる
- プロジェクトの最低限の遂行はピザの土台部分が担保するので、トッピングでは個性的な実験ができる
- トッピングは好き勝手に試行錯誤して、うまくいったものだけ最終的にリリースすれば良い
- ここにいる人はみんな個性的なトッピングを作れる人たちだと思う
- ピザの土台は「SFプロトタイピング+Polis的システム」の反復構造
- そもそも民主的プロセスとは？OpenAIによる定義:
- ろくに議論をしないで投票をするのは民主的プロセスではない
- ソフトウェア開発では、プロトタイプを作ると改善すべき点がより具体的に見えてくる
- しかしソフトウェアでプロトタイピングするのは、ソフトウェアエンジニアしか参加できない
- だから日本語で未来のストーリーを作るプロトタイピングが必要、これがSFプロトタイピング
- LLMの支援でSF作家ではない一般人でも未来をプロトタイピングする手段を手に入れる
- 作られたストーリーは「こんな未来が起こりうる」という共有認識を形成する
- いくつものストーリーによって未来の幅が見えるようになる
- これが「どうすればより良い未来にできるか」を議論する土台になる
Polis的システム
- PolisのことはOpenAI自身もグラント解説文の中で名指ししているし、実例としてPolisにインスパイアされたシステムを紹介している、この分野を語る上で重要な要素技術
- 先日AnthropicとPolisのジョイントチームからプレプリントが出てたので読むといいかも
- [/nishio/Opportunities and Risks of LLMs for Scalable Deliberation with Polis](https://scrapbox.io/nishio/Opportunities and Risks of LLMs for Scalable Deliberation with Polis)
- 先日AnthropicとPolisのジョイントチームからプレプリントが出てたので読むといいかも
- Polisは複数人が複数の質問にYes/Noで答えることで「投票行列」ができ、これの可視化とクラスタリングをするシステム
- 複数人が複数の質問に答えることで「人々の主観の分布」を得る
- 我々のチームは今はPolisを単なるユーザとして使っているけど、それだと技術的に新しいことにチャレンジしにくいので、新しいシステムを作りつつある: コモレビカガミ
SFプロトタイピングとPolis的システムを繰り返す
- イテレーションを繰り返すことによって徐々に改善していく、という反復構造
- ストーリーに対する読者のフィードバックを集め、それを可視化することによって新たなアイデアが生まれ、また新しいストーリーが作られる
- それらが全部蓄積していった結果として…
日本文化AIができる
- 日本語話者の思考や感情をデータセットとしたAIができる
- このAIは世界中で利用可能になり、人々がそれぞれの言語で会話できるようになる
- このAIは言語の壁を越えて異文化理解を促進し、地球規模の熟議の前提となる
- よりグローバルで、より野心的なプロセスの基礎
- 「日本文化」って言葉で古典的文化を連想する人も多いかもしれないが、まずイメージして欲しいのは
- もう一つ、プロジェクトの参加者から出てきたキーワード:
- 付喪神
- 人間が作った道具が、長く使っているうちに魂を持つようになり、最終的に神になる
- LLMが賢くなって、人格的存在になる未来イメージ
- それを「神」と呼ぶことに、一神教文化圏の人は反発する
- 日本の「神」の概念が一神教の神とかなり違うもの
- 日本はキリスト教の割合が1%しかない、一方アメリカは7割近い
- AIは道具、人間に匹敵する能力を獲得しないように規制すべきだ論
- 神が人間を作った
- 神は人間より上位の存在
- 人間がAIを作った
- AIが人間に匹敵してしまうと？
- 「被創造物が創造主に並びうる」は「神は人間より上位の存在」という概念への挑戦になってしまう、不遜！
- 人間が「人間を作る」という神の御業をしたことになる
- クローン人間同様に倫理的に好ましくない！
- 地球規模の熟議を可能にするには、こういう文化的な考え方の違いを互いに理解していく必要がある
- ドラえもんや付喪神の概念を世界の人々が理解するためのアクションが必要
- 付喪神
日本文化AIの技術的実現可能性
- 夢物語のように感じられるかもしれないけど、技術的な実現可能性は高い
- まず「コミュニケーションの場」としてScrapboxを使用している
- 生成されたストーリーや、感想、その他の雑談など、なんでもここに書かれる
- 実現済みの実装
- ScrapboxのデータをGithub Actionsで1日1回データをエクスポートする
- 500トークンのチャンクに分けてOpenAI Embedding APIでベクトル埋め込みし、Qdrantに格納している
- Qdrantでベクトル検索が可能なWebサービスを公開済み: Omoikane Vector Search
- あとは英語のUIとChatGPT APIとの繋ぎこみを作れば世界にリリースできるMinimum Viable Productになる
- 単なる自然言語コーパスと違って面白い点
- Polis的システムから「この問いに37%が賛成、37%が反対、25%が棄権」というデータが取れる
- 「大勢の人の主観の分布」というデータ
- 自然言語文と数量データのペアになってるので、ベクトル検索で前半の文章を引っ掛けて、数量データをプロンプトに積むことで、チャットボットは日本人の思考や感情の分布を知った上で話すことができる
- 将来的にはFunction CallingでPolis的システムに質問を投げて人間の反応を集める仕組みを構築するのも面白そう
- LangChainのHuman as a ToolをPeople as a Toolに推し進める感じ