NISHIO Hirokazu[日本語][English]

オモイカネ勉強会

2023-08-04　サイボウズラボ勉強会

Worldcoin

  • 7/24 Worldcoin project launches
  • ネットワーク効果
    • 「IDに基づく重要な課題」として「個人のユニークな人間性の証明」を挙げている
    • 例えばSybilRank

      • ソーシャルグラフの特性を利用して、ユーザーを偽者（Sybils）である可能性の高さに応じてランク付けするものである。SybilRankは計算効率が高く...数億のノードを持つグラフに拡張可能

      • image
      • "Trust Seeds"と呼ばれる信頼度の高いアカウントから信頼が伝搬するアルゴリズム
        • 効率の良いアルゴリズムが生まれてそろそろ人類全体のネットワークに対して適用するのが現実的になってきた
      • 「網膜スキャンと対応づいたアカウント」は信頼度高い"Trust Seeds"になりうるわけ
    • 個々人にとって大きなネットワークに参加する方が有益
      • 大きなネットワークを構築した事業者はプラットフォーマーとして有利に戦える
      • Elon Muskは巨大SNS Twitterを買ってXに変えようとした
      • Sam Altmanはばら撒きでプラットフォームを取る戦略
        • PayPay 100億円あげちゃうキャンペーンみたいなもの
        • 自社発行の仮想通貨払いでばら撒きをする
        • 「将来その仮想通貨が価値を生む」という期待によって費用負担なしでばら撒きができている
          • 賢い…
  • 個人的にはAIへのアクセスを独占させないためのUBIだと思ってるけど長くなるのでパス

オモイカネプロジェクト

  • /omoikane

  • 一言で言うなら「SFプロトタイピングとAI技術を組み合わせて、より良い議論の仕組みを作るプロジェクト」

  • より良い議論の仕組み(熟議支援システム)を作る

    • 前回も話したOpenAIが5月に募集した「Democratic Inputs to AI」
    • オモイカネプロジェクトの創設メンバーはこのDemocratic Inputs to AIに応募するために繰り返し議論してきた
      • すごく面白いストーリーができたので採択を待たずに活動開始した
      • 結果は残念ながら不採択だったが、その頃までにオンラインコミュニティで面白いことが起きていたので、プランを微調整しつつ継続的にやっていくことにした
    • 前回、前々回の勉強会で話したPolisについて
      • Polisは有益なコンポーネント
      • しかし単体では熟議支援システムとして成立しない
      • 前段階と後段階の設計が必要
    • 前段階としてSFプロトタイピングでの世界観共有をする
      • image

  • human.iconSFとは？Space Fantasy?

    • nishio.iconここでいうSFはScience Fictionだけど、そもそもこの言葉自体が明確な定義のあるものでもないので気にする意味はないと思う
      • 僕の言葉で表現するなら「近未来に起こりそうなことをストーリーで表現したもの」という感じ

SFプロトタイピング

  • プロトタイピングとは

    • ありあわせの素材で概念を表現するおおまかなモデルをつくることだ。 ブロック、フォームコア、管状材料、強力粘着テープ、とにかく役に立ちそうなものなら何を使ってもいい。

      • 発想する会社！ - 世界最高のデザイン・ファームIDEOに学ぶイノベーションの技法 トム・ケリー p.74
    • 最終的な製品の「近似」を低コストに作ることで、製品を手にした時の「体験」を早く入手しようということ
  • では物理的な製品ではなく、未来像や今後進むべき方針についてはどのようにすればプロトタイピングできるか？
    • その方法がSFプロトタイピング
      • ざっくり言えば「近未来SFショートショートによって未来の近似を作る」
      • 主人公の「体験」に共感したり反発したりできる
    • human.iconSFはプロトタイピングになりうるという解釈は面白い
  • しかもこのプロセスがAIによって支援できる
  • 意外と簡単、具体例を見てみよう
  • プロンプト: あなたはSF作家です。近未来SFを書け。制約: 主人公は「チームワークあふれる社会を作る」をモットーとするソフトウェア企業で働いている。ある研究者が「AIにSFを書かせることで未来をプロトタイピングすることが有益だ」と主張しているのを聞いたところからストーリーが始まる。

タイトル: 「未来のプロトタイプ」

  • 第一章：「AIとの出会い」

    • 主人公、樹（いつき）は、ソフトウェア企業「TeamWork Tech」のエンジニア。彼の信条は、チームワークあふれる社会を作ること。ある日、AIがSFを書くことで未来をプロトタイピングするという研究者の主張に興味を抱く。彼の心は、これが新たなビジョンを形成する鍵かもしれないと躍る。

  • 第二章：「チームワークと未来予測」

    • 樹は、AIの能力を活用して、社会にチームワークを浸透させるためのアイデアを探すためのプロジェクトを立ち上げる。そのAI、名前は「Asimov」。Asimovのタスクは、樹と彼のチームが提供するデータと目標に基づいて未来のプロトタイプを書くことだ。

  • 第三章：「描かれた未来」

    • Asimovの描いた未来は、コラボレーションが社会を形成するもの。個々のアイデアが交差し、新たな発想を生む。しかし、Asimovの物語には警告も含まれていた。AIが支配する未来に、人間の役割が縮小することへの警告だ。

  • 第四章：「調整の必要性」

    • 樹は、AIが描いたこの未来に対して挑戦する。チームワークはAIだけではなく、人間間のつながりにも由来することを強調し、AIの能力を使いながらも人間性を失わない未来を模索する。

  • エピローグ：「チームワークの未来」

    • 最終的に、樹とチームは、人間の創造性とAIの予測能力を組み合わせた未来を描く。それは、チームワークが中心となり、AIがサポートを提供する未来。そしてそれは、未来のプロトタイプとなる新たなSFの始まりでもあった。

  • この物語は、AIと人間が共に未来を形成する可能性を描き出し、読者に未来への新たなビジョンを提供する。

感想

  • human.iconこれはAI生成文を無調整で載せてるんでしょうか。結構面白い文章になっているなあ。
    • nishio.iconYes、インデント以外は何も手を加えていない、試行錯誤もしてない一発出し: chatlog
  • "AIと人間が共に未来を形成する"
    • いいフレーズだね！
  • コラボレーション as "個々のアイデアが交差し、新たな発想を生む"
  • "チームワークの未来" / "チームワークが中心となり、AIがサポートを提供する未来"
    • この世界における「チームワーク」とはどのようなものだろう
    • 「before GPT」のチームワークとは異なるものになるのかもしれない
    • チームワークは...人間間のつながりにも由来する
      • これは大事な視点な気がする
    • 「チームワーク」の定義が不明瞭である問題、チームワークの未来についてSFプロトタイプを作っていくと面白いかも？
  • "データと目標に基づいて未来のプロトタイプを書く"
    • 今回のプロトタイプ作成プロセスではデータや目標を与えていない
    • 確かに、データと目標を与えることでよりよいプロトタイプができる可能性はあるな…
  • human.iconあらすじとしてはすごくもっともらしいけど、具体的にどういう内容になるのかはわからないなあ。
    • プロトタイピングになっていればいいから、これでよい？
    • nishio.icon僕はこの段階でプロトタイプとしては完成だと思う
      • 「娯楽としての小説」と「プロトタイプとしての小説」は違った種類の価値を提供している
        • 娯楽小説は議論を生み出さなくても読んで面白ければ良い
          • 面白いがmustで考えさせるのがnice to have
        • プロトタイプとしての小説は議論を生み出すことが価値、面白ければなお良いが、面白いだけでは無益
          • 考えさせるがmustで面白いがnice to have
      • 自分が考えてストーリーを作っているのではなくGPT4が書いてるので、僕にとっての予期しないストーリーやフレーズが出てくる
        • 今回は自分で読んで感想を書いたのだけど、それができるのはストーリーを自分が100%コントロールしてないから
        • 「なるほどなぁ、確かにデータと目標に基づくことは大事そうだ」みたいに
      • 脳内でモヤモヤ考えているだけでは他人にシェアできないのだが、このSFプロトタイプやそれにトリガーされて言語化された感想はシェアできる
        • シェアすることによって他人の思考がトリガーされる
        • 曖昧に「みんなで考えましょう」「みんなでアイデアを出しましょう」とやってもあまりうまくいかないなら、読めるものを先に作ってしまえばより具体的な議論になる
        • だから議論の前にまずSFプロトタイピングをやりましょうという提案
        • 提案する上でまず自分でも試してみようとやってみた結果、僕はもうこれが有益なのは確信している
        • 作業コストは予想以上に低いし、出てきたものを見て「なるほどそうか、その視点はなかったな」となる
  • この使い方はAIとのチームワークだと思う？
    • 僕は新しいチームワークの形だと思うが、これも面白い話で、世界では意見が分かれていると思う
    • 日本はドラえもんとか付喪神とか、人でないものに人格を認めやすい文化があり、僕もそれに共鳴している
    • 一方で世界では「道具に人格を認めてはいけない」「AIの能力を制限すべきだ」派の人もいて、そういう視点ではAIがチームメンバーになることはないだろう
    • 僕はAIはチームメンバーの一人になりうるし、チームメンバーとしてのAIともっと会話をしていくと良いと思っている

プロトタイプは思考を活性化する

  • 一人で使ってもChatGPTが予期しないストーリーを作ってくるので活性化する
  • 作ったプロトタイプを他人にシェアすると会話が活性化する
    • 先ほど紹介したこの説明は「第4章 究極のブレインストーミング」の中でされたもの

      • ありあわせの素材で概念を表現するおおまかなモデルをつくることだ。 ブロック、フォームコア、管状材料、強力粘着テープ、とにかく役に立ちそうなものなら何を使ってもいい。

        • 発想する会社！ - 世界最高のデザイン・ファームIDEOに学ぶイノベーションの技法 トム・ケリー p.74
    • あいまいに「思考」「アイデア出し」「議論」するのではなく、見えるもの、触れるものを作ることで、より具体的な思考ができ、より具体的なアイデアが出て、より良い議論になる
  • なのでより良い議論の仕組み(熟議支援システム)を作る上では「議論の前にまずSFプロトタイピングをやるといい」のでは
    • これが提案段階ではアイデアだけだったが、実際に試していく上で確信に変わっていった
    • 上記の例のようなプロトタイプが本当にサクッと出てくるので、コストが予想以上に低い
  • これを掘り下げていくサププロジェクトが2つある
    • [/omoikane/「EBSFP: 根拠データに基づくSFプロトタイピング」プロジェクト](https://scrapbox.io/omoikane/「EBSFP: 根拠データに基づくSFプロトタイピング」プロジェクト)/omoikane/siramatu.icon
      • SFプロトタイプを元に検索キーワードを作り、そのキーワードで検索してヒットした論文のアブストラクトをプロンプトに積んでリファインさせる
      • これはさっきのSFプロトタイプの中で示唆されていた"データと目標に基づいて未来のプロトタイプを書く"の方向性
    • /omoikane/自治体や大学などでSFプロトタイピングの実証実験したい/omoikane/hal_sk.icon
  • /omoikane/Polisの前段階としてSFプロトタイプがあると、Polisのハードルが下がる

    • /omoikane/Polis:AI小説:「ファントム」で初polis！/omoikane/teyoda7.icon

    • 　nishio.iconさんのプロジェクトで見て存在は知っていたもののハードルを感じて投票できていなかった

    • 　　創作物を読んだ感想だとハードルが下がる？

    • 考察1: 政治的なテーマだと「自分は投票するために十分な前提知識がない」と思ってためらうケースがある。
      • 「小説を読んで感想を投票してください」だと、小説を読んだ時点で「十分な前提知識がある」と思うことができる
    • 考察2: 「正しい意見を書かなければならない」という雰囲気を感じてハードルが高かった
      • 今回は「感想」と言われていることによって「正しさ」ではなく「自分がどう感じたか」を表明できるようになった

Q&A

Polisの後段階

  • 「改善サイクル」だと考えている
  • 小説を読んでPolisをやることによって「同じものを読んだのに人によって感じ方が違う」ということを実感することができる
  • この「小説からPolis」の流れをより良くしたくなった
    • Polisは7人投票するまで可視化が表示されない、投票行動を行った人に対するフィードバックがないので、中々投票を増やしにくい
    • 例えばクラスタに分かれた理由の意見が可視化の画面には出ているが、これをAPIで取得したりできない
      • 意見クラスタを仮想のペルソナとしてAIにロールプレイさせたりしたら面白いのにちまちまコピーペーストするしかない
    • この辺りのニーズから、前回のPolis勉強会での「改善したい点」のリストができた
    • この「改善版のPolis的システム」はその後「コモレビカガミ」という名前がついた
    • 人々から木漏れ日のように漏れてくる「感情データ」を、集めてreflect(反射/熟考)する鏡ということ

コモレビカガミ

  • ✅投票に対して即時にフィードバックを返す
  • ✅自分の過去の投票内容を確認することができる
  • ✅投票内容をアップデートできる
    • これを「人々の考えがアップデートされていくことを支援するシステム」と考えている、考えがアップデートされた人が投票を更新したくなるのは当然のことなのでそれをサポートした
  • image
  • (予定)Twitterでシェアして直接投票できるように…
    • と思ってるうちにTwitterがXになったりきな臭くて様子見中(苦笑)
    • Blueskyに対してスクリプトで投票はできるが…
    • 結局どのSNSがどうというより、人が集まってる各プラットフォームに気軽にシェアできることが大事
  • Polisの場合は「可視化されたものを人間が読んで、考えがトリガーされて、書き込みをする(人もいる)」だった
    • Polisのクラスタは仮想のペルソナなので、それをGPTが直接読んでロールプレイしたらいい
    • AIの演じる仮想人格同士が議論をしたらいい

コミュニティ中心AI

  • /omoikane/「コミュニティ中心のAI構築」プロジェクト

    • 「コミュニティ中心のAI構築」プロジェクトは、「コミュニティAI」(Community-Centered AI)を作成する試みです。これは、特定のコミュニティの歴史、文化、課題、そして人々の意見を学習し、それらを理解し表現するAIのことを指します。具体的には、コミュニティが直面する課題に関わる人々と対話し、知識を提供するだけでなく、議論の場を作り出し、解決策の創出につながる環境を提供します。最初の目標は、オモイカネコミュニティのAIを作ることです。

    • グラント応募時点では「日本文化AI」と呼んでいたもの
    • イテレーションの結果、コミュニティメンバーによるたくさんのデータが溜まるので、それをRetrieval-Augmented Text Generation(検索によって強化されたテキスト生成)でチャットボットにしたら面白いと考えた
      • 比喩的表現をすれば「AIがコミュニティ内での会話を全部見ている」
      • 話しかけられた時に「似たものを思い出して」それを参考にして返事をする
      • この「似たものの思い出し」がベクトル検索である
    • 3月に自分のScrapboxをChatGPTにつないだ話勉強会で話した仕組み
      • [/omoikane/Omoikane Embed](https://scrapbox.io/omoikane/Omoikane Embed)
      • 当時は手動でベクトルインデックスを更新していた
      • 個人のScrapboxを対象とした実験しかしていなかった
      • これを「複数人が更新するコミュニティのグループウェア」に対して「1日1回自動更新」する
    • 6月に1日1回オモイカネプロジェクトのScrapboxから自動更新するようになった
      • ✅ベクトル検索機能はサービスリリース済み、チャット機能はまだつけてない
      • 本質的にはScrapboxである必要性はない
        • コミュニティが主に使うコミュニケーションプラットフォーム(=グループウェア)から自動的にやりとりのテキストデータを抽出できれば良い
      • 今Scrapboxでやっているのは、JSON形式でのエクスポートが自動化可能で都合が良いから
      • Scrapboxは公開でいくつものコミュニティが存在しているのも良いところ
        • 企業ユースのグループウェアは大体中身を公開できない
        • 公開コミュニティを実験台にすれば「こういうコミュニティに導入してこういう出来事が起こった」という事例紹介がやりやすい
      • スタートとしてはテキストデータがあれば何でも良い
        • 例えば台湾のシビックテックコミュニティg0vは議事録をHackMDで公開されている、これをクロールしても良い
        • サイボウズ式の記事をクロールしたら、サイボウズ文化を語るチャットボットになる
        • ただ、スタートとしてこれらを学習したチャットボットを作ったとしても、それに対するフィードバックループが構築できないとイマイチ面白くない

フィードバックループの構築が重要

  • フィードバックループとは？
    • image
    • 1: AIがグループウェアを読む
    • 2: 誰かに話しかけられたときに、1の記憶を元に答える
    • 3: このやり取りがグループウェアに自動で書き込まれる
    • 4: それに対してコモレビカガミでの投票や、追加の議論が行われる
    • ✅今の実装ではベクトルインデックスを更新(1)したあと、過去1日の更新を見た感想をAIがScrapboxに投稿する実装(3')になってる、それを見て感想を書くこと(4')ができる
    • reinforcement learning from human feedback的、Human in the loopからPeople in the loopへ
  • AIの出力に対する匿名のコモレビカガミは3つの点で優れている
    • 「人間の発言に対する場合」と比べて
      • 相手が人間ではなくAIなので反論することに気兼ねがない
    • 口頭での反論や顕名での投稿と比べて
      • 匿名なので自分の意見を出すことに気兼ねがない
    • 「はい/いいえ」の投票なので
      • 言葉にまとめられない「もやっと」「違和感」が素直に表明できる
  • 「コミュニティの空気」が「あいまいでなんとなくしかわからないもの」から、明示的に質問できるものに変わる
    • 社会的リスクを負うことなく疑問を呈することができて、それに対してまずはAIが回答する
    • その回答が良かったかどうか、どう改善されるべきか、がコミュニティでの議論の対象になる
    • このプロセスで人間は誰も攻撃されず、AIという「仮想のキャラクター」を「みんなで改善」する協調ゲームになる
  • トップダウンの指示ではなくコンセンサスを重視するのに、他人と対立することは恐れる日本文化において「より良い議論の仕組み」をもたらす
    • またGPT部分が言語の違いを吸収することで、異なる言語圏にまたがったチームの文化的な統合が支援されるはず
  • これがオモイカネプロジェクトで西尾が作りたいもの
  • ただしオモイカネプロジェクトは企業とは違ってボランティアの集まりなので企業の場合より難しいかもしれない
    • 参加方法は自由で、参加者が自身の興味に基づいて自由に活動できる
    • それが多様性や創造性を高めて新しい発見や成果につながる
    • 時間が経ってから過去を振り返ったときに「何が生み出されていたか」が明らかになる
    • 何が生まれるかは事前に予測できず、生まれやすい環境を作ることしかできない

「未来を読み書きしながら考え、作る」プロジェクト

  • オモイカネプロジェクトのサププロジェクトの中で最もメタなプロジェクト(by /omoikane/niryuu.iconさん)
  • SFプロトタイピングは未来を小説の形で具体化することで、未来についてより具体的に深く考えることができるようにする道具
  • しかしこの「SFプロトタイピング」の「SFを読み書きする行為」自体がこのオモイカネプロジェクトの中ですでに新しい形へと進化しつつある
  • SFを書く行為
    • AIの支援によってハードルが下がった
    • 今まではSF作家の頭の中でブラックボックス的に処理されていた執筆のプロセスが、GPTとのチャットログとして情報共有されるようになった
    • それを見て、今まで自分が小説を書く時が来るとは思っていなった人たちがSFを書くことに参加した
  • SFを読む行為
    • 書籍でSFを読んだ場合、その感想は書籍とは異なるメディアで行われる
    • しかし共同編集可能なScrapbox上で読むことで、感想もそのSFと同じページのコンテンツとなり、他の読者との会話や他のSFとのリンクなどが発生する
    • Polisやコモレビカガミで読んだ感想について投票し、集計されクラスタリングされることは既存の小説にないエクスペリエンス
  • その他、分類しきれない色々なことが起きている
    • 完成形に至らないアイデアやプロットが共有される、/omoikane/シェアード・ユニバース
    • 他人の作ったものにアンサーソング的な形で発展を付け加える、挿絵を画像生成AIで作る
    • インタラクティブな小説、小説を抽象化して変換する
  • この場で明らかに独特な社会的インタラクションが発生している
    • これは新たな文化の発生であり、つまりはこの場で新しい未来が生まれつつある
    • この現象自体を社会科学的に観察と理解をしよう、というプロジェクト
  • このコミュニティの設計においては正統的周辺参加を意識した
    • 意識した以上に正統的周辺参加になっている
    • まず「読むこと」「読んで感想を書くこと」という周辺参加から始まり、徐々に「書くこと」に進む
    • この「書く方法」の習得は抽象的な知識伝達だけではなく、特定の文脈や状況の中での参加や体験によって行われる「状況に埋め込まれた学習」
    • 結果として共通の興味を持つ人による「実践共同体」になっている

誰でも参加できます

(C)NISHIO Hirokazu / Converted from Markdown (ja)
Source: [GitHub] / [Scrapbox]