秘密情報をLLMに垂れ込んで金に変える人の大量発生
ここまでの文脈
>nishio ふと気づいたんだけど「巨大LLMが『まだ知らない有益な情報』を与えた人間に報酬を支払う」という構図が生まれたら、人間が新しい情報を作り出す仕事に従事するようになる〜というのはユートピアすぎる想定で、まずその手前に「秘密情報をLLMに垂れ込んで金に変える人」の大量発生が起きる気がした
>nishio 秘密や嘘の存在しない統合思念体へと進化できるのだからユートピアか！()
>0xtkgshn まだ知らないことっていうのはどう判定するんですか？みんなが入れる単語を監視して、とりあえず返答してその返答を評価させて低いやつが「求められてるやつ」で、そこのドメイン知識を入れると報酬を還元とかかな
>nishio 「まだ知らないこと」と「求められていること」は比較的楽に判断できるけど「回答が嘘ではないこと」の判断が難しい。基本的にはたくさん集めて外れ値を捨てることになると思う。
>nishio 求められてること: 人間からよく質問されるが、回答に対する評価が良くないこと
> まだ知らないこと(まだ知らなかったこと): 与えられた情報が解答になるような質問文を生成して旧バージョンに回答させ、与えられた情報を出力できないこと
>0xtkgshn ちょっと話変わるけど、予測市場は単なる取引でエンドユーザーの利益以外にも、その取引の収束点を見ることで情報を集められるってのを思い出しました。市場から得られる情報の方が普通の善意のユーザーよりも精度が良い
> （自分のノート）/tkgshn/The P + epsilon Attack
>sirouto 素朴な疑問で恐縮ですが、ネットからタダで学習できるのに、報酬を払うでしょうか？ 未知の情報を買うにしても、信用情報が必要です。たとえば、「A社」が来年に新製品を出す情報は、文章の機械学習で真偽を判断できません。むしろ、検索と同様に掲載料を取り、AIの回答にリンク広告を載せそうです。
>nishio ネットからタダで学習できる情報が学習し終わり、他の情報をどうやって手に入れるかの競争になった後の話です。真偽の判定をAIがやる必要はなく、人間に与えて人間が有用かどうかの判定をすれば良いです。
>shima__shima その前に，あることないこと適当なことを吹き込む人が大量発生すると思います
Related Pages
- →サイボウズラボ勉強会×尾鷲2024-01-23~24×plural_management×Quadratic VotingとPlural Management勉強会×quadratic_mechanism×階層的な組織の権威×ネットワーク化された権威×pluralなメカニズム×実力ベースの権力構造×オープンソースソフトウェア開発×価値ある貢献×勤勉さ×参加×適応的な集合知×plurality×二次的メカニズム×オープンソース×ソフトウェアマネジメント×組織力学×glen_weyl×gov4git×quadratic_voting×quadratic_voting:_how_mechanism_design_can_radicalize_democracy×quadratic_funding×tyranny_of_structurelessness×ostrom_and_hess,_2011×社会的手抜き×公共財メカニズム×意思決定におけるボトルネック×才能の未活用×top-down_approach×上意下達×ボトルネック×ティール組織×メカニズムデザイン×二次関数的なコスト関数×予測市場×オークション×plural_management_protocol×collusion×Beyond Collusion Resistance: Leveraging Social Information for Plural Funding and Voting×慈悲深い独裁者×フォークできるなら政治は不要×すべてのフォークは存在を許され、どのフォークに関心を持つかは周囲のコミュニティに委ねられる×誰も強制されない×社会制度をフォークする×g0v×民主主義はリアルタイムシステムへと進化する必要がある×social_inovation_legitimates_governance×ボタンが大量についたテレビのリモコン×メリトクラシー×アンダーマイニング×ちぎれる→
- →Manifold×予測市場×他人が理解する前にポジションを取れ×社会資本×dd2030_slack×普通の人たちを予言者に変える 「予測市場」という新戦略×アビトラージ×流動性×民主主義のためのカルダシェフスケールと、群衆の知恵で政策を選ぶfutarchy（未来主義）の覚え書き×アテンション×限られたリソース×理解できないものを見たときにアンチポジションを取る人→
- →サイボウズラボ勉強会×世論地図勉強会×2024衆院選×世論地図×世論地図のumap×濃い塊の抽出×カール・ピアソン×karl_pearson×多次元尺度構成法×主座標分析×自己組織化マップ×som×self-organizing_maps×カーネル法×再生核ヒルベルト空間×サポートベクターマシン×isomap×isometric_mapping×lle×locally_linear_embedding×対立次元×pca×umap×2022年参院選のumap可視化×polisクラスタ2つになる問題×東京大学谷口研究室・朝日新聞社共同調査×2022年参院選のpolis的可視化×convex_hull×code_for_japan_summit_2024×世論地図3970人umap×dbscan×高次元泥団子×集団極性化×匿名の市民の意見ベクトルはそんなに明瞭に別れてない×umapの結果をクラスタリングするべきか×tsneの結果のクラスタリングは慎重に×賛成反対データのumap×シン東京2050ブロードリスニング×テキスト埋め込みベクトルの分布×text-embedding-3-large×小さな粒のある一つの塊×クラスタリングとパーティショニング×k平均法×クラスタリング×spectralclusteringとhdbscanの違い×日テレnews×2024衆院選×ブロードリスニング×aiによるクラスタ解説×濃いクラスタ抽出×ptttc2024-11-12×外れ値×まずは大雑把に×全体像を把握したい×talk_to_the_city_turbo×tttc:_aiと著作権に関するパブリックコメント×talk_to_the_city勉強会×kj法×発想法×川喜田二郎×凝集型階層的クラスタリング×離れザル×側面×word2vecによる自然言語処理×概念の類似度は距離ではない×50枚のkj法は10時間の想定×5年間で129枚しかkj法をしていない→
- →社会を人間による計算として考える×hum-free×計算機自然×audrey_tang×多様な人々が協力して物事を成し遂げていくための技術×plurality×新しいものは異なるものの結合によって得られる×新しいものは登場前にその価値を見積もることができない×ブロードリスニング×anti-social×pro-social×地球規模の熟議×予測市場×地球規模に分散しつつ共通の内容を計算できる汎用計算機×普通の人たちを予言者に変える 「予測市場」という新戦略×futarchy×世界は一つの声に塗りつぶされるべきではない×世界はひとつの声に支配されるべきではない×川の流れを計算として考える×均衡×経済安定は不況×if文から機械学習への道×選挙は4年に一度5bit送信する遅い通信だ×弁証法的展開をよしとする文化×ほげ言語のパラドックス→
- →plurality_tokyo_namerakaigi×サイボウズラボ勉強会×pol.is×Community Notes×メカニズムデザイン勉強会×majority_judgement勉強会×pluralityとpolis勉強会×polis勉強会×Quadratic VotingとPlural Management勉強会×talk_to_the_city勉強会×世論地図勉強会×高次元データ分析勉強会×デジタル民主主義研究ユニット×ピボット×古典期アテネの民主主義のスケール×国民こそが唯一の正統な権威である×フランス革命×フランスでの女性参政権×一人一票×未成年者には投票権がない×成年被後見人の選挙権×ドメイン投票方式×デメニー投票×デーメニ投票×quadratic_voting×glen_weyl×qv×radical_markets×audrey_tang×vitalik_buterin×quadratic_funding×audrey_tangのqv×glen_weylのqv×quadratic_votingがシナジーの発見に有用×台湾総統杯ハッカソン×qvは投票しないことに意味のあるメカニズム×「投票しないことは良くないことだ」は根拠のない思い込み×vitalik_buterinらのquadratic_funding×a_flexible_design_for_funding_public_goods×akb48総選挙×gitcoin×gitcoin_grants×公共財×リソースの再分配×社会的意思決定×メカニズムデザイン×多数決×くじ引き×抽選制×抽籤制×プラトン×アリストテレス×ジェームズ・マディソン×ジョン・スチュアート・ミル×アレクシ・ド・トクヴィル×選挙は4年に一度5bit送信する遅い通信だ×ブロードリスニング×polis×pol.isでのuberの議論×metaがファクトチェックを廃止×community_notesにおける行列分解を用いた信頼度スコアリング×多様な主体から支持されることを評価する仕組み×talk_to_the_city×日テレnews×2024衆院選×ブロードリスニング×シン東京2050ブロードリスニング×umap×世論地図×mielka×2024衆院選×japan_choice×meta-polisの構想×mashbean×協力の深さと広さのトレードオフ×plurality本×aiあんの×タウンミーティング×非同期化×空間と時間の制限から解き放つ×chatgptとaiあんののコミュニケーションの形の違い×ai政治家の3つのレベル×aiが間に入って非同期化×open_space_technology×アジェンダ設定の権限を人々に開放する×vitalik×主観主義×3つのイデオロギーの間に2つの対立軸がある×aiが仲介するコミュニケーション×bluemo×intersubjective_model_of_ai-mediated_communication:_augmenting_human-human_text_chat_through_llm-based_adaptive_agent_pair×時間の制約×心理的安全性×緩やかに繋ぐ×デジタル民主主義2030×同じ時間と場所を共有できない人に機会を用意×metapolis×スケーラビリティ×デジタル民主主義×コミュニティ×大規模コラボレーション×xy問題×熟議のための4つのステップ×リプライはスケールしない×リプライさせない×your_priorities×コトノハ→
- →joel_miller×e._glen_weyl×leon_erichsen×qvは耐戦略的と言えるか？×シビル攻撃×談合×談合耐性×pairwise_discounting×cluster_match×connection‑oriented_cluster_match×独立個人モデル×社会グラフ×資金配分アルゴリズム×違いを超えた協力×予測市場×多声的×leon論文→
- →日記2024-07-31×vitalik×安野たかひろ×glen+japanchoice×takerun×地球規模に分散しつつ共通の内容を計算できる汎用計算機×世界コンピュータ×ethereum国の規模×自動徴税×gitcoin_grants×統治技術×web3×plurality→
- →o3人類への忖度なしモード×集合的意思決定×演説×差分コミット×ガバナンスapi×操作系×民主主義×集団意思決定アルゴリズム×trust-collapse_/_compute-democracy”_の分水嶺×operating_system×os×集団的意思決定×信頼の破壊×認証民主主義×ディープフェイク×「本物らしさ」の価値がゼロに近づく×暗号学的真正性トークン×プロトコル関税×多相主権×poly-sovereignty×革新州×ガードレール州×国家境界×api境界×dao×プロトコル国家×e-citizenship×租税×投票×l2_ブロックチェーン×ラストマイル行政×e-residency×国家の境界×無限議会×citizens’_assemblies×aiファシリテーション層×自己修復型熟議ループ×rightscon_2025×予測市場×確率立法×prob-legislation×スマート法典×政治家が身銭を切る×代理権の拡張×将来世代オラクル×エコシステムai×人間以外のステークホルダーの議席化×ネオ-シティ国家×大都市_+_プロトコル国家の連邦化×デジタル難民×ポリゴン連邦×多層主権×可溶性帰属×主体性の分散×監視的ポピュリズム_2.0×aiマイクロターゲティング×情動課税×情報専制×暗号的真正性レイヤー×ai補助熟議レイヤー×確率立法レイヤー→
- →イノベーティブ×事前×目利き×変な人は変な人を好む×変な人×外れ値×平均志向×平均志向が最悪の環境×模倣志向×あこがれ×模倣×独自性志向×天邪鬼×オンリーワンの自分×特別な人でありたい欲×「新しいものを作る人」になりたいだけ×自分志向×周囲の人の振る舞い×自分の好み×正義感×論理的整合性×自分の価値観×面白さドリブン×掘り下げ×根がない×数学科の「わかる」×芯のある変人×公理系の違い×探索範囲を広げる×ファッション変人×底が浅い×逆張り×既に明らかになっている対立軸×社会的バーベル戦略→
- →情報処理×新時代の道具，_chatgpt：14_の視点からその可能性を探る×chatgpt×一人の主観から大勢の主観へ×主観か客観か×誤った二項対立×chatgpt_api×陳腐化×抽象度の高い知識×具体的経験×みずからの目で見なければならない×根無し草の知識×今開いている扉が未来も開いている保証はない×幸運の女神には前髪しかない×エンジニアの知的生産術×知的生産性の向上×人間増強の四要素×概念のハンドル×取っ手×(column)_パターンに名前を付けること×(4.5.3.3)_思考の道具を手に入れる×発想法×方法論×名前×一部が消えて一部残り新しく生まれる×思考の結節点2023-02-23×chatgptに「質問を繰り返す聞き手」の役割を演じさせる実験×クリーンランゲージ×かんがえをひきだすチャットボットkeichobot×scrapboxに住んでるエージェント×aiの住んでるscrapbox×ai質問箱uiについて考える×自分のscrapboxをchatgptにつないだ×scrapbox_chatgpt_connector×自分のscrapboxをchatgptにつないだ話勉強会×aiパネルディスカッション×scrapboxはアイデアの精製器×エミュレータ×書籍とは双方向のコミュニケーションができない×仮想人格とのブレインストーミング×正しさと有用性は別物×異なる視点×盲点×気づく×すべてのデータはうそである×円柱は円にも四角にも見えるが、円でも四角でもない×コントロールできることに力を注ぎ、コントロールできないことは気にしない×コストが下がれば構造が変化する×plurality×audrey_tang×シンギュラリティ×ブロードリスニング×熟議×熟議のための4つのステップ×polis×sentiment_gathering_platform×認知能力の限界×人間増強×情報の複製により情報発信は効率化されたが、受信は改善しない、情報を減らす技術が必要×pluralityとpolis勉強会×シビックテックによる、社会と民主主義のアップデート×階層構造×中間管理職×間接民主制×代議士×デジタルネイティブ×選挙は4年に一度5bit送信する遅い通信だ×デジタルネイティブは4年に1度のアップロード帯域で十分とは思わない×まだ言語化されていない知識×文明に対する貢献×既に言語化された知識×世界とaiのインターフェース×世界をセンシングしてaiに与える仕事×まだ書かれていないことの森を切り拓いていく仕事×aiが読めない形での情報発信は価値が下がっていく×フォーク×正統性×投票×移動式投票×主観主義×panarchy×arxiv×査読×品質担保×情報共有の速度×オープンアクセス×有用性×大勢の主観×品質より速度×文明の乗り物×人間は一時的キャッシュ×accessism×openai×democratic_inputs_to_ai×anthropic×スケールする熟議×scalable_deliberation×opportunities_and_risks_of_llms_for_scalable_deliberation_with_polis×Community Notes×主観的×オモイカネプロジェクト×主観か客観かではなく、一人の主観から大勢の主観へ:q&a×chatgptについてのコラムの準備×chatgptについてのコラムの準備2→
- →keichobot_on_chatgpt×まだ書かれていないことの森を切り拓いていく仕事×言語モデルにできないこと×言語的思考×映像的思考×シンボリックモデリング×文字によって思考する癖×日本語が得意すぎる→
- →スマートニュース×なめらかな社会とその敵×なめ敵×なめ敵会×picsy×なめら会議×異世界転生としての別コミュニティ突入×小口化×radical_markets×partial_common_ownership×salsa×gradualとpco×ステップな市場×組織の境界×top_trading_cycleアルゴリズム×dedeal×toori_mo×ルソー×人間不平等起源論×暴力が正義を作る×エコン×観察者の存在が互恵性の維持に重用×コミュニティによる生産性向上のすすめ×正義のゲーム理論的基礎×分散型エスクロー×ekyc×non-custodial×sowawa×reality.eth×foteison×達成できたら解散×老害×式年遷宮×逃げ続けるsns×unipos×nam生成×propagational_proxy_voting×decidim×polis×合意形成×citydao×誤った二項対立×aml×自転車置場の議論×エントロピー増大の法則×均衡は不況×plural_qf×ネットワーク外部性×colors.js事件×ethereum×quadratic_funding×quadratic_voting×gitcoin×plural_funding×soulbound_token×quadratic_votingはなぜ平方根を取るのか×一人一票×なめらかに共有するバーチャルな時空間×未来の自分に作業配信×メッセージ(sf)×オズマ問題×シルバー民主主義×主観主義×分割統治法×truthcoin×マージマイニング×マイクロスコープ×繋がっても距離は0ではない×ウェブサービスの提供拒否の権利×desci×松尾研×企業研究者×コールド・スプリング・ハーバー研究所×理化学研究所×財閥解体×ケンブリッジ市×市民参加型予算編組×ステーキング×全体主義×直接民主主義×splitdao×知識集権×柄谷_行人×世界史の構造×カリスマ的存在×vitalik×ナカモトサトシ×opportunities_and_risks_of_llms_for_scalable_deliberation_with_polis→
- →mintrally_ux_upgrade_sprint×官民共創hub×socialhackday×mintrally×opensea×行政の共創×行政への依存×g0v×jonthon×朝会×non-custodial×polygonscan×solidity×公明正大×block_explorer×受益者×効用×utility×poap×トークンゲート×proof_of_humanity×soulbound_token×vitalik×hardhat×pinata×dework×hackトークン×貢献トークンは感謝の可視化→
- →quadratic_voting×plural_management_protocol×サイボウズラボ勉強会×Plural Management勉強会×plural_management×quadratic_voting:_how_mechanism_design_can_radicalize_democracy×quadratic_funding×liberal_radicalism:_a_flexible_design_for_philanthropic_matching_funds×メカニズムデザイン×メカニズムデザイン勉強会×majority_judgement勉強会×一人一票が不自然×坂井_豊貴×ラディカル・マーケット×eric_a._posner×e._glen_weyl×謙虚さ×個人主義×リッカート調査×民主主義×quadratic_votingはなぜ平方根を取るのか×nash_equilbria_for_quadratic_voting×ベイジアンナッシュ均衡×一人一票×多数派の専制×アレクシ・ド・トクヴィル×彼らが最初共産主義者を攻撃したとき×マルテイン・ニーメラー×心を動かす×液体民主主義×democracy_earth×radicalxchange×join×過度の一般化×preference_voting×ranked_voting×選好順序×継続価値×発言権クレジット×qvは投票しないことに意味のあるメカニズム×vitalik×gitcoin×gov4git×pluralitybook×共有地の悲劇×慈悲深い独裁者×アジェンダ設定の権限を人々に開放する×トークンエコノミー→
- →技術革新×インポスター×アーリーアダプター×金の匂い×技術的アーリーアダプター×技術的評価×重鎮×技術の伴わない詐欺師×抑止力×技術の伴わない人×技術分野の進出パターン×詐欺師×技術的な評価を行う能力が低い人×ハイプ×技術的な実力×資金調達×市場での急速な成長×業界全体の信頼性→
- →ai_as_a_player_in_a_game×クラウドワーカー×decentralized×market-based×rlhf×アノテーションプラットフォーム×schelling_point×群衆の知恵×信頼できる中立性×エシカルデータ×ピア予測法→
- →vitalik×scarce_resource×legitimacy×the_most_important_scarse_resource_is_legitimacy❌×coordination_game→
- →chatgpt_plugin×全文検索がどこに向かうのか×まだ書かれていないことの森を切り拓いていく仕事×装置産業×ニッチ×バーベル×日記2023-03-23×日記2023-03-25×日記2022-12-14×日記2022-03-24→
- →the_subjectivity_/_exploitability_tradeoff×全会一致×ブロックチェーン×dao×フォーク×すべてのフォークは存在を許され、どのフォークに関心を持つかは周囲のコミュニティに委ねられる×統治形態×誰も強制されない×強制×vitalik×主観性と悪用可能性のトレードオフ→
- →まだ書かれていないことの森を切り拓いていく仕事×主観か客観かではなく、一人の主観から大勢の主観へ×aiによるai開発という装置産業×人間はたかだか100年程度しか稼働しない脆弱な部品×人間というタンパク質でできたコンピュータ→
- →週記2023-02-12~2023-02-21×2023-02-14_トップページの導線を整理×未踏成果報告会2022×無味乾燥なリスト×まだ書かれていないことの森を切り拓いていく仕事×日本語が得意すぎる×秘密会議2023-02-21×週記2023-02-27~2023-03-04→
- →technology_is_neutral×vitalik×若き天才が明かす「イーサリアム」を開発した理由×原稿締切×まだ書かれていないことの森を切り拓いていく仕事×最近タイムラインにchatgptの話題が減ってきた×日記2023-05-03×日記2023-05-05×日記2023-01-24×日記2022-05-04→
- →エンジニアの知的生産術×箱を上に積む×抽象化×モデル×モデル化×パターンの発見×体験に対するラベリング×発想の累積効果×集めて並べる×試行錯誤×試行錯誤は見えにくい×自分の経験×知識を提供するサービスの登場×既に書かれた知識×見えにくい試行錯誤×まだ書かれていないことの森を切り拓いていく仕事×上位の概念ほど陳腐化しにくい×pdcaと誤差逆伝搬→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]