decentralized market-based RLHF
>
> AIを作るためのアノテーションをクラウドワーカーによって行わせる。そのクラウドワーカーがAIであっても問題ない。（Vitalikは”decentralized market-based RLHF”と呼んでいる）
>
> そのクラウドワーカーはブロックチェーンベースのアノテーションプラットフォームで集められ、
>
> schelling point メカニズムを使うことによって、群衆の知恵を発揮し、信頼できる中立性を持ったデータを生成することができる
>
> エシカルデータ:
> 「誰がそのデータをアノテーションしたのか」を遡ることが可能
> クラウドワーカーへの賃金計算には、ピア予測法を使う。回答の貢献度に応じて支払われる。
Related Pages
- →日記2025-05-09×ブロードリスニング×非同期自立型aiエージェント×ソロプレナー×実効ダンバー数×圧縮表現×個人の生産性×認知リソースのボトルネック×audience_leverage×群衆の知恵×execution_leverage×自動化された行動×意思共有コスト×作業実行コスト→
- →なめ敵会×なめら会議×鈴木健×ikkun×なめらかな社会とその実装×ぬかどこみたいなコミュニティ×ryoar×妄想による発展×sfプロトタイピング×sowawa×sur40×マークアップ率×障壁を取り除く=なめらか化×似ている→違いは？×pinterest×雑だが有益×雑×retroactive_funding×成果が出た後で評価する方が容易×何が役に立つかよりも、何が役に立ったかについて合意する方が簡単×死んだテキスト×死んだ知財×知識はネットワークで保存される必要がある×memex×常緑のノートはアトミックであるべき×有用な概念の当たり判定を拡大する×物権法的主義×story_protocol×ルソー×人間不平等起源論×ノウアスフィアの開墾×radical_markets×molecule×lightning_labs×toshiya_tanaka×時間軸のマージ×自分などというものはない×核と膜の構造から脱する×制御という幻想×quic×tcp×udp×今はプログラミングが生まれて最初の1世紀×加速思想×断続平衡説×なめ敵×柄谷_行人×贈与の共同体×エコヴィレッジ×dedeal×メルカリ×decentralized×centralized×誰も強制されない×ネットワーク効果×内在的闘争と超出的闘争×超出的×暇と退屈の倫理学×ポスト稀少性時代×moore's_law_for_everything×solidity_house×濱田_太陽×desci_tokyo×chugai_innovation_day_2023×funding_the_commons×tkgshn×protocol_labs×innovation_commons:_the_origin_of_economic_growth×radicalxchange×glen_weyl×audrey_tang×vitalik_buterin×plurality×全体主義の起源×全体主義×ボーグ×radicalxchangeの”x”×交換様式×交換様式論×トランスクリティーク×認知の解像度×闘技民主主義×敵味方なくなると全体主義になる×闘技×民主主義には競争性が必要×集まるのが最初の一歩、一緒に居続けるのが進歩、一緒に働くのが成功×習合×貨幣論×岩井_克人×マルクスその可能性の中心×探究(柄谷_行人)×貨幣の自成と自壊×安冨_歩×恐慌論×ハーバーマス×社会システム理論×オートポイエーシス×ノウアスフィアの開墾と交換様式論×nam×lets×ハンナ・アーレント×カール・シュミット×pluralityとなめ敵には家族的類似性を感じる×家族的類似性×バタイユ×コミュニオン×貨幣は0記号×polis×Community Notes×水銀を飲んで不老不死×メカニズムデザイン×物神×モースの贈与論×ハウの精霊×ハウの呪力×情報は情報発信者に集まる×6次の隔たり×シグモイド関数×アローの定理×未踏×物価とは何か×ブログが解体されsnsとscrapboxになった×sui×aptos×libra×共創の前にまず独創×ブロードリスニング×孫正義×21世紀のイデオロギー×スピンアウト×良いものを移動させる×エンロン×sox×j-sox×未踏と日本版バイドール法×竹内_郁雄×前川_徹×産業活力再生特別措置法×日本版バイドール法×与謝野_馨×萩原_崇弘×未踏ソフトウェア創造事業×為末_大×人生100年時代の社会保障とpolitech×非目的論的ないじくり回し×境界のなめらか化×あいまい化×ファジー集合×会社境界の曖昧化×キャンプファイヤー経営×東_浩紀×観光客の哲学×nostr×自分の成果物を自分で使え×オーナーシップ×辺境×反出生主義×スイスは自殺幇助が合法×最大多数の最大幸福×幸福の合理的追求×自由からの逃走×自由意志×自我×テセウスの船×還元主義×リベットの実験×世界公務員×量子力学的ロシアンルーレット×運が良い×人間原理×メタ認知×唯識思想×十牛図入門×worldcoin×ubi×worldcoinはガバナンストークン×decentralized_id×paypayは100億円あげちゃうキャンペーンで規模を拡大した×aiとの共生×同型性の宇宙：生命から政策まで×複雑系への適応として見る「なめ敵」とplurality→
- →social_graph_provider×relational_computational_oracle×schelling_point×perverse_incentive×オモイカネプロジェクト×decartgraphy❌→
- →オモイカネプロジェクト×オモイカネ勉強会×自分のscrapboxをchatgptにつないだ話勉強会×omoikane_embed×aiと人間の知的な共同作業×aiによる赤リンクの延伸×生のchatgptとomniのユースケースが違う×非公開omniを使ってみての感想×ベクトル検索は切り出しの機会になる×ベクトル検索は認知の解像度を高める道具として機能する×azure_cognitive_search:_outperforming_vector_search_with_hybrid_retrieval_and_ranking_capabilities×検索を組み合わせる×dpr×bm25×ベクトル検索×dense_passage_retriever×fusion_in_decoder×azure_cognitive_search×hnsw×リランク×hierarchical_navigable_small_world×西尾のベクトル検索×経験的に明らか×ベクトル検索が有用だった事例×社会保障費と科学技術関係経費の比較×名詞形×実現不可能なアイデアが独創的に見える×instruction_tuning×helpfeel×omoikane_vector_search×ベクトルインデックス×github_action×qdrant×omni×aiが毎日研究ノートを書く×aiとの共同化×人間がトリガーを引かなくても良い×pioneer_mode×ページをフォークしたい×マルチヘッド×ページメモリ×マルチヘッドの思考×話題のピン留め効果×aiノートの更新間隔について×recurrent_notesとiterative_commenterの違い×赤リンク×長いタイトルを刻むページ×当たり判定拡大×🌀交換様式d×情報交換は交換×知識交換の交換様式はaなのか×贈与の対象としての公共×説明のある検索×ベクトル検索とragの肌感の違い×「どの部分がaiでどの部分が人間か？」という問い×ai生成ページのタイトルに🤖を入れるのをやめた理由×aiページの底に埋もれてる×rag×概念は思考の経済性を高める道具×氷山モデル×公共の言葉と私的な言葉×エンジニアの知的生産術×(6.2.5.5)_公共の言葉と私的な言葉×seciモデル×交換様式論×共有の場×新しい交換様式×rlhf×非公開omni×横断ベクトル検索実験メモ2023-09-20×公開omniと非公開omniの感覚の違い×自分由来×scrapboxでの知識醸造をllmに教える×弁証法的発展×切り分けられていない連なりの一部にヒットすることで切り出しの機会になる×時間軸で並んだ記述からトピック指向で切り出される×適切な切り出し方は、ニーズが明らかになった後に決まる×切り出し×常緑のノートはアトミックであるべき×単一責任原則×死んだテキストを置く倉庫ではない×今考えていることを少しずつ違う方向から観察する×似ている→違いは？×認知の解像度×似ている×違い×言語化×物事をより詳細に観察×小さな収束ムーブとそこからの発散×アイデアの干渉効果×発想法×対立は近い関係×scrapboxに住んでるエージェント×scrapboxとaiに関する思考の結節点2023/8/16×上書きモード×aiの支援で新しい結合ができた事例×質問は言語化を促すが質問にも種類がある×enchiへの導入×aiの役割の明確化が大事×中学生の職場体験でsfプロトタイピングをやってもらった事例×流動的プロセスとしてのページ×思索と開発のトレードオフ×苦痛×このプロジェクトにおけるaiの役割は何か×複数の個性のaiがある？×aiノートのページごとに目的を明示したらいいのでは×苦痛の原因×異なるコンテンツの間のつながり発見×自分の日記に他人のaiを召喚×aiが無限に思考を発展させてくるので休めない×他のプロジェクトのurlを読めるという気づき×たまに浮かび上がるページ×「マルチヘッドの思考」と「エンジニアの知的生産術」×まとめを上に書く×___below_is_less_interesting___を__below_is_ai_generated__にした×🌀マルチヘッドの思考×🌀ai出島×iterative_commenter×aiシャーマン×松尾研のllm講座×aiによる異なる視点の提供の実例×歌詞をaiに解釈させる実験×不明瞭で長期的なタスクをaiにねりねりさせる×pdfからscrapboxへ×ビジネスはシーズとニーズのマッチング×メタ考察:ビジネスはシーズとニーズのマッチング×市場ニーズと個人ニーズ×深層の価値探求:_連携と成長×aiにページを発展させさせる×長い寝起き神託の考察×最近のモーニングルーティン2023-09-15×人生に関する歌詞を集めて気に入ったフレーズをピックアップする×llmに似ているものの違いを言語化させる×(仮)まだ名前のない操作×scrapboxを活用した思考とコミュニケーションの再構築×「人間」の概念が曖昧→
- →eric_s._raymond×homesteading_the_noosphere×kojin_karatani×theory_of_exchange_modes×means_of_acquiring_social_status×command_hierarchy×central_authority×military_force×coercive_power×exchange_mode_b×exchange_economy×decentralized×exchange×voluntary_cooperation×exchange_mode_c×gift_culture×gift_culture_is_an_adaptation_to_abundance,_not_scarcity×wealth_is_not_measured_by_how_much_you_have,_but_by_how_much_you_can_give×larry_wall×exchange_mode_a×low-resolution×tangible_goods×digital_goods×cost_of_replication×new_exchange_mode×ノウアスフィアの開墾と交換様式論→
- →プロジェクトトークン発行×ポンジ×クラウドソーシング×群衆の知恵×seti@home×folding@home×recaptcha×mapillary×hivemapper×Community Notes×numer.ai×kleros×proof_of_humanity×code4rena×dbdao×relevant×ケインズ美人投票×シビル攻撃×談合×票の買収×staking×did×peer_prediction×peer_selection_mechanism×分散型オラクル×daoがaiを所持する×コミュニティがaiを所持する×コミュニティai×オモイカネプロジェクト→
- →training_language_models_to_follow_instructions_with_human_feedback×reinforcement_learning_from_human_feedback×rlhf×InstructGPT→
- →まだ書かれていないことの森を切り拓いていく仕事×"納税"としてのsemantic_annotation×aiのための作業の対価を暗号通貨にする×ピア予測法×予測市場×外れ値×ステーキング×抑止力×奥が深い×vitalik→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]