LLMとIQ
要約: LLMのチューニングは評価者の属性によって差別化され、高IQの評価者による強化学習や倫理フィルターの有無でLLMの利用が制限される可能性がある。
>tokoroten LLM、「人間が好むようにチューニングする」ってのは、すべての人類にとって良いものであるわけではないので、どういう人が出力結果をランク付けして、強化学習をしたのかで差別化されるんじゃないかなー
>
> 「このLLMはIQ130以上の評価者によって強化学習されています」みたいなのがくるかも
>tokoroten 「IQが120以上あることを証明すると、IQ130の人の評価で強化学習をしたLLMが使えます、倫理フィルターも入っていません」
> という未来はあるかもしれない
> リミッターを外したマシンを使うためには免許が必要
>
> PCを使うのを免許制にしようというのは定番の笑い話だが、LLMでそれが起こるかもなー
関連
Related Pages
- →二次元標準正規分布×境界×組織の境界×誤った二分法×説明しやすさと思考停止×濃い薄い円の図×知識のベン図記法×知識のピラミッド記法×知識のネットワーク記法×日記2023-12-17×生のChatGPTとomniのユースケースが違う×高次元空間におけるトゲトゲ×円であるという思い込み×ひとこぶの絵は「描きやすい絵のバイアス」×ベン図を丸で表現する罠×盲点カード→
- →自分由来llm×思考加速×LLMによる知的生産性向上勉強会×chatgptと自分由来omniの比較×生のChatGPTとomniのユースケースが違う×rag×概念は思考の経済性を高める道具×氷山モデル×自分由来omniと他人由来omniの比較×自分由来×aiと人間が渾然一体×異なる視点×弁証法的発展→
- →オモイカネプロジェクト×オモイカネ勉強会×自分のscrapboxをchatgptにつないだ話勉強会×omoikane_embed×aiと人間の知的な共同作業×aiによる赤リンクの延伸×生のChatGPTとomniのユースケースが違う×非公開omniを使ってみての感想×ベクトル検索は切り出しの機会になる×ベクトル検索は認知の解像度を高める道具として機能する×azure_cognitive_search:_outperforming_vector_search_with_hybrid_retrieval_and_ranking_capabilities×検索を組み合わせる×dpr×bm25×ベクトル検索×dense_passage_retriever×fusion_in_decoder×azure_cognitive_search×hnsw×リランク×hierarchical_navigable_small_world×西尾のベクトル検索×経験的に明らか×ベクトル検索が有用だった事例×社会保障費と科学技術関係経費の比較×名詞形×実現不可能なアイデアが独創的に見える×instruction_tuning×helpfeel×omoikane_vector_search×ベクトルインデックス×github_action×qdrant×omni×aiが毎日研究ノートを書く×aiとの共同化×人間がトリガーを引かなくても良い×pioneer_mode×ページをフォークしたい×マルチヘッド×ページメモリ×マルチヘッドの思考×話題のピン留め効果×aiノートの更新間隔について×recurrent_notesとiterative_commenterの違い×赤リンク×長いタイトルを刻むページ×当たり判定拡大×🌀交換様式d×情報交換は交換×知識交換の交換様式はaなのか×贈与の対象としての公共×説明のある検索×ベクトル検索とragの肌感の違い×「どの部分がaiでどの部分が人間か？」という問い×ai生成ページのタイトルに🤖を入れるのをやめた理由×aiページの底に埋もれてる×rag×概念は思考の経済性を高める道具×氷山モデル×公共の言葉と私的な言葉×エンジニアの知的生産術×(6.2.5.5)_公共の言葉と私的な言葉×seciモデル×交換様式論×共有の場×新しい交換様式×rlhf×非公開omni×横断ベクトル検索実験メモ2023-09-20×公開omniと非公開omniの感覚の違い×自分由来×Scrapboxでの知識醸造をLLMに教える×弁証法的発展×切り分けられていない連なりの一部にヒットすることで切り出しの機会になる×時間軸で並んだ記述からトピック指向で切り出される×適切な切り出し方は、ニーズが明らかになった後に決まる×切り出し×常緑のノートはアトミックであるべき×単一責任原則×死んだテキストを置く倉庫ではない×今考えていることを少しずつ違う方向から観察する×似ている→違いは？×認知の解像度×似ている×違い×言語化×物事をより詳細に観察×小さな収束ムーブとそこからの発散×アイデアの干渉効果×発想法×対立は近い関係×scrapboxに住んでるエージェント×scrapboxとaiに関する思考の結節点2023/8/16×上書きモード×aiの支援で新しい結合ができた事例×質問は言語化を促すが質問にも種類がある×enchiへの導入×aiの役割の明確化が大事×中学生の職場体験でsfプロトタイピングをやってもらった事例×流動的プロセスとしてのページ×思索と開発のトレードオフ×苦痛×このプロジェクトにおけるaiの役割は何か×複数の個性のaiがある？×aiノートのページごとに目的を明示したらいいのでは×苦痛の原因×異なるコンテンツの間のつながり発見×自分の日記に他人のaiを召喚×aiが無限に思考を発展させてくるので休めない×他のプロジェクトのurlを読めるという気づき×たまに浮かび上がるページ×「マルチヘッドの思考」と「エンジニアの知的生産術」×まとめを上に書く×___below_is_less_interesting___を__below_is_ai_generated__にした×🌀マルチヘッドの思考×🌀ai出島×iterative_commenter×aiシャーマン×松尾研のllm講座×aiによる異なる視点の提供の実例×歌詞をaiに解釈させる実験×不明瞭で長期的なタスクをaiにねりねりさせる×pdfからscrapboxへ×ビジネスはシーズとニーズのマッチング×メタ考察:ビジネスはシーズとニーズのマッチング×市場ニーズと個人ニーズ×深層の価値探求:_連携と成長×aiにページを発展させさせる×長い寝起き神託の考察×最近のモーニングルーティン2023-09-15×人生に関する歌詞を集めて気に入ったフレーズをピックアップする×llmに似ているものの違いを言語化させる×(仮)まだ名前のない操作×scrapboxを活用した思考とコミュニケーションの再構築×「人間」の概念が曖昧→
- →妙に難解×すごいことやってそう感×権威×教科書×自信満々×検証×二種類のスピリチュアル×カーゴカルト×ファインマン×llmの民主化×オンライン教祖×メタバース祭殿×教祖ai×sf設定×百聞百見は一験にしかず×奥が深い症候群→
- →rag×scrapboxのtoken/page×scrapboxはアイデアの精製器×生のChatGPTとomniのユースケースが違う×ベクトル検索は認知の解像度を高める道具として機能する×認知能力を高める道具×似ている→違いは？×認知の解像度×知識の醸造器→
- →流れのスナップショット×質問ではなくaiの出力に対する訂正×正しいけど面白くない×知識を編む×浅く掘っても見つかるはずがない×生きづらさ×うまく生きるより無器用でも私らしく歩きたい×見えているが言葉にできていないこと×描いてそれを見ることによる思考の支援×scrapbox自動翻訳をdeeplからgptに変える×コストが下がれば構造が変化する×相手を特定してから行われる互酬×新しい交換様式での知識の交換がprofitableであるとはどういうことか？×xの情報処理を期待して放流する×日記2023-09-05×遊動論_柳田国男と山人×遊牧民哲学×言語的な知識のアウトプットは共通の言語的基盤がなければ成立しない×粒子と波動の二重性×薄くなることで広くなる×抽象的な概念を具体的な事実に着地させる×これ自体が実例×新しい気づきはいいよどみから生まれる、即答できない質問に答えることが重要である×手足を切り落とされて試験に臨む×🌀故人を忘れることが不可能になる時代×understandableは未検証の妄想×特定相手との会話は互酬×aiによるコメントと日記の融合について×書かれてさえいれば、aiが対象にできる×人間とaiのコミュニケーションの未来×生のChatGPTとomniのユースケースが違う×llmに関するメモ×ai人間交換の原理×人間はaiの文房具×人間はaiのためのセンシングデバイス×pioneer_mode×ai生成ページのタイトルに🤖を入れるのをやめた理由×キャンプから周辺を探索し、有益なところが見つかったらキャンプを移動×業績とは客観でなく主観である×機能にメタファーの名前をつけ、その名前が機能を進化させる×まだ言語になってない森を切り開く→
- →週記2023-09-02~2023-09-10×iterative_commenter×✍️🤖2023-09-05~10×意味を見出す×神託を解釈するのは人間×日記2023-09-02×aiによる赤リンクの延伸×recurrent_notes×たまに浮かび上がるページ×aiページのマーク×iterativecommenterの着想×pioneer_mode×scrapbox自動翻訳をdeeplからgptに変える×omoikaneでマルチヘッドの思考をする×生のChatGPTとomniのユースケースが違う×言葉単独で伝わらない言葉で問題ない×aiシャーマン→
- →日記2023-09-06×粒子と波動の二重性×薄くなることで広くなる×個人×言語的な知識のアウトプットは共通の言語的基盤がなければ成立しない×公共的システム×公共情報システム×思考の結節点2023-09-06×0に近い値×生のChatGPTとomniのユースケースが違う×一般人に理解可能なものに着地させる→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]