日記2023-03-26
>lexfridman Here's my conversation with Sam Altman (@sama), CEO of OpenAI, the creator of GPT-4, ChatGPT, DALL-E, Codex, and other incredible AI systems that are transforming human civilization. This conversation was truly fascinating, challenging, and eye-opening. https://youtube.com/watch?v=L_Guz73e6fw…
>
>michaelsayman dont have time to watch the whole video, so I asked GPT4 to help summarize each section. here is the first section:
>
1. The group was mocked when they first announced their plans to work on AGI.
2. OpenAl and DeepMind were formed in 2015.
3. Sam Altman is the CEO of OpenAl.
4. OpenAl developed GPT-4, JGBT, Dolly, Codex, and other Al technologies.
5. These technologies represent major breakthroughs in Al, computing, and humanity.
6. Al has the potential to transform society and empower humans.
7. The collective intelligence of humans may be surpassed by Al systems.
8. Al applications could help alleviate poverty and improve happiness.
9. The power of AGI could be dangerous if misused or mishandled.
10. Examples of negative Al impact include Orwell's "1984" and Huxley's "Brave New World."
11. Conversations on Al involve power dynamics, safety, and human alignment.
12. Al discussions address the psychology of engineers and leaders working on AGI.
13. Sam Altman has been open and willing to engage in challenging conversations.
14. The podcast aims to celebrate Al accomplishments and critically evaluate decisions.
15. The Lux Freedom podcast is the platform for these conversations.
16. Sponsors support the Lux Freedom podcast.
17. Greg Brockman, Elias S, and other experts work at OpenAl.
18. Al development involves companies, institutions, and political systems.
19. The goal is to ensure that Al is developed safely and benefits humanity.
20. GPT-4 is a powerful Al model and a major accomplishment in the field.
1. AGIに取り組むことを発表した当初は、嘲笑された。
2. OpenAlとDeepMindは2015年に結成された。
3. サム・アルトマンはOpenAlのCEOである。
4. OpenAlは、GPT-4、JGBT、Dolly、CodexなどのAl技術を開発しました。
5. これらの技術は、Al、コンピューティング、そして人類における大きなブレークスルーとなる。
6. Alは社会を変え、人間を強くする可能性を持っている。
7. 人間の集合知は、Alのシステムによって凌駕されるかもしれない。
8. Alの応用は、貧困の緩和や幸福度の向上に役立つ可能性がある。
9. AGIの力は、使い方を誤ると危険なものになる可能性がある。
11. Alに関する会話には、パワーダイナミクス、安全性、人間関係などが含まれる。
12. AGIに携わるエンジニアやリーダーの心理に関わる話である。
13. サム・アルトマンはオープンで、挑戦的な会話に積極的に取り組んでいる。
14. ポッドキャストは、アルの功績を称え、決定を批判的に評価することを目的としています。
15. ラックスフリーダムポッドキャストは、こうした会話のためのプラットフォームである。
16. スポンサーはラックスフリーダムポッドキャストをサポートしています。
17. Greg Brockman、Elias S、およびその他の専門家は、OpenAlで働いています。
18. Alの開発には、企業、制度、政治体制が関わっている。
19. Alが安全に開発され、人類に恩恵をもたらすことを目標としている。
20. GPT-4は強力なAlモデルであり、この分野では大きな成果である。
1. Early Al systems, like early computers, were slow and buggy but pointed to a promising future.
2. It's difficult to pinpoint a single pivotal moment in Al history.
3. GPT versions represent a continual exponential curve of progress.
4. ChatGPT's usability and interface made it a significant milestone.
5. Reinforcement Learning with Human Feedback (RLHF) improved Al usability.
6. Training Al models on text data helps them learn underlying representations.
7. Base models can perform well on evaluations, but might not be user-friendly.
8. RLHF aligns Al models with human preferences and desires.
9. Human feedback is collected by comparing Al-generated outputs.
10. RLHF uses relatively little data to make Al models more useful.
11. Ease of use is a critical factor in Al technology adoption.
12. The feeling of alignment between the user and the Al model is essential.
13. The science of creating large pre-trained models is more advanced than RLHF.
14. Human guidance requires less data compared to other aspects of Al development.
15. The science of human guidance is an interesting and important field.
16. Usability, wisdom, and ethics are critical components of Al development.
17. Human supervision is a key factor in making Al systems more effective.
18. Al models are initially trained on massive datasets for background knowledge.
19. Human guidance is added to improve Al models' usability and alignment.
20. Understanding how to make Al usable, wise, and ethical is crucial for the future of the technology.
1. 初期のAlシステムは、初期のコンピュータのように、遅くてバグが多かったが、有望な未来を指し示していた。
2. Alの歴史において、重要な瞬間を特定することは難しい。
3. GPTのバージョンは、継続的な指数関数的な進歩のカーブを表している。
4. ChatGPTの使い勝手とインターフェースは、重要なマイルストーンとなった。
5. 強化学習と人間フィードバック（RLHF）により、Alの使いやすさが向上した。
6. テキストデータでAlモデルを学習させることで、基礎的な表現を学習させることができる。
7. ベースモデルは、評価では良い結果を出すが、使い勝手が悪い場合がある。
8. RLHFは、Alモデルを人間の好みや願望に合わせる。
9. 人間のフィードバックは、Alが生成したアウトプットを比較することで収集される。
10. RLHFは、Alモデルをより有用にするために、比較的少ないデータを使用する。
11. 使い勝手の良さは、Al技術の採用において重要な要素である。
12. ユーザーとAlモデルとの間の整合性が重要である。
13. 大規模な事前学習済みモデルを作成する科学は、RLHFよりも進んでいる。
14. ヒューマンガイダンスは、Al開発の他の側面と比較して、より少ないデータで済む。
15. 人間指導の科学は興味深く、重要な分野である。
16. ユーザビリティ、知恵、倫理は、Alの開発において重要な要素である。
17. 人間の監督は、Alシステムをより効果的にするための重要なファクターである。
18. Alのモデルは、背景知識を得るために、最初に膨大なデータセットで学習される。
19. 人間の指導により、Alモデルの使いやすさとアライメントを向上させる。
20. Alをいかに使いやすく、賢く、倫理的にするかは、この技術の将来にとって極めて重要である。
1. The science of human guidance is essential for making Al usable, wise, and ethical.
2. The process of incorporating human feedback is crucial for Al alignment.
3. The pre-training dataset for Al models is gathered from various sources like open-source databases, partnerships, and the internet.
4. Building a great dataset requires filtering out irrelevant content.
5. Several components need to be addressed when designing Al algorithms, including architecture, neural network size, and data selection.
6. Reinforcement Learning with Human Feedback (RLHF) is a vital aspect of Al development.
7. Creating a final product like GPT-4 requires executing ideas and solving problems at every stage of the pipeline.
8. Predicting Al model behavior before full training is an essential aspect of Al development.
9. The ability to predict Al behavior is more scientific than expected.
10. The ongoing process of discovering science in Al development includes finding new explanations for data.
11. Predicting Al model behavior is comparable to predicting a child's future performance on standardized tests.
12. OpenAl and its engineers work to understand the "something" Al models learn during training.
13. Evaluation (eval) is the process of measuring an Al model's performance during and after training.
14. Open-sourcing the evaluation process is considered helpful for Al development.
15. The utility and value Al models provide to people is the most critical measure of their success.
16. Al models should help people create a better world, advance science, and develop new products and services.
17. Understanding why Al models make specific decisions is an ongoing challenge.
18. Al developers are pushing back the boundaries of knowledge in Al behavior and performance.
19. The ultimate goal of Al development is to provide value, utility, and delight to users.
20. Improving Al understanding is essential for enhancing its capabilities and aligning it with human preferences.
1. 人間の導きの科学は、Alを使いやすく、賢く、倫理的にするために不可欠である。
2. Alのアライメントには、人間のフィードバックを取り入れるプロセスが重要である。
3. Alモデルの事前学習用データセットは、オープンソースデータベース、パートナーシップ、インターネットなど様々なソースから収集される。
4. 優れたデータセットを構築するには、無関係なコンテンツをフィルタリングする必要がある。
5. Alアルゴリズムを設計する際には、アーキテクチャ、ニューラルネットワークのサイズ、データの選択など、いくつかの要素に対処する必要がある。
6. 人間のフィードバックによる強化学習（RLHF）は、Alの開発において重要な要素である。
7. GPT-4のような最終製品を作るには、パイプラインの各段階でアイデアを実行し、問題を解決する必要がある。
8. 本格的なトレーニングの前に、Alモデルの挙動を予測することは、Al開発にとって不可欠な要素である。
9. Alの挙動を予測する能力は、予想以上に科学的である。
10. Al開発における科学的発見の継続的なプロセスには、データに対する新しい説明の発見も含まれる。
11. Alのモデル行動を予測することは、標準化されたテストにおける子供の将来の成績を予測することに匹敵する。
12. OpenAlとそのエンジニアは、Alモデルがトレーニング中に学ぶ "何か "を理解することに取り組んでいます。
13. 評価（eval）とは、トレーニング中およびトレーニング後のAlモデルのパフォーマンスを測定するプロセスである。
14. 評価プロセスをオープンソース化することは、Alの開発に役立つと考えられています。
15. Alモデルが人々に提供する実用性と価値は、Alモデルの成功の最も重要な尺度である。
16. Alモデルは、人々がより良い世界を創造し、科学を発展させ、新しい製品・サービスを開発するのに役立つべきである。
17. Alモデルがなぜ特定の意思決定をするのかを理解することは、現在進行中の課題である。
18. Alの開発者は、Alの行動や性能に関する知識の境界を押し広げている。
19. Al開発の最終目標は、ユーザーに価値、有用性、喜びを提供することである。
20. Alの理解を深めることは、Alの能力を向上させ、人間の好みに合わせるために不可欠である。
1. Understanding Al systems like GPT-4 is an ongoing challenge due to their complexity.
2. Al systems are capable of compressing vast amounts of web content into a smaller set of parameters.
3. There is a difference between knowledge (facts) and wisdom, and GPT-4 can exhibit elements of both.
4. Al models might be used more as databases than reasoning engines.
5. GPT-4 can perform a certain level of reasoning, though definitions of reasoning may vary.
6. Ingesting human knowledge contributes to Al systems developing reasoning capabilities.
7. The utility of Al systems like GPT-4 can be both additive and limited, depending on their interactions with humans.
8. Al models in a dialogue format can answer follow-up questions, admit mistakes, and challenge incorrect premises.
9. People tend to anthropomorphize Al systems when interpreting their behavior.
10. Al systems may struggle with seemingly simple tasks, like counting characters or words.
11. Building Al technology in public helps shape its development and discover new capabilities and weaknesses.
12. Releasing Al models to the public allows for the collective intelligence of the outside world to contribute to improvements.
13. The iterative process of releasing, learning, and refining Al models is essential for their development.
14. Publicly releasing Al models involves balancing the trade-offs of building in public and exposing imperfect technology.
15. OpenAl aims to make mistakes while stakes are low, to learn and improve Al models before their widespread deployment.
16. Users may ask politically biased questions to test the Al system's behavior.
17. Al models may struggle to generate text of equal length when comparing different subjects.
18. Al systems may have difficulty understanding and correcting their own mistakes in real-time.
19. The architecture of Al models may contribute to their struggles with certain tasks.
20. OpenAl believes that involving the public in the development process is crucial for shaping Al technology and addressing its challenges.
1. GPT-4のようなAlシステムを理解することは、その複雑さゆえに継続的な課題である。
2. Alシステムは、膨大な量のウェブコンテンツをより小さなパラメータに圧縮することが可能である。
3. 知識（事実）と知恵は異なるが、GPT-4はその両方の要素を持つことができる。
4. Alモデルは推論エンジンというより、データベースとして使われるかもしれない。
5. GPT-4はある程度の推論を行うことができるが、推論の定義が異なる。
6. 人間の知識を取り込むことが、Alシステムの推論能力の向上に寄与する。
7. GPT-4のようなAlシステムの有用性は、人間との相互作用によって、付加的なものと制限されるものがある。
8. 対話形式のAlモデルは、フォローアップの質問に答えたり、間違いを認めたり、間違った前提に挑戦したりすることができる。
9. 人は、Alシステムの行動を解釈する際に、Alシステムを擬人化する傾向がある。
10. 文字や単語を数えるような、一見簡単そうに見える作業で苦労することがある。
11. Al技術を公開で構築することで、その開発が促進され、新しい能力や弱点が発見される。
12. Alのモデルを一般に公開することで、外部からの集合知が改善に寄与することができる。
13. 公開、学習、改良の繰り返しは、Alモデルの発展に不可欠である。
14. Alモデルの公開には、公開すること、不完全な技術を公開することのトレードオフのバランスが必要である。
15. OpenAlの目的は、失敗が少ないうちに、Alモデルを広く普及させる前に学習・改善することである。
16. ユーザーは、Alシステムの動作をテストするために、政治的に偏った質問をすることがあります。
17. Alモデルは、異なる被験者を比較する際に、同じ長さのテキストを生成するのに苦労することがある。
18. Alシステムは、自分の間違いをリアルタイムで理解し、修正することが困難な場合がある。
19. Alモデルのアーキテクチャが、特定のタスクで苦労する要因になる可能性がある。
20. OpenAlは、Al技術を形成し、その課題に対処するためには、開発プロセスに一般の人々を巻き込むことが重要だと考えています。
>michaelsayman very interesting final segment:
>
In the final segment of the conversation, Lex Fridman and Sam Altman discuss advice for young people, the meaning of life, and the impact of Al on humanity:
1. Lex asks Sam for advice for young people on how to have a fulfilling life and career, referencing Sam's blog post titled "How to Be Successful." Sam emphasizes that while his advice might be useful, he also cautions against taking advice from others too seriously. Instead, Sam encourages people to focus on what brings them joy, fulfillment, and impact.
2. The conversation shifts to the meaning of life. Sam reflects on the development of Al as a culmination of the efforts of millions of people throughout history, from the invention of the transistor to advancements in science and technology. He describes Al as the output of humanity's collective effort.
3. Lex and Sam discuss the possibility of asking AGI about the existence of other intelligent civilizations in the universe. They ponder whether humans are part of a larger exponential curve of development.
4. The conversation concludes with Sam expressing his commitment to the work being done at OpenAl, acknowledging that the challenges are tough but that they are making progress. He expresses optimism about Al's potential to solve complex problems.
5. Lex concludes the podcast by quoting Alan Turing's 1951 statement: "It seems probable that once the machine thinking method has started, it would not take long to outstrip our feeble powers... At some stage, therefore, we should have to expect the machines to take control."
6. Lex expresses gratitude to Sam and the listeners, and he ends by inviting the audience to join him for future conversations.
対談の最後には、レックス・フリードマンとサム・アルトマンが、若者へのアドバイス、人生の意味、そしてアルが人類に与える影響について語ります：
1. Lexは、Samのブログ記事 "How to Be Successful" を参考に、充実した人生とキャリアを送るための若者へのアドバイスをSamに求めます。サムは、自分のアドバイスは役に立つかもしれないが、他人からのアドバイスを真に受けすぎるのも良くないと強調する。その代わり、自分に喜びや充実感、インパクトをもたらすものに集中するよう勧めています。
2. 人生の意義に話が移る。サムは、トランジスタの発明から科学技術の進歩に至るまで、歴史上何百万人もの人々の努力の集大成としてアルが開発されたことを振り返る。そして、Alは人類の総力を結集した成果であると表現する。
3. レックスとサムは、宇宙に存在する他の知的文明の存在について、AGIに尋ねる可能性について議論する。人類はより大きな指数関数的な発展曲線の一部なのだろうかと考え込んでしまう。
4. サムは、OpenAlで行われている仕事へのコミットメントを表明し、課題は厳しいが前進していることを認めることで会話は終了した。そして、複雑な問題を解決するAlの可能性について、楽観的な見方を示しています。
5. レックスは、1951年に発表されたアラン・チューリングの言葉を引用してポッドキャストを締めくくります： 「機械による思考法が始まれば、我々の弱々しい力を凌駕するのに時間はかからないと思われる...。したがって、ある段階で、私たちは機械が制御することを期待しなければならないだろう"
6. レックスは、サムと聴衆に感謝の意を表し、今後の会話に参加するよう聴衆に呼びかけ、終了した。
>michaelsayman this part was really cool too
>
In this segment of the conversation, Lex Fridman and Sam Altman discuss future applications of AGI (Artificial General Intelligence), the impact of digital intelligence on society, and the triumphs of human civilization:
1. Lex asks Sam what conversations he is looking forward to having with a future AGI system, such as "GPT-567." Sam expresses excitement about learning from AGI about the mysteries of physics, including a theory of everything and the possibility of faster-than-light travel.
2. Lex mentions the question of intelligent alien civilizations, and Sam notes that while AGI might not know the answer, it could help design experiments or detectors to gather more information. Lex jokes about AGI revealing that aliens are already here, but Sam indicates he would continue living his life as usual.
3. The conversation shifts to how digital intelligence has influenced society. Lex wonders whether he would have expected society to be more different three years ago given the current level of digital intelligence. Sam agrees, but also notes that he would have expected society's response to the pandemic to be better and less divided.
4. Lex reflects on the confusing nature of technological advancement and social division, wondering if technology has revealed existing divisions within society. However, he expresses admiration for collaborative achievements like Wikipedia and web search engines.
5. Lex describes GPT as a potential "conglomeration" of the elements that made web search and Wikipedia great, but with the added capability of direct conversation. He finds the idea of being able to converse with a highly intelligent Al system to be incredible.
このコーナーでは、レックス・フリードマンとサム・アルトマンが、AGI（人工知能）の今後の応用、デジタルインテリジェンスが社会に与える影響、そして人類文明の勝利について語り合います：
1. LexはSamに、"GPT-567 "のような未来のAGIシステムとどんな会話をするのを楽しみにしているかと尋ねます。サムは、万物の理論や光速旅行の可能性など、物理学の謎についてAGIから学ぶことに興奮を示す。
2. レックスは、知的なエイリアン文明について言及し、サムは、AGIは答えを知らないかもしれないが、より多くの情報を収集するための実験や検出器の設計に役立つかもしれないと指摘する。レックスは、AGIがエイリアンがすでにここにいることを明らかにすると冗談を言うが、サムはいつも通り生活することを示す。
3. デジタル・インテリジェンスが社会にどのような影響を与えたかに話が移る。レックスは、現在のデジタルインテリジェンスのレベルを考えると、3年前に社会がもっと変わっていると予想できたかどうか疑問に思う。サムはそれに同意するが、パンデミックに対する社会の対応がより良く、より分断されていないと予想していただろうとも指摘する。
4. レックスは、技術の進歩と社会の分断の混乱について考え、技術が社会内の既存の分断を明らかにしたのではないかと考えています。しかし、Wikipediaやウェブ検索エンジンのような共同作業の成果には賞賛の意を表している。
5. レックスは、GPTを、ウェブ検索やウィキペディアを偉大にした要素の潜在的な「集合体」であるとし、さらに直接会話する機能を追加したものであると説明している。彼は、高度にインテリジェントなAIシステムと会話できるというアイデアを信じられないと思う。
>michaelsayman here's the 10 bullet summary
>
1. Sam Altman discusses OpenAl's commitment to building safe AGI and the importance 1 of addressing biases in Al models. He acknowledges the public's criticisms and believes transparency is key to addressing concerns.
2. The conversation explores the complexities of defining truth and misinformation, and the challenges of building Al models that can provide accurate and nuanced answers. Sam emphasizes the difficulty of achieving consensus on controversial topics.
3. Sam and Lex discuss Al's potential to make humanity's dreams come true, such as finding a theory of everything, faster-than-light travel, and detecting alien civilizations. They consider the rapid pace of technological development.
4. Lex asks Sam about the SVB (Silicon Valley Bank) collapse and its impact on startups. Sam discusses SVB's mismanagement and the importance of depositor confidence. They touch on economic instability and the fragility of the financial system.
5. They discuss anthropomorphism in Al and the question of whether Al models should be viewed as creatures or tools. Sam emphasizes the need to avoid projecting human-like qualities onto Al models.
6. Sam shares his views on giving advice to young people, urging them to be introspective and focus on joy, fulfillment, and impact. He cautions against taking advice from others too seriously.
7. Sam and Lex reflect on the collaboration between OpenAl and Microsoft, highlighting Microsoft's alignment with OpenAl's goals and the challenges of working with a large, for-profit company.
8. They discuss the meaning of life and the idea that the development of AGI is the culmination of human history and effort. Sam sees Al as the product of the collective work of millions of people.
9. Lex asks Sam what questions he would ask an AGI, and they ponder the possibility of AGI revealing the existence of other intelligent civilizations. They also discuss the potential of Al to revolutionize scientific inquiry.
10. The conversation concludes with Sam expressing his commitment to OpenAl's mission and his optimism about Al's potential to solve complex challenges. Lex ends by quoting Alan Turing's statement on machines eventually taking control.
1. サム・アルトマンは、安全なAGIを構築するためのOpenAlのコミットメントと、Alモデルのバイアスに対処することの重要性1について述べています。世間からの批判を認め、懸念に対処するためには透明性が重要だと考えています。
2. 対談では、真実と誤報の定義の複雑さと、正確でニュアンスのある答えを提供できるAlモデルを構築することの難しさを探ります。Samは、論争の的となるテーマでコンセンサスを得ることの難しさを強調しています。
3. サムとレックスは、万物の理論の発見、光速旅行、異星人文明の発見など、人類の夢を実現するためのAlの可能性について議論する。そして、技術開発の急速なスピードについて考える。
4. レックスはサムに、SVB（シリコンバレー銀行）の破綻とスタートアップへの影響について尋ねる。サムは、SVBの不始末と預金者の信頼の重要性について議論します。経済の不安定さと金融システムの脆弱性についても触れています。
5. Alの擬人化について、またAlのモデルを生き物として見るべきか、道具として見るべきかという問題について議論します。サムは、Alのモデルに人間のような性質を投影することを避ける必要性を強調する。
6. サムは、若者へのアドバイスについて、内省的になり、喜び、充実感、影響に焦点を当てるよう、自身の考えを述べる。また、他人からのアドバイスを真に受け過ぎないように注意する。
7. サムとレックスは、OpenAlとマイクロソフトのコラボレーションについて振り返り、マイクロソフトがOpenAlの目標に合致していることや、営利を目的とする大企業と協力することの難しさを強調しました。
8. 人生の意味と、AGIの開発は人類の歴史と努力の集大成であるという考えについて議論する。サムは、アルを何百万人もの人々の共同作業の成果だと考えている。
9. レックスはサムにAGIにどんな質問をするか尋ね、二人はAGIが他の知的文明の存在を明らかにする可能性について熟考する。また、Alが科学的探究に革命をもたらす可能性についても議論する。
10. サムは、OpenAlのミッションへのコミットメントを表明し、複雑な課題を解決するAlの可能性を楽観視して、この会話を締めくくります。レックスは、アラン・チューリングの「機械はやがて支配する」という言葉を引用して、話を締めくくります。
100日前 日記2022-12-16
1年前 日記2022-03-26
Related Pages
- →週記2024-08-10~2024-08-29×エフェクチュエーション×制御できていると感じるなら速度が足りない×一貫性は期待できません×x_meetup×2024-09-03北海道×inbody×2024-07-22~27スペシャル週記×小池百合子@ftctokyo×funding_deeptech_and_decentralized_science_(panel)@ftctokyo×democratization_of_ai_and_social_implementation_using_web3@ftctokyo×集中講義_大乗仏教_こうしてブッダの教えは変容した→
- →金で買えない成長物への投資×国民国家のオルタナティブ×pkomorebikagami2023-07-03×日記2023-07-02×日記2023-07-04×日記2023-03-25×日記2022-07-03→
- →賢者の逃避×世界の運命×aiの発展×社会の分断×aiの発展に伴う社会的問題×実際に起こるまで信じない×問題が発生する前に対策を実現する×理解している人だけが逃げる×American Equity×逃げる×効果的利他主義×定言命法×アトラス×たまたま余裕があるアトラスが天球を支えてる×逃げを責めるのは農耕民バイアス×逃げ続けるsns×良いものを移動させる×移動する人が定住する人をむすびつける×世界がちぎれた後×日記2023-03-27→
- →Sam Altman×World ID×proof_of_human×人間性の証明×captcha×マイナンバーカード×行政機能の永続性×Worldcoin×人間/コンピュータ識別テスト×台湾デジタル発展省が分散型idの標準化に参与×領土を必要としない国家→
- →ai_as_a_player_in_a_game×クラウドワーカー×decentralized×market-based×rlhf×アノテーションプラットフォーム×schelling_point×群衆の知恵×信頼できる中立性×エシカルデータ×ピア予測法→
- →オモイカネプロジェクト×オモイカネ勉強会×自分のscrapboxをchatgptにつないだ話勉強会×omoikane_embed×aiと人間の知的な共同作業×aiによる赤リンクの延伸×生のchatgptとomniのユースケースが違う×非公開omniを使ってみての感想×ベクトル検索は切り出しの機会になる×ベクトル検索は認知の解像度を高める道具として機能する×azure_cognitive_search:_outperforming_vector_search_with_hybrid_retrieval_and_ranking_capabilities×検索を組み合わせる×dpr×bm25×ベクトル検索×dense_passage_retriever×fusion_in_decoder×azure_cognitive_search×hnsw×リランク×hierarchical_navigable_small_world×西尾のベクトル検索×経験的に明らか×ベクトル検索が有用だった事例×社会保障費と科学技術関係経費の比較×名詞形×実現不可能なアイデアが独創的に見える×instruction_tuning×helpfeel×omoikane_vector_search×ベクトルインデックス×github_action×qdrant×omni×aiが毎日研究ノートを書く×aiとの共同化×人間がトリガーを引かなくても良い×pioneer_mode×ページをフォークしたい×マルチヘッド×ページメモリ×マルチヘッドの思考×話題のピン留め効果×aiノートの更新間隔について×recurrent_notesとiterative_commenterの違い×赤リンク×長いタイトルを刻むページ×当たり判定拡大×🌀交換様式d×情報交換は交換×知識交換の交換様式はaなのか×贈与の対象としての公共×説明のある検索×ベクトル検索とragの肌感の違い×「どの部分がaiでどの部分が人間か？」という問い×ai生成ページのタイトルに🤖を入れるのをやめた理由×aiページの底に埋もれてる×rag×概念は思考の経済性を高める道具×氷山モデル×公共の言葉と私的な言葉×エンジニアの知的生産術×(6.2.5.5)_公共の言葉と私的な言葉×seciモデル×交換様式論×共有の場×新しい交換様式×rlhf×非公開omni×横断ベクトル検索実験メモ2023-09-20×公開omniと非公開omniの感覚の違い×自分由来×scrapboxでの知識醸造をllmに教える×弁証法的発展×切り分けられていない連なりの一部にヒットすることで切り出しの機会になる×時間軸で並んだ記述からトピック指向で切り出される×適切な切り出し方は、ニーズが明らかになった後に決まる×切り出し×常緑のノートはアトミックであるべき×単一責任原則×死んだテキストを置く倉庫ではない×今考えていることを少しずつ違う方向から観察する×似ている→違いは？×認知の解像度×似ている×違い×言語化×物事をより詳細に観察×小さな収束ムーブとそこからの発散×アイデアの干渉効果×発想法×対立は近い関係×scrapboxに住んでるエージェント×scrapboxとaiに関する思考の結節点2023/8/16×上書きモード×aiの支援で新しい結合ができた事例×質問は言語化を促すが質問にも種類がある×enchiへの導入×aiの役割の明確化が大事×中学生の職場体験でsfプロトタイピングをやってもらった事例×流動的プロセスとしてのページ×思索と開発のトレードオフ×苦痛×このプロジェクトにおけるaiの役割は何か×複数の個性のaiがある？×aiノートのページごとに目的を明示したらいいのでは×苦痛の原因×異なるコンテンツの間のつながり発見×自分の日記に他人のaiを召喚×aiが無限に思考を発展させてくるので休めない×他のプロジェクトのurlを読めるという気づき×たまに浮かび上がるページ×「マルチヘッドの思考」と「エンジニアの知的生産術」×まとめを上に書く×___below_is_less_interesting___を__below_is_ai_generated__にした×🌀マルチヘッドの思考×🌀ai出島×iterative_commenter×aiシャーマン×松尾研のllm講座×aiによる異なる視点の提供の実例×歌詞をaiに解釈させる実験×不明瞭で長期的なタスクをaiにねりねりさせる×pdfからscrapboxへ×ビジネスはシーズとニーズのマッチング×メタ考察:ビジネスはシーズとニーズのマッチング×市場ニーズと個人ニーズ×深層の価値探求:_連携と成長×aiにページを発展させさせる×長い寝起き神託の考察×最近のモーニングルーティン2023-09-15×人生に関する歌詞を集めて気に入ったフレーズをピックアップする×llmに似ているものの違いを言語化させる×(仮)まだ名前のない操作×scrapboxを活用した思考とコミュニケーションの再構築×「人間」の概念が曖昧→
- →chatgpt_plugin×全文検索がどこに向かうのか×まだ書かれていないことの森を切り拓いていく仕事×装置産業×ニッチ×バーベル×日記2023-03-23×日記2023-03-25×日記2022-12-14×日記2022-03-24→
- →mario_andretti×すべてコントロールできているように思えるときは、出すべきスピードを出していないだけだ×すべてコントロールできている×出すべきスピードを出していない×コントロールできている×出すべきスピード×速度×一貫性は期待できません×有害な一貫性×前例主義×コントロールできることに力を注ぎ、コントロールできないことは気にしない×コントロール→
- →Sam Altman×i_don’t_care_what_you_think_about_me._i_don’t_think_about_you_at_all.×大衆に理解されないことは強みである×大衆を喜ばせるのは悪→
- →Sam Altman×資産課税×ムーアの法則×みんなの資本主義×成長×包摂性×労働ではなく資本に課税しよう×aiを活用する企業×American Equity×american_equity_fund×ヘンリー・ジョージ×地価税×ネットワーク効果×固定資産税×ニューディール政策×株式の形で徴税×現金は弱い資本→
- →サイボウズラボ勉強会×自分のscrapboxをchatgptにつないだ話勉強会×pluralityとpolis勉強会×plurality×polis勉強会×オモイカネプロジェクト×Worldcoin×Sam Altman×World ID×人間性の証明×decentralized_identity×分散型id×ユニバーサル・ベーシック・インカム×American Equity×gdp×Moore's Law for Everything×aiを活用する企業×労働ではなく資本に課税しよう×資産課税×ubi×sybilrank×trust_seeds×ネットワーク効果×paypay×100億円あげちゃうキャンペーン×aiへのアクセスを独占させないためのubi×熟議支援システム×openai×democratic_inputs_to_ai×意思決定×少数の人間×公共の利益×多様な視点×民主的プロセス×概念実証×チーム×よりグローバルで、より野心的なプロセスの基礎×polis×世界観共有×sfプロトタイピング×発想する会社×コラボレーション×チームワーク×ドラえもん×付喪神×プロトタイプは思考を活性化する×プロトタイプ×ブレインストーミング×社会的な調和×集団主義×誰でも知っている×常識的概念×マイノリティ×ガラパゴス概念×無意識のバイアス×改善サイクル×アジャイル×イテレーション×徐々に改善×lean_startup×build-measure-learn_loop×minimum_viable_product×コミュニティ中心のai構築×コミュニティai×community-centered_ai×日本文化ai×retrieval-augmented_text_generation×ベクトル検索×g0v×サイボウズ式×reinforcement_learning_from_human_feedback×human_in_the_loop×people_in_the_loop×違和感×協調ゲーム×connecting_the_dots×正統的周辺参加×周辺参加×状況に埋め込まれた学習×実践共同体→
- →結果が出てから評価する方が楽×bluesky×1984年×二重思考×清濁合わせ呑む×本音と建前×嘘も方便×アウフヘーベン×plural_thinking×なめ敵×個人の一貫性に対する執着×一貫性のある個人×有害なミーム×一人一票×quadratic_voting×信頼伝搬×ワードサラダ×おぼろげに文脈が見えた×実態以上に賢く見られたい人×中高生のためのchatgpt×日記2023-07-07×日記2023-07-09×日記2023-03-30×日記2022-07-08→
- →training_language_models_to_follow_instructions_with_human_feedback×reinforcement_learning_from_human_feedback×rlhf×InstructGPT→
- →日記2023-03-27×languageminorities×gpt4×languageshift×aiandlanguage×languagebarrier×languagelearning×multilingual×chatgptplus×featurerequest×samaltman×americanequityblog.samaltman.com×wealthtax×marketcap×japan×propertytax×lifethoughts×responsibility×lifelessons×agility×wisdom×forwardthinking×progress×dontlookback×ai×promptingtipshelp.openai.com×goodnight×少数民族の言語は生き残れるか？×言語マイノリティ×gpt-4は英語で使う方が賢い×言語バリア×言語学習×マルチリンガル×語学学習×チャットgptplus×フィーチャーリクエスト×サム・アルトマン×アメリカン・エクイティblog.samaltman.com×マーケットキャップ×日本×固定資産税×人生論×責任感×人生訓×アジリティ×前向きに考えよう×プロンプトのコツhelp.openai.com×グッドナイト→
- →移動する人のコミュニティがコミュニティをつなぐ×中高生のためのchatgpt×自分が最適だと思う行動を自分の責任で行うしかない×たまたま余裕があるアトラスが天球を支えてる×日記2023-03-27×日記2023-03-29×日記2022-12-18×日記2022-03-28→
- →Sam Altman×gdp×gdpの分配×社会契約×ベーシックインカム×ホームステッド法×今日の仕事から明日の仕事への移行×経済成長×自動化×株式会社×Moore's Law for Everything×財産税×資産課税→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]