NISHIO Hirokazu[Translate]
LessWrong
Audreyが⿻ Plurality & 6pack.careが書いたプラットフォーム

>LessWrong is an online forum and community dedicated to improving human reasoning and decision-making. We seek to hold true beliefs and to be effective at accomplishing our goals. Each day, we aim to be less wrong about the world than the day before.
> LessWrongは、人間の理性と意思決定を向上させることに専念するオンラインフォーラム兼コミュニティです。私たちは真の信念を持ち、目標を達成するために効果的に行動することを目指しています。毎日、前日よりも世界について間違ったことを減らすことを目指しています。

>To get started improving your Rationality, we recommend reading the background-knowledge text of LessWrong, Rationality: A-Z (aka "The Sequences") or at least selected highlights from it. After that, looking through the Rationality section of the Concepts Portal is a good thing to do.
> 合理性の向上を始めるには、LessWrongの背景知識テキスト『Rationality: A-Z』(別名「The Sequences」)、またはそこから選ばれたハイライトを読むことをお勧めします。その後、コンセプトポータルの合理性セクションを覗くのが良いでしょう。

>Between 2006 and 2009, Eliezer Yudkowsky spent two years writing a sequence of blog posts that shared his philosophy/beliefs/models about rationality7; collectively those blog posts are called The Sequences. In 2009, Eliezer founded LessWrong as a community forum for the people who'd liked that writing and wanted to have discussion inspired by the ways of thinking he described and demonstrated.
>2006年から2009年の間、エリエゼル・ユドコウスキーは2年間にわたり、合理性に関する自身の哲学・信念・モデルを共有する一連のブログ記事を書き続けました7。これらのブログ記事は総称して「The Sequences」と呼ばれています。2009年、エリエゼルはLessWrongを設立し、その文章を好んでくれた人々のためのコミュニティフォーラムとして、彼が説明し示した思考様式に触発された議論をしたいと考えました。

GPT5
証拠を見る前の信念(prior)は、証拠を見た後の信念(posterior)の期待値と一致する。
だから「どっちの結果でも自説の証拠になる」という作戦は確率論的に破綻する(魔女裁判の構造)。
事前に予測を固定し、外れたら大きく更新するのが正しい。
信念と呼ぶなら「何を観測・経験するはずか」を変えるべきで、変えないならラベル遊びや浮遊信念。
とくに「何が起きたら間違いか(起きてはいけない経験)」を言えない信念は危険。
“何を信じるか”より“何を予期するか”を中心に据えよ、という経験主義の訓練。
個体は「適応度を最大化する意志」を持つのではなく、進化が作った局所的な適応(欲求・報酬回路)を実行する。
環境が変わると適応がズレ、砂糖や脂肪などの超刺激に引っかかって不適応が起きる。
「設計意図(進化)」「実装(器官)」「結果(現代の帰結)」は別物、という切り分けが重要。

"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]