思考の結節点2025-04-16
from 日記2025-04-16
思考の結節点2025-04-16
抽象だけこねこね バランス 穴を開けるべき壁を見つける
from/villagepump/2025/04/16
- 月曜にミーティングをうっかりすっぽかしてしまったのが今日にリスケされた結果、今日のミーティングが4件になった
- 普段ミーティングを避け気味なのでめずらしい
- こういうことをいうと大企業の中間管理職の人から「は？毎日それ以上だが？」とか言われそう
- 一時間半にすればボルダリングも可能だが、無理して詰め込むことでもないなと思うので今日はやめておこう
- 制約の中で価値を最大化するパズルをやりたくなってしまいがち
- ソフトウェア開発のチューニングのノリ
- しかし現実の自分はそれほど安定して動いてない
- パズルの対象物が増えるほどに対象物の間の関係が増えていく
- あ、わかった、関係性と関係性の間の関係性が出てきた時に混乱するんだな
- 例えば「17時からの会議に間に合うように帰る」と「19時から会議なので夕食を買って帰る」は干渉する
- 書いて考えればわかるのに普段頭の中でやってることの延長線なのでつい頭の中で考えてしまい、キャパを超えてるので混乱して「よくわからないな」となってしまう
- AIエージェントと似てる、コンテキストが埋まってくるとだんだん頭が悪くなって混乱し始める
- AIエージェントに関しては「スレッドを変えてやり直し」が有効
- これは「覚えておかなくて良いこと」を捨てることに相当する
- 人間が頭の中だけで考えていると混乱してしまうので「書き出して考える」ことと比較すると、単にスレッドを変えただけだったら記憶を吹き飛ばしてるだけだよな
- 例えば1つ目のスレッドでA案とB案で迷って最終的にB案でやることにしたとして、そのまま実装するより「B案でやれ」をトップダウンの指示として与えた方がうまく行く
- 試行錯誤の全部のログではなく、ぎゅっと圧縮した表現に変換してるといえる
- コンテキストはどんどん増えて行く、ここが発散フェーズみたいなもの
- 方針を決めて新しく始めるところで収束がコンテキストの圧縮が行われている
- これを収束/発散ととらえるのは、1bitにしてしまう思考に思える
- 「収束」が抽象概念
- ここでは具体的に「長くなったコンテキストをそのまま継続すると性能が下がるので、短いコンテキストでやり直すこと」
- 別の文脈で「過去の複数のものがつながるのが収束」とされてた(収束ムーブ)のとは違う意味で使われている
- 今回の文脈においては複数のものをつなげなても目的が達成できる
- 例えば実装案をブレストさせて3件出てきた場合に、3つの新しいスレッドを開始することができる
- 個別のLLMをみればコンテキストは圧縮されてる
- システム全体としては思考が3並列になって、より高速に試行錯誤している
- 3つのどれを選ぶかの決定のところに「収束」みを感じる
- 「昼食を食べるためには今出ないと間に合わない！」と思ってサブウェイに来たが30分くらい余裕があったので上記思考が捗った
- これも予定の関係性の話
- 明確な時刻指定のアポがある時、早すぎることと遅すぎることの非対称性が生まれる
from 抽象だけこねこね