takahiroanno 人間の脳には「わかったボタン」がある。シンプルな言い切りや特定の例えなどを活用すれば、途端に脳がある物事をわかった気持ちになる。
説明可能なAIはこのわかったボタンのメカニズムをハックしてくるはず。AIが十分に賢ければ人類はそれがハックなのかそうじゃないのか判別できない
takahiroanno かといって絶望する必要もないと思う。そもそも理解した感には何の意味もないから。
理解していなくともタスクは解けるし（AI等を活用）、理解していても正しいとは限らない（陰謀論）。AIが進歩すればますます前者の割合が増えるので、理解度と現実世界の営みはますます無関係になる
takahiroanno 昔は理解していた方が現実世界を正しくモデル化できるのでよりタスクの遂行、成功確率が上がったわけだが、その関係性はどんどん弱くなる
takahiroanno 重要なのは現実世界でどれだけのタスクが解けたのか？ どれだけ成果が出たのか？ の方だと思う。これらは測定可能な部分があり、これらで理解してる感の代替はできるのではないか
takahiroanno 『理解』と『成果』のデカップリング
nishio 現実社会の99%の課題に関して人間が理解するよりAIに任せた方がよくなるのは、現時点において99%の課題に関して「人間が機械語を書くよりコンパイラが生成する方がいい」となってるのと同じだと思う反面、DeepSeekはPTXを直接いじることでインパクトを出したわけなので「残り1％」は常にありそう
2025-03-08
2025-03-10