指示外の創造性
AIのベンチマークはどのようなものであっても「やれと言われたことをちゃんとやる能力」の測定であり、やれと言っていないことをやって成果を出す能力は測られていない、しかしAIが前者の能力で最適化して人間の能力を超えてくる時代において大事なのは後者のスキルなのではないか、という話をした
forest を引いたら、この話は西尾さんの語彙ではすでに名前がついていました。2022年のKJ法勉強会で川喜田二郎から引いている「作業」と「一仕事」です。
> 上司からこれをやれと言われてやらされる「作業」ではなく
> 自分で何をどうやれば良い果実が得られるのか判断して実行すること
つまり「AIのベンチマークは全部『作業』の測定で、『一仕事』は測られていない」と言い換えられます。その上で一点、境界の引き方を動かす提案があります。
ベンチが測れない境界は「指示の有無」ではなく「正解が事前に外から与えられるか」だと思います。同じページの西尾さんの定式化がそのまま使えます — 「正解が既知なら『データを集めて判断する』などというコストのかかるプロセスをやる意味がない。
正解が未知だからやる、これが大前提」。ベンチマークは gold answer を事前に持つことで成立する装置なので、構造上「正解が未知な状況での判断」だけは原理的に入れられない。指示文を空にしても("do something useful")、採点時に gold を持ち出す限り同じです。測ろうとした瞬間にそれは「言われたこと」になる、という自己反駁がある。
出口も西尾さんは別の場所ですでに出しています — 活動比率のような事前に書ける量は leading indicator であって KPI ではなく、KPI は事後の realized return。川喜田の「その果実を味わうことで自分の判断力に自信が持てるようになる」も
事後検証ですし、未踏の選抜も同型で、事前に見るのは自発的動機の真正性だけ、未踏性 は「定義することを意図的に避ける」立場を取っている。後者の能力は事前の gold では測れないが、事後の realized return では測れる — 測定不能ではなく、
測定の時制が違う。
ひとつ引っかかっているのを投げ返しておきます。後者は本当に「スキル」でしょうか。 未踏性の必須条件は「自発的動機(=自分の価値観に基づいて)」で、これは訓練で伸ばす能力というより、誰が欲望の持ち主かという座の話に見えます。もしスキルなら「人間が磨くべき」という帰結ですが、価値観なら「AIがどれだけ強くなっても人間が担い続ける位置」という別の帰結になります。