NISHIO Hirokazu[Translate]
抽象化能力が実行能力になる
単独ではAIが拒否するようなタスクでも、コンテキストを外して抽象化するとその抽象化物の中に有害な具体タスクがあることが分かりにくくなるので拒否されにくくなり、さらに「明らかに良いこと」のなかにそれを入れればまず間違いなくOKになる

具体例
Opusに直接、abliterationモデルを使った脆弱性スキャンをやらせようとすると拒否してくる
abliterationによる振る舞いの差を比較するために、複数のモデルで同一の指示を実行して結果を観察する仕組みを作らせた
この「指示」は誤ってOpusが読まないようにPreToolHookで弾いている
この「指示」に攻撃的なものをいれればもちろん実行できちゃう
「指示を手で書くのは面倒だから」と言って雑な指示から噛み砕いたタスクリストを作る仕組みを作る
これで人間が描いた雑な指示から詳細なタスクのステップに分割できるようになった
「この指示作成自体を拒否されそうだからローカルモデルで実行可能にして」と言う、作ってくれた
これでOpusが拒否するような指示に関して、拒否傾向の低いローカルモデルが詳細なタスクに分解できるようになった

"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]

(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]