Microsoft Guidance
プロンプトの最終トークンは、トークン分割の境界を表明する効果があるため、生成される文字列の分布に多くの人が期待していないバイアスをもたらす
そこでプロンプトの最終トークンをプロンプトかは取り除いて生成し、最終トークンを制約とした棄却サンプリングにする
関連
Related Pages
- →自分のscrapboxをchatgptにつないだ×サイボウズラボ勉強会×llamaindex×LangChain×embedding_api×埋め込みベクトル×コサイン類似度×aiパネルディスカッション×ブレインストーミング×toolformer×langchainのagent×オペレーティングシステム×llm_os×c言語×人間は周辺機器の一つに過ぎない→
- →週記2023-12-03~2021-12-10×LangChain×bashi×kai_harada×過去の発表資料のscrapbox化×過去の発表資料まとめ×slideshare×penglish×翻訳の質と速度のトレードオフに関する対立解消思考×喜ぶ人が一人いればやる気が出る×ポータルの有無は誤った二者択一→
- →LangChain×chain_of_thought×step-by-step(llm)×アクションプラン生成×action_plan_generation×react(llm)×self-ask→
- →llamaindex×gpt3×バルタサル・グラシアン×the_art_of_worldly_wisdom×gpt3では情報密度が逆転する×embeddingは$0.4_/_1m_token×LangChain→
"Engineer's way of creating knowledge" the English version of my book is now available on [Engineer's way of creating knowledge]
(C)NISHIO Hirokazu / Converted from [Scrapbox] at [Edit]