ロジットバイアス

ロジットバイアスとは、大規模言語モデルのAPI等において、特定のトークンが出力される確率を意図的に制御するためのパラメータ設定機能のことです。入力されたテキストに続く確率計算の段階で、指定したトークンのロジットに対して直接正や負の数値を加算することで、特定の単語の出現しやすさを強制的に調整します。これにより、モデルが生成するテキストのトーンを整えたり、特定の語彙の出力を禁止または促進したりすることが可能となります。