Это параметр API (например, в OpenAI), позволяющий изменить вероятность появления конкретных слов или токенов.
Через logit bias можно «запретить» токены или, наоборот, усилить вероятность нужных. Указывается как JSON-объект с токенами и значениями от −100 до +100.
📌 Примеры:
bias = −100 — исключает токен bias = +100 — практически гарантирует появление токена