Grammar-constrained decoding: заставляем LLMs выдавать валидный синтаксис на каждом токене
LLMs галлюцинируют синтаксис, потому что делают probabilistic sampling токенов. Grammar-constrained decoding фильтрует vocabulary на каждом шаге, так что эмитируются только те токены, которые сохраняют синтаксическую валидность.
