№ 001Публикация конференцииРазбор

Beyond Fixed Depths and Widths: Optimizing Textual Decoding Tries in LLM-based Generative Recommendation (BONSAI)

BONSAI совместно строит текстовые идентификаторы и дерево допустимого декодирования. Переменная глубина и ограниченное ветвление облегчают поиск кандидатов.