ИИ: События
Как один токен сломал целую модель: история ошибки в vLLM
Технический контекст • Инфраструктура
Инженеры AI21 Labs обнаружили странную ошибку в vLLM, которая превращала нормальные ответы модели Jamba в бессмыслицу – и всё из-за одного некорректного токена.