ИИ: События
TorchSpec: как ускорить работу больших языковых моделей без потери качества
Технический контекст • Разработка
Команда PyTorch представила TorchSpec – инструмент для обучения спекулятивного декодирования, который помогает ускорить работу больших языковых моделей.