Команда ученых из Стэнфорда и экспертов NVIDIA разработала двухступенчатую систему, упрощающую применение больших языковых моделей (LLM) для выявления аномалий и управления роботами в реальном времени. Эта методика может значительно улучшить стабильность работы автоматизированных систем, включая автономные автомобили.
Работа началась после столкновения с проблемами автономных автомобилей, такими как путаница от светофоров, перевозимых грузовиками, или ошибка в интерпретации знака «Стоп» на рекламе. В отличие от других вычислительных систем, LLM могут медленно обрабатывать данные, так как создают текст, предсказывая токены по одному в авторегрессионном режиме. Исследование опубликовано на arXiv.
Для формирования логического обоснования действий робота модели-трансформеры должны предсказывать сотни или даже тысячи токенов последовательно. Это ограничение подчеркивает необходимость разработки более эффективных подходов в области управления роботами и обработки информации.
