Ученые из Саратовского университета пришли к выводу, что шум может быть полезен для обучения нейросетей. Оказывается, если специально создавать помехи во время тренировки искусственного интеллекта, в будущем он станет работать четче и устойчивее.
Специалисты работали с аппаратными нейросетями. Это не программы в компьютере, а реальные физические устройства, где все связи работают на электронике. Любая техника создает так называемые тепловые шумы, и раньше инженеры пытались от них избавиться, считая их источником ошибок.
Как шум стал помощником
В лаборатории решили пойти от обратного. Вместо того чтобы бороться с помехами, их начали специально добавлять в процесс обучения. Ученые воздействовали на нейросети белым шумом, пока те учились распознавать картинки и предсказывать сложные сигналы.
Руководитель исследования Надежда Семенова призналась, что итог стал для них полной неожиданностью. Сначала все думали, что шум будет только мешать и снижать точность. А вышло наоборот: сети, которые тренировались в условиях помех, потом показывали лучшие результаты, даже когда шумовые нагрузки менялись. Семенова объяснила, что теперь они поняли простую вещь: если хочешь защитить аппаратную сеть от шума в будущем, учить ее нужно уже зашумленной.
В пресс-службе Минобрнауки уточнили, что это не обычный прием для борьбы с переобучением, который используют программисты. Саратовские физики первыми доказали на системном уровне, что шум как физическое свойство железа можно превратить в тренировочный инструмент. В некоторых случаях нейросеть можно сделать почти полностью нечувствительной к помехам.
Зачем это нужно
Такое открытие важно для создания нового поколения устройств. Аппаратные нейросети тратят мало энергии и могут работать там, где не хватает мощности обычным компьютерам. Их можно использовать для анализа сигналов или обработки изображений в автономных системах. И если такие устройства перестанут бояться физических помех, их смелее можно будет запускать в реальную эксплуатацию, сообщает ТАСС.
Сейчас команда ученых хочет проверить свой метод на более сложных нейросетях. Исследователи уверены: если шум нельзя убрать полностью, нужно научиться извлекать из него пользу. Работа выполнена при поддержке Российского научного фонда и программы «Приоритет-2030».
