Исследователи из Мичиганского государственного университета предупредили о потенциальной уязвимости искусственного интеллекта в астробиологии. В ходе компьютерного эксперимента ИИ удалось обмануть, заставив его уверенно классифицировать неживые объекты как живые, сообщает gazeta.spb.ru.
Специалист по вычислительной биологии Кристоф Адами и его студент Анкит Гупта провели трехмесячный анализ на тысяче параллельных машин, используя программу Avida. Они попросили ИИ определить, какие цифровые организмы обладают свойствами жизни. Оказалось, что программы, моделирующие живую и неживую природу, имеют почти идентичный код, из-за чего граница между ними трудно различима. Эта особенность может сохраняться и для других планет, где биологические процессы способны сильно отличаться от земных.
Ученые начали с программ, представляющих случайные последовательности молекул, и стали корректировать их с целью обмана алгоритма. Изменения вносились по одному шагу, после каждого исследователи проверяли, меняет ли ИИ свое решение. Результаты показали, что примерно за 15 правок можно добиться абсолютной уверенности алгоритма в том, что он видит живой организм, тогда как на самом деле объект был неживым. Адами отметил, что в некоторых случаях уверенность ИИ достигала 100%, хотя ни один из объектов не был живым.
Кристоф Адами объяснил, что проблема заключается в обучающих данных. Если модель обучали на изображениях яблок, она успешно их распознает, но при замене на бананы возникнут трудности, поскольку они имеют другую форму и не входят в исходное распределение данных. Аналогичная ситуация возникает при поиске внеземной жизни: инопланетные микробы могут сильно отличаться от земных, и ИИ не сможет корректно их интерпретировать. Ученые пришли к выводу, что для надежного обнаружения биосигнатур необходимо разрабатывать более устойчивые модели или комбинировать их с традиционными научными методами.
