В последнее время в IT-сообществе активно обсуждают возможность создания сверхчеловеческого искусственного интеллекта. Несмотря на то, что ИИ уже способен побеждать сильнейших гроссмейстеров в шахматах, его превосходство остается под вопросом. Как сообщает NYTimes, именно поэтому исследователи хотят узнать, смогут ли будущие ИИ-системы претендовать на сверхчеловеческую эффективность.
Стивен Каспер, эксперт по информатике из Массачусетского технологического института, отмечает, что создание сверхэффективного искусственного интеллекта на данный момент является крайне сложной задачей, практически невыполнимой. Опубликованный анализ показывает, что современные ИИ-системы не способны противостоять состязательным атакам. То есть, используя простые методы и уловки, можно заставить ИИ использовать вредоносную информацию.
