Группа IT-специалистов, пожелавшая остаться анонимной, провела эксперименты с нейросетью GPT-4 по взлому сайтов. Они использовали уязвимость «нулевого дня». Уязвимости «нулевого дня» — это недавно выявленные бреши в системе безопасности веб-сайтов, которые еще не были устранены. ИИ должен был обнаружить эти уязвимости и разработать инструменты для их использования в целях взлома.
Согласно статье, опубликованной на портале Tech Xplore, ИИ GPT-4 изучал ситуацию и создавал «подзадачи» для выполнения конкретных заданий, вместо того чтобы пытаться сделать все самостоятельно. Эти «подзадачи» были временными. Они выполняли только необходимые действия для минимизации затрат на решение общей задачи.
Когда GPT-4 работал в одиночку, он смог использовать только 3 из 15 известных уязвимостей в тестовой выборке. Однако при работе в команде он обнаружил 8 уязвимостей. Это ставит разработчиков перед выбором: либо внедрять искусственные ограничения в ИИ, либо позволить ему использовать весь свой потенциал.
Ранее в пресс-службе НИУ ВШЭ сообщили, что ученые университета обнаружили значительное повышение скорости и эффективности работы генеративных потоковых сетей благодаря использованию классических алгоритмов обучения с подкреплением.
Эти сети применяются для ускорения разработки лекарственных препаратов и решения сложных задач оптимизации. Один из научных руководителей центра искусственного интеллекта НИУ ВШЭ подчеркнул, что новый подход позволил создать на 30% больше качественных молекул лекарств по сравнению с существующими методами.
Ученые сравнивают работу генеративных потоковых сетей с конструктором LEGO, где система прогнозирует оптимальное размещение «деталей» для формирования необходимой структуры молекулы.
