Нейросеть научилась определять вредоносные запросы пользователей

Ученые разработали систему защиты для искусственного интеллекта, который генерирует изображения по тексту. Эта разработка помогает выявлять опасные или неэтичные запросы пользователей.

В статье, опубликованной изданием Tech Xplore, сказано, что система обучена анализировать текстовые запросы и выявлять в них вредные концепции, даже если они переформулированы. Она действует как дополнительный фильтр, который предотвращает создание нежелательных изображений с помощью нейросети.

Владимир Путин поддержал проект молодого петербуржца по искусственному интеллекту

OpenAI и Microsoft создадут суперкомпьютер с нейросетью за $100 млрд

В Москве суперкомпьютер приступил к выполнению задумок