Исследователи из Технического университета Дармштадта разработали инструмент на базе ИИ, который анализирует, оценивает и скрывает определенный контент в изображениях из больших наборов данных. ИИ уже умеет распознавать объекты на фото и видео. Теперь ученые научили его выявлять и фильтровать нежелательный контент.
Согласно статье, опубликованной на портале Tech Xplore, алгоритм использует модели взаимодействия языка и зрения, которые могут обрабатывать одновременно и изображения, и текст. ИИ адаптируется к разным требованиям, например, законодательству стран, и оценивает контент для разных возрастных групп. Инструмент не только отмечает проблемный контент, но и подробно объясняет свою оценку безопасности, указывая категории контента и причины, по которым изображение считается вредоносным.
