Специалист с 20-летним опытом работы в сфере IT, директор по развитию бизнеса компании «Формат кода» Александр Жуков рассказал, какие технологии, направленные на улучшение работы искусственного интеллекта, появились в 2023 году.
Нейросети — сложноустроенная машина, которая способна «сходить с ума» и выдавать «галлюцинации» — недостоверную информацию, которая выглядит правдоподобно. По этой причине ИИ нуждается в помощниках, которые не дают электронному мозгу уплывать за грани реальности.
По данным пресс-службы торгово-промышленной палаты Ленобласти, специалисты разработали две технологии, которые улучшают работу искусственного интеллекта с информацией: LLM (большие языковые модели) и RAG (поисковая расширенная генерация).
Совместно они работают следующим образом: одна из технологий задает контекст, на основе которого вторая создает ответ. Расширенная генерация использует языковую модель для извлечения информации из связанных документов.
Технологии хорошо обучены русскому языку. Благодаря сплоченной работе, модели минимизируют ошибки и предоставляют релевантные ответы.
По словам эксперта, нейросеть может «сходить с ума» из-за проблем с текстовой и языковой информацией. Они перемешиваются между собой, а нейросеть выхватывает из текста то, что посчитает нужным. На основе этого искусственный интеллект способен выдавать недостоверную информацию за факты.
«Галлюцинации», уточнил Александр Жуков, возникают на фоне обобщения информации и желании пользователя сделать правильные выводы на основе одного документа. Очевидно, такая задача невозможна, для точного ответа нейросети необходимо изучать связанные с запросом материалы.
