Топ-100 В Оксфорде разработали методику борьбы с ИИ-галлюцинациями - Pro город будущего

В Оксфорде разработали методику борьбы с ИИ-галлюцинациями

Согласно статье, опубликованной в журнале Nature, ученые из Оксфордского университета представили методику, способную выявлять «галлюцинации» в работе крупных языковых моделей искусственного интеллекта. Исследователи сосредоточились на ситуациях, когда ИИ дает разные ответы на одни и те же вопросы, что называется конфабуляцией.

Они разработали статистический метод для оценки уверенности модели в правильности ответа, а не только в его формулировке. Эксперименты продемонстрировали, что новая методика значительно превосходит предыдущие в обнаружении ошибок ответов на разнообразных данных, включая биомедицинские вопросы и математические задачи.

В Израиле ИИ научили определять подтипы болезней

Немецкие ученые выяснили, что языковые модели не могут самостоятельно развиваться

Исследователи определили влияние искусственного интеллекта на взаимодействия внутри группы