Доверие к искусственному интеллекту подвергается сомнению из-за предвзятости, вызывающей дискриминацию, например, при отказе в кредите или нехватке приглашений на интервью. Одним из способов минимизировать эту предвзятость является требование к ИИ объяснять свои решения. Однако исследования, проведенные под руководством Де-Артеага в Техасском университете, показывают, что эти объяснения могут вводить в заблуждение.
В ходе исследования анализировались 134,4 тыс. онлайн-биографий для определения профессий. Участникам были предложены два типа объяснений: одни акцентировали внимание на ключевых словах, связанных с задачей, другие — на гендерных характеристиках. Об этом сообщается в статье журнала Tech Xplore.
Результаты показали, что участники на 4,5% чаще игнорировали рекомендации, когда акцент был на поле, что указывало на недоверие к гендерной предвзятости. Целью исследования является разработка инструментов, которые помогут людям лучше взаимодействовать с ИИ, вместо создания объяснений, создающих иллюзию справедливости.
