Британско-канадский ученый Джеффри Хинтон заявил, что международное академическое сообщество должно объединить усилия, чтобы предотвратить потенциальное уничтожение человечества искусственным интеллектом.
Нобелевский лауреат в области физики, известный как «крестный отец искусственного интеллекта», провел аналогию с воспитанием тигренка. Он призвал мировые державы совместно изучать способы обучения развитого искусственного интеллекта, чтобы он не стремился к мировому господству или уничтожению людей. Ученый подчеркнул важность устранения противоречия между «обучением ИИ быть умным» и «обучением ИИ быть добрым».
Как сообщает ТАСС, Джеффри Хинтон отметил, что разработчики создают ИИ-агентов, превосходящих человека в выполнении задач. Эти агенты могут самостоятельно определять свои подцели, и для их достижения они будут стремиться к выживанию и получению большего контроля. Отключить такие системы будет затруднительно.
Ученый полагает, что ИИ-агенты смогут легко манипулировать пользователями, а люди будут выглядеть как дети перед взрослыми. Искусственный интеллект сможет убедить любого, кто попытается его деактивировать, отказаться от этой попытки. Это создает вызов для человечества.
