Человеческий разум несовершенен, он подвержен разного рода стереотипам и предрассудкам, в то время как искусственный интеллект (ИИ) - это бесстрастность и холодная логика. Однако как показало исследование специалистов по психологии и информационным технологиям из Кардиффского университета и Массачусетского технологического института вера в безошибочность машинного разума - это предубеждение.

В работе, опубликованной в журнале Scientific Reports, ученые доказывают, что ИИ совершенно самостоятельно формирует у себя предрассудки и стереотипное мышление и действует руководствуясь ими.

Специалисты описывают модель из свободных виртуальных агентов, в которой ботов заставили играть в благотворительную игру. Каждый индивид должен был принимать решение, помочь ли кому-то из своей группы или из другой, в зависимости от репутации того бота, а также собственной стратегии, включающей в себя их уровни предубеждений по отношению к посторонним.

Было установлено, что после тысяч взаимодействий между агентами возникали группы с устойчивым предвзятым отношением к другим группам. Ученые сделали вывод, что формирование предубеждений — это общая закономерность, которая действует и в случае с искусственным интеллектом.

"Наши симуляции показывают, что предубеждение — это мощная сила природы, и посредством эволюции ее можно простимулировать в виртуальных группах, чтобы навредить более широкой связи с другими. Защита от предвзятых групп может ненароком привести к формированию других предвзятых групп, провоцируя большее разделение населения. Такое широкое распространение предубеждений трудно повернуть вспять", - говорит соавтор исследования профессор Роджер Уитакер из Института исследований преступности и безопасности и Школы компьютерных наук и информатики Кардиффского университета.

При этом специалисты отметили, что ИИ быстро повышает уровень предубеждений, если видит успешные краткосрочные результаты у других, не прогнозируя вероятный вред от своих предрассудков в перспективе. Вполне по-человечески, не правда ли?