Не секрет, что обучение искусственного интеллекта видеть и распознавать образы и объекты происходит с помощью обширных баз данных. Они содержаться в специальных библиотеках, крупнейшая из которых - ImageNet - включает более 14 миллионов аннотированных изображений, разделенных по более чем 20 тысячам категорий.

Недавно ученые собрали еще одну группу – ImageNet-A, в которую включены фотографии, на которых "спотыкаются" даже самые совершенные алгоритмы. Как сообщают специалисты из Калифорнийского университета в Беркли в статье, опубликованной на ArXiv.Org, набор содержит около 7500 обычных снимков, при распознавании которых нейросети ошибаются в 98 случаях из 100.

Примеры ImageNet-A: черным показаны правильные ответы, красным — результаты распознавания популярными алгоритмами. Hendrycks

Как показывает эта библиотека, искусственный интеллект очень легко обмануть небольшой манипуляцией с картинкой. Однако по мере все большего распространения систем машинного зрения все большую опасность приобретают технологии нарушения их работы. Но ИИ должны научится распознавать и такие "запутанные" образы, для этого и появился новый датасет.