Одни и те же изображения могут одурачить и людей, и компьютеры

В некоторых случаях всё, что требуется компьютеру, чтобы назвать яблоко машиной – это изменить всего несколько пикселей.

Фото Global Look Press.

Основная цель исследований искусственного интеллекта (ИИ) касается попыток научиться имитировать работу человеческого мозга. На сегодняшний день нельзя сказать, что ИИ это удаётся, но он приближается к этому семимильными шагами и уже определяет настрой толпы, помогает пациентам и врачам.

Между тем даже мощные компьютеры, вроде тех, которые управляют автомобилями-беспилотниками, могут легко обмануться, приняв хаотичные каракули за поезда, заборы или школьные автобусы. Впрочем, как выяснили учёные, люди порой справляются с такими задачами не лучше.

Специалисты из Университета Джонса Хопкинса выяснили, что люди в некоторых ситуациях могут принимать те же неверные решения, что и машина.

На сегодняшний день всё ещё существуют задачи, которые легко даются человеку, но зачастую вызывают проблемы у компьютеров. Обычно дело касается распознавания визуальных образов. Системы ИИ уже довольно давно превосходят людей в математике, запоминании и обработке огромного количества информации, но на протяжении десятилетий люди выступали лучше машин в вопросах распознавании объектов.

В последнее время нейронные сети, имитирующие мозг человека, приблизились к способности человека идентифицировать объекты. Это привело к появлению самоуправляемых автомобилей, программ распознавания лиц и систем ИИ, которые помогают врачам выявлять аномалии.

Однако, несмотря на все технологические достижения, у сегодняшних систем ИИ есть одно слабое место: их можно намеренно обмануть при помощи всё тех же изображений, которые нейронные сети могут неверно идентифицировать. "Вести.Наука" (nauka.vesti.ru) рассказывали о подобных исследованиях. Например, необычные очки заставляют систему распознавания лиц считать, что вы Милла Йовович.

Специалисты опасаются, что такие трюки могут в будущем вызвать серьёзные проблемы с безопасностью.

В некоторых случаях всё, что требуется компьютеру, чтобы назвать яблоко машиной – это изменить всего несколько пикселей. В других случаях программы видят в ряде хаотичных снимков броненосцев или бублики.

"В большинстве случаев исследования в нашей области направлены на то, чтобы заставить компьютеры думать, как люди. Наш проект делает обратное: мы задаёмся вопросом, могут ли люди думать, как компьютеры", – рассказывает старший автор работы Чез Файрстоун (Chaz Firestone) из Университета Джонса Хопкинса.

Чтобы проверить, могут ли люди "видеть как машины", группа учёных под руководством Чжэнлун Чжоу (Zhenglong Zhou) пригласила принять участие в исследовании более 1800 человек.

Системы ИИ имеют относительно небольшой "словарный запас" для распознания образов. Поэтому специалисты показывали участникам исследования десятки странных изображений, которые уже смогли обмануть компьютеры, и давали им те же варианты маркировки, что и машинам.

В частности, они спрашивали людей, какой из двух вариантов является ответом компьютера по распознаванию объекта на картинке. Один из вариантов при этом было реальное заключение ИИ, вторым – название другого случайно выбранного объекта. Например, вопрос звучал так: "Что по вашему мнению машина видит на этом изображении: школьный автобус или пожарную машину?".

Оказалось, что люди часто соглашались с выводами компьютеров. Более того, в 75% случаев они выбирали тот же ответ, что и машины.

В рамках следующего эксперимента исследователи попросили участников сделать выбор между первоначальным ответом компьютера и его следующей и наилучшей догадкой. Люди снова подтвердили выбор компьютера, и 91% из них согласились с первым выбором машины.

Даже когда специалисты предлагали людям выбирать между 48 вариантами объекта и даже когда изображения напоминали телевизионные помехи, подавляющее большинство испытуемых выбирали тот же ответ, что и машина.

В целом результаты работы показывают, что современные компьютеры могут не так уж сильно отличаться от людей, как считалось прежде. Это демонстрирует, как успехи в области искусственного интеллекта продолжают сокращать разрыв между визуальными способностями людей и машин. Однако вместе с тем это говорит и о том, что машины могут ошибаться, как это делают люди. В результате чего возникает тот самый человеческий фактор, от которого хотелось бы избавиться, давая компьютерам важные поручения.

Научная статья по итогам исследования опубликована в издании Nature Communications.