Как обмануть систему распознавания лиц

В крупных городах мира имеются камеры, которые соединены с системами распознавания лиц. Благодаря им стало проще находить преступников. Тем не менее, ученые продолжают пытаться улучшить работу этих систем. Например, эксперты из Мэриленда в рамках состязательных атак придумали «невидимый свитер», благодаря которому можно спрятаться от искусственного интеллекта.

Задача ученых была — сымитировать атаку на систему распознавания лиц с помощью шаблона, затрудняющего распознавание объектов. То есть, нужно было придумать рисунок, который можно наносить на любой объект, чтобы сделать его невидимым для ИИ.

Для реализации плана ученые создали «невидимые» свитеры. Идентификаторы, присваивающие метку всему объекту было проще обмануть. В случае детекторов, дробящих изображение на части, успех был только в 50% случаев.