Проектът „noRecognition“, разработен от Бил Съринжен, демонстрира как генерирани от компютър модели могат да възпрепятстват софтуера за разпознаване на хора и превозни средства от камери за наблюдение. Първото публично изпитание на технологията се проведе на конференцията за киберсигурност „Def Con“ в Лас Вегас. В рамките на проекта, автомобил Toyota Yaris от 2009 г. беше покрит със специален модел и премина покрай камера от системата „Flock“.

Основната цел на тези шаблони не е да спрат записването на камерата, а да попречат на свързания софтуер да идентифицира правилно обектите. Въпреки че човек или кола, носещи мотива, ще се появят в кадъра, системата за разпознаване може да не ги маркира като такива. Съринжен обяснява, че проектът има за цел да даде на хората възможност „да се освободят от проследяването“, като подчертава, че „правото на личен живот е основно право“.

Съринжен е прекарал последната година в разработване и тестване на системата, като е провел около 31 милиона теста. Работата започва като малка лаборатория за надхитряне на алгоритми с отворен код, но се развива до модел за подсилване на обучението, който самостоятелно генерира и усъвършенства необходимите мотиви. Процесът е описан като „обучение на модела как да рисува“, като той тества шаблони срещу софтуер за разпознаване и се коригира при неуспех.

Моделът е създал шаблони, способни да заблудят всички 11 тествани алгоритъма за разпознаване с отворен код, включително софтуер, използван в системи като Flock, Axon и Clearview AI. Технологията попада в категорията „противоположно машинно обучение“, като използва факта, че системите за компютърно зрение не интерпретират изображенията като хората. Шаблон, който изглежда като необичаен дизайн за човек, може да накара модела за разпознаване да класифицира погрешно обект или изобщо да не го идентифицира.

Този подход се различава от физическото блокиране на камерите. „noRecognition“ не цели да скрие някого от погледа или да пречи на самата камера, а атакува софтуерния слой, който обработва видеото. Правоохранителните органи, частни компании и местни власти използват подобен софтуер за идентифициране на превозни средства, лица или за наблюдение на обществени места. Въпреки ефективността на тези системи за обработка на големи обеми видео, те са обект на критики заради грешки и неточни съвпадения.

По информация на Kaldata.