International. Um sinal de papelão com um padrão colorido. Todos os pesquisadores da Faculdade de Engenharia de Tecnologia da KU Leuven precisaram enganar uma câmera inteligente. Para ser claro: Wiebe Van Ranst, Simen Thys e Toon Goedemé, do grupo de pesquisa EAVISE, não têm más intenções. Sua pesquisa visa expor as fraquezas dos sistemas inteligentes de detecção.

"Os sistemas inteligentes de detecção são baseados no reconhecimento de padrões", diz o professor Goedemé, chefe da EAVISE (Engenharia de Visão Integrada e Inteligente Artificialmente) no campus De Nayer. "Eles consistem em uma câmera e um software para interpretar as imagens automaticamente. Se você treina esses sistemas com imagens de pessoas diferentes por um tempo, eles aprendem a reconhecer as pessoas e distingui-las dos objetos. Embora diferamos em altura, cor de cabelo ou rosto, o algoritmo nos identifica como seres humanos ".

"Isso torna os sistemas inteligentes de detecção muito adequados para fins de segurança. Eles automaticamente dão um sinal assim que as câmeras detectam um intruso, mesmo quando essa pessoa tenta se esconder. No passado, você precisava de guardas de segurança para isso, e eles ficavam observando as telas por horas e horas. Um trabalho tedioso que está se tornando uma coisa do passado ".

- Publicidade -

Milhões de parâmetros
No entanto, os sistemas inteligentes de detecção não são infalíveis. Às vezes, eles têm dificuldade em detectar certos padrões. Pesquisadores de todo o mundo estão tentando expor o calcanhar de Aquiles dos sistemas de detecção. Pequenas mudanças são suficientes para fazer isso. Óculos falsos feitos de papelão, por exemplo, são suficientes para confundir um sistema de reconhecimento facial.

O professor Goedemé e sua equipe levaram as coisas um passo adiante. O aluno de mestrado Simen Thys e o pós-doutorado Wiebe Van Ranst conseguiram enganar o YOLO, um dos algoritmos mais populares para detectar objetos e pessoas.

Os pesquisadores levantaram um pôster de papelão de 40 por 40 cm, com uma estampa colorida, na frente de seu corpo. Isso foi o suficiente para enganar a YOLO: carregar o sinal faz com que você fique invisível ao sistema.
Muito notável, de acordo com o professor Goedemé: "Em testes anteriores, as pessoas usavam uma camiseta com a imagem de um pássaro. O algoritmo não reconheceu uma pessoa, mas detectou um pássaro. Nosso padrão, que foi projetado usando inteligência artificial, torna as pessoas invisíveis. Se você carrega o sinal, o sistema não detecta você, nem como ser humano nem como objeto. Notável, e não sabemos exatamente porque esse padrão em particular pode enganar o YOLO. Afinal, os algoritmos baseados em redes neurais usam milhões de parâmetros. Para os pesquisadores, isso ainda é uma caixa preta ".

Corrida armamentista
Os pesquisadores estão entusiasmados, mas são rápidos em alertar sobre outras falhas de segurança.
"Para onde ir a partir daqui É fácil: .. encontrar um ponto fraco, e agora precisa ser reparado Neste caso, você pode ensinar o algoritmo YOLO pessoas segurando um sinal com este padrão particular também são seres humanos isso não é difícil fazer no entanto, é seguro assumir que YOLO também tem outras fraquezas podemos sempre corrigir todas as falhas de segurança eu não acho que o que eu mencionei ..?. tal algoritmo é uma caixa preta Este é o começo de um. corrida armamentista ".

"Não esperávamos esse tipo de exagero, mas vemos por que o aplicativo agrada à imaginação, a idéia de que você pode se tornar invisível para câmeras de segurança usando nada além de um pôster colorido é intrigante."

Vídeo

fonte: KU Leuven.

Autor: Duvan Chaverra

OUTRAS NOTÍCIAS

article thumbnailInternational. Segundo um novo relatório de pesquisa, o mercado de inteligência artificial deverá ser avaliado em US $ 21.5 bilhões em 2018 e é ...
article thumbnailInternational. A Genetec foi reconhecida como a principal fornecedora mundial de sistemas de gerenciamento de vídeo (VMS), de acordo com ...
article thumbnailInternational. A Milestone anunciou recentemente que alcançou o número notável de parceiros certificados pela 10.000 em seu portal de aprendizado ....
article thumbnailInternational. A fim de melhor alinhar ambas as disciplinas e otimizar os desenvolvimentos tecnológicos futuros na resiliência cibernética, a eficiência ...
article thumbnailColômbia. Um grupo de mulheres assumiu a tarefa de reunir espaços de aprendizagem e iniciar uma iniciativa de liderança que permitiria ...
article thumbnailInternational. A Avigilon Corporation anunciou que fará uma apresentação de sua próxima câmera térmica de alta resolução H4 na Exposição e ...
article thumbnailInternational. As soluções de videovigilância térmica são uma inovação que está causando uma tendência devido às vantagens que oferecem aos usuários, ...
article thumbnailInternational. O SoftGuard permite estabelecer excelentes integrações para simplificar a comunicação entre o hardware e a recepção de eventos, ...
article thumbnailColômbia. CyberAcademy, da Gamma Ingenieros, é um conjunto de serviços que oferece uma plataforma educacional de acesso virtual (e-learning), que tem como ...
article thumbnailEstados Unidos. Missão 500, uma organização de caridade sem fins lucrativos que se concentra no setor de segurança e se dedica a servir o ...