CIA usou imagem de peregrinos do Hajj para mostrar capacidades de vigilância e IA

A CIA usou uma foto de peregrinos participando do Hajj para ilustrar as capacidades potenciais de novas tecnologias de vigilância e inteligência artificial, o Middle East Eye pode revelar.

Organizações de direitos digitais e da sociedade civil muçulmana disseram que o uso da foto destacou sérias preocupações sobre ferramentas de rápido desenvolvimento, como software de reconhecimento facial, e fazia parte de um padrão de islamofobia nas agências de inteligência e aplicação da lei, nas quais os muçulmanos eram retratados como uma ameaça.

A imagem apareceu em uma apresentação de um alto funcionário do Diretório de Inovação Digital da CIA sobre como a mudança da agência de espionagem para tecnologias baseadas em nuvem estava transformando suas capacidades de coleta de informações.

Falando em uma conferência do setor público organizada pela Amazon Web Services (AWS) em 2018, Sean Roche disse: “A era da inteligência expedicionária significa ir a lugares muito hostis muito rapidamente para resolver problemas muito difíceis”.

Ele disse que pequenas equipes de programadores, cientistas de dados e analistas “codificando em campo” forneceram “capacidades incríveis no caso de encontrar pessoas de quem gostamos”.

“Saber quem eles são, o que estão fazendo, suas intenções, onde estão”, disse Roche, então vice-diretor adjunto da CIA para inovação digital.

A apresentação então mostrou uma fotografia de peregrinos reunidos em um recinto externo do Masjid al-Haram de Meca, o lugar mais sagrado do Islã e o local da Caaba.

A foto parece ser uma imagem de um site de fotografia tirada durante o Hajj em janeiro de 2017. Mas a imagem foi editada com um círculo amarelo adicionado para destacar o rosto de um homem na multidão.

Alvos de fato

O MEE não identificou o homem. Não há nenhuma sugestão de que ele seja um assunto de interesse da CIA.

O MEE perguntou à CIA se ela tinha capacidade para implantar tecnologias de vigilância para monitorar as pessoas que frequentavam o Hajj e se o faria durante a peregrinação deste ano, que começa na segunda-feira. Mas a CIA não respondeu às perguntas do MEE.

Mas o uso da imagem gerou preocupação entre organizações de defesa muçulmanas e especialistas jurídicos em tecnologias de vigilância. 

‘Os muçulmanos não devem ser usados ​​como o exemplo de fato de como a tecnologia do governo pode ser implantada’

-Edward Mitchell, CAIR

Edward Mitchell, vice-diretor nacional do Conselho de Relações Americano-Islâmicas (CAIR), disse ao MEE que há uma longa história de muçulmanos sendo retratados como uma ameaça em materiais de treinamento e apresentações do governo.

“Os muçulmanos não devem ser usados ​​como exemplo de fato de como a tecnologia do governo pode ser implantada. Isso é especialmente verdadeiro para os muçulmanos que praticam a adoração durante a peregrinação do Hajj”, disse Mitchell.

Ashley Gorski, advogada sênior do Projeto de Segurança Nacional da American Civil Liberties Union, disse ao MEE: “A tecnologia de reconhecimento facial representa graves riscos à privacidade e às liberdades civis. As pessoas têm o direito de orar e adorar livremente, sem medo de serem rastreadas pelo governo.

“Este é mais um exemplo de como as agências de inteligência dos EUA promovem ferramentas de vigilância como forma de monitorar e controlar comunidades religiosas, mesmo no exterior.”

Aprendizado de máquina

Roche passou a descrever como a agência estava implantando inteligência artificial para coletar e processar dados.

“Estamos fazendo aprendizado de máquina para quê? Nosso trabalho são humanos”, disse Roche.

“Portanto, estamos pegando os bancos de dados que existem sobre você. Os dados que já estão lá. Os dados estruturados e não estruturados, alguns dados que estão sendo criados e agregando esses dados muito rapidamente no ambiente de nuvem para criar uma assinatura digital, para entender nosso eu digital.”

A apresentação da Roche no AWS Public Sector Summit aconteceu depois que a CIA assinou um contrato de US$ 600 milhões para serviços de computação em nuvem com a gigante da tecnologia em 2014.

Apresentando a Roche, Teresa Carlson, então executiva sênior da AWS, disse que falaria sobre como a empresa havia “autorizado a CIA a manter sua postura de segurança e aumentar o ritmo da inovação para ficar sempre um passo à frente do inimigo”.

Roche deixou a CIA em 2019 e agora é diretor de segurança nacional da AWS. Um porta-voz da AWS se recusou a comentar.

Jumana Musa, diretor do Centro da Quarta Emenda da Associação Nacional de Advogados de Defesa Criminal (NACDL), que assessora advogados em casos envolvendo novas ferramentas de vigilância, disse que a apresentação destacou questões sobre como a tecnologia estava sendo usada além das fronteiras dos EUA, onde as proteções constitucionais não aplicar.

“Historicamente, o governo dos EUA tem definitivamente um conjunto diferente de padrões quando se considera fora dos EUA coletando informações de inteligência em vez de evidências para um processo. E as regras são muito mais flexíveis”, disse Musa ao MEE.

Reconhecimento facial

Clare Garvie, uma advogada de privacidade que trabalha na NACDL, com foco em tecnologia de reconhecimento facial, disse: “Não é apenas um negócio comum poder escanear uma multidão de cem mil pessoas ou mais e fingir ser capaz de identificar quem eles são. são.

‘Não é surpreendente que a CIA certamente veja um apelo nesse mecanismo de vigilância extremamente poderoso’

– Clare Garvie, advogada de privacidade

“Não é surpreendente que a CIA certamente veja um apelo nesse mecanismo de vigilância extremamente poderoso.”

Abordando os perigos potenciais da tecnologia de IA, Roche disse: “Algumas pessoas estão preocupadas com a IA. Não seja.

Citando o futurista alemão Gerd Leonhard, ele disse: “O florescimento humano deve continuar sendo o objetivo central de todo progresso tecnológico. Futurismo humanista. As máquinas não vão assumir o controle.”

No mês passado, dezenas de especialistas em IA assinaram uma declaração pública alertando que a tecnologia em rápido desenvolvimento representava uma ameaça existencial para a humanidade.

Os riscos destacados pelo Center for AI Safety, que publicou a declaração, incluíam o armamento e o uso da tecnologia para “impor valores estreitos por meio de vigilância generalizada e censura opressiva”.

Outros especialistas em IA disseram que as preocupações com a tecnologia são exageradas.

João Marcelo de Assis Peres

joao.marcelo@guiadocftv.com.br

GuiadoCFTV

Avalie esta notícia, mande seus comentários e sugestões. Encontrou alguma informação incorreta ou algum erro no texto?

Importante: ‘Todos os Conteúdos divulgados decorrem de informações provenientes das fontes aqui indicadas, jamais caberá ao Guia do CFTV qualquer responsabilidade pelo seu conteúdo, veracidade e exatidão. Tudo que é divulgado é de exclusiva responsabilidade do autor e ou fonte redatora.’

Quer enviar suas notícias? Envie um e-mail para noticias@guiadocftv.com.br