Microsoft detalha como executar uma ética é comprar

O presidente da Microsoft, Brad Smith, deu o passo incomum de publicar um post na sexta-feira, 13 de julho de 2018, no qual pediu ao governo que regulasse a tecnologia que sua própria empresa está desenvolvendo. Essa tecnologia é o reconhecimento facial, e Smith já vê o perigo de permitir o uso irrestrito de tal capacidade, especialmente pelos governos. Mas Smith também apontou que o uso indevido do reconhecimento facial na indústria privada pode ter conseqüências igualmente assustadoras.

Alguns dias depois, a Association for Computing Machinery (ACM) publicou em seu site o Código de Ética e Conduta Profissional da ACM, que é um novo código de conduta profissional que tem uma postura semelhante à da Microsoft, mas muito mais ampla em sua cobertura do comportamento ético nos negócios de tecnologia da informação (TI). O que os dois posts têm em comum é a ideia de manter um alto nível de responsabilidade corporativa. Isso é algo que muitos profissionais de TI tentam ignorar e deixar para as pessoas da cadeia alimentar em escala de pagamento - uma atitude que é lamentável e perigosa.

Smith, em seu blog, se preocupa com o mau uso do reconhecimento facial. Ele percebe que, mesmo em grandes campi organizados em torno da tecnologia atual, especialmente tokens de segurança como os empregados por muitos sistemas de gerenciamento de identidades, é possível acompanhar de perto onde as pessoas estão e, a partir daí, descobrir o que estão fazendo. Mas com o reconhecimento facial, é possível destacar indivíduos de qualquer multidão em qualquer lugar e não apenas rastrear seu paradeiro, mas também manter registros de onde eles foram baseados em poucos dados além de seus recursos físicos. Como aponta Smith, esse rastreamento já está ocorrendo na China. Smith está pedindo uma comissão para estudar o uso e as consequências do reconhecimento facial nos Estados Unidos.

Reconhecimento facial como uma forma confiável de identificação

Claramente, em muitos casos, o monitoramento 24x7 dos movimentos de um indivíduo é ilegal nos EUA, como evidenciado pelas recentes decisões da Suprema Corte dos EUA sobre o uso do rastreamento de localização de telefones celulares e o uso de dispositivos GPS sem um mandado. Mas isso não significa que alguma agência, em algum lugar, não tente.

Da mesma forma, não há dúvida de que o reconhecimento facial progrediu a tal ponto que pode ser usado como uma forma confiável de identificação (ID). Algumas companhias aéreas já estão testando o reconhecimento facial para passar por linhas de segurança e para uso em aviões de embarque no Aeroporto Internacional de Los Angeles (LAX). Da mesma forma, quando voltei para Washington, DC, em um vôo de Londres no mês passado, tudo o que era necessário para eu entrar nos EUA era uma visão do meu rosto por uma câmera e uma digitalização das minhas impressões digitais enquanto meu passaporte estava sendo digitalizado por um leitor.

Reconhecimento Facial: Próximos Passos

Então, a pergunta é: qual é o próximo passo? Como profissional de TI, suponha que você tenha solicitado a criar um sistema de reconhecimento facial para seu empregador que identificasse pessoas que a empresa não desejava em suas propriedades ou instalações. Talvez eles tivessem passado por um cheque sem fundos, eram suspeitos de furtos em lojas ou um funcionário que havia sido demitido.

O que você faria? Todas essas são boas razões para não permitir que uma pessoa entre em sua loja ou em sua propriedade. As chances são de que você não teria muita dificuldade em encontrar fotos delas, para que o sistema de reconhecimento possa identificá-las facilmente. Então o que vem depois?

Essa é a parte do seu processo de tomada de decisão, na qual você precisa decidir como usar o reconhecimento facial ou outros dados biométricos para esse assunto, como parte de suas políticas de segurança. Isso não é tão simples quanto sua resposta a um alerta de malware de um dos nós de proteção do nó de extremidade. Essas respostas não podem ser facilmente automatizadas. Então, você acionaria um alarme? Página do gerente da instalação? Alerta de segurança? Chame a polícia? A resposta para qualquer uma dessas opções pode ser sim, mas também pode ser não - e tomar a decisão errada pode ser um erro no final da carreira.

7 dicas para usar o reconhecimento facial com sabedoria

Aqui estão algumas dicas que podem ajudar a reduzir a chance de problemas, enquanto ainda protegem sua organização:

Poste avisos onde visitantes e funcionários os verão, informando que você está usando vídeo de vigilância e reconhecimento facial como parte de sua operação de segurança. (Seus advogados terão prazer em ajudar com o idioma real.)

Certifique-se de que há um humano no circuito antes que qualquer ação seja tomada com base em qualquer tipo de identificação biométrica. Enquanto está melhorando, o reconhecimento facial, como outras biometrias, não é 100% confiável. Antes de você agir, alguém precisa confirmar o que o sistema de reconhecimento está dizendo. (Trabalhe com seu departamento jurídico e a gerência sênior para mapear isso.)

Reconheça a limitação do seu sistema de identificação facial ou biométrico. Por exemplo, a tecnologia atual de reconhecimento facial funciona melhor com homens brancos, mas não tão bem com mulheres não brancas. Você precisa ter certeza de que não está executando inadvertidamente perfis raciais. Lembre-se da dor que aconteceu às empresas, do CVS à Starbucks, quando, intencionalmente ou não, eles fizeram exatamente isso. (Em suma, uma discussão muito boa para ter com sua equipe jurídica.)

Verifique se há um procedimento "Opa". Você terá IDs errados, portanto, certifique-se de que eles não envergonhem a pessoa ou a empresa. (Novamente, os advogados e a alta administração da sua empresa devem ser importantes aqui.)

Determine com antecedência onde você compartilhará os resultados das suas verificações de identificação. Você não pode simplesmente enviar tudo para várias autoridades governamentais. Você precisa determinar o que pode compartilhar, o que não pode compartilhar e o que exige um mandado. Em seguida, verifique se os procedimentos internos são fortes, para que seus funcionários não tentem agradar compartilhando o que não deve ser compartilhado. (Provavelmente é uma conversa mais longa com seus advogados, peça uma pizza.)

Teste continuamente seus sistemas de identificação com relação aos conjuntos de dados mais conhecidos, para que você possa tornar o reconhecimento mais preciso. (Seu fornecedor de reconhecimento facial deve ter esses conjuntos de dados disponíveis e, com o tempo, você poderá criar seus próprios.)

• Por fim, tenha cuidado com quem você deseja obter reconhecimento. Os membros do público têm fortes direitos de privacidade, e sua violação desses direitos pode custar muito à sua organização. (Adivinha o quê? Mais tempo de advogado.)

Embora sua empresa não possa controlar o que o governo decide fazer sobre o reconhecimento facial, o que provavelmente não é nada, dada a atmosfera disfuncional de Washington, DC atualmente, você pode controlar o que acontece em suas próprias instalações. De fato, você deve esperar se se encontrar na frente de um juiz. Seguir os princípios éticos da ACM de ser honesto e confiável e tomar medidas para não discriminar enquanto protege a privacidade se tornaram mais importantes do que nunca.