Microsoft, WinBeta
Com a tecnologia de reconhecimento facial sendo implantada em um ritmo cada vez maior, tanto em empresas, governos e consumidores, o presidente e diretor jurídico da Microsoft, Brad Smith, apelou às empresas de tecnologia do setor para cumprirem suas responsabilidades éticas, bem como governos devem criar regulamentações, com a Microsoft acreditando que isso criará uma indústria mais saudável em um ambiente competitivo.
Discutido em Blog “On The Issues” da Microsoft , Brad Smith descreve seus pensamentos e os da Microsoft sobre o assunto de reconhecimento facial e o que precisa ser tratado.
Smith observou os aspectos positivos que os avanços na tecnologia facial podem trazer, como encontrar uma criança desaparecida ou ajudar a polícia a identificar um terrorista, ou até mesmo ajudar na vida diária usando um smartphone e aplicativo para ajudar uma pessoa cega a saber quem acabou de entrar em uma reunião quarto.
Alguns usos emergentes são positivos e potencialmente até profundos. Imagine encontrar uma criança desaparecida ao reconhecê-la enquanto ela está sendo levada pela rua. Imagine ajudar a polícia a identificar um terrorista decidido a destruir enquanto ele entra na arena onde você está participando de um evento esportivo. Imagine uma câmera e um aplicativo de smartphone que informam a uma pessoa cega o nome da pessoa que acabou de entrar em uma sala para participar de uma reunião.
A tecnologia, como acontece com a maioria das coisas, vem com suas desvantagens, e é aqui que Smith deseja que o governo e as empresas de tecnologia ajam. Alguns dos problemas que podem acontecer, e em alguns casos já estão acontecendo, incluem:
- Governos registrando por onde você anda
- Um banco de dados de pessoas que participaram de um comício político
- Lojas que compartilham informações sobre cada prateleira que você olha e os produtos que você compra, sem perguntar
Mas outras aplicações potenciais são mais sérias. Imagine um governo rastreando todos os lugares que você caminhou no mês passado sem sua permissão ou conhecimento. Imagine um banco de dados de todos que participaram de um comício político que constitui a própria essência da liberdade de expressão. Imagine as lojas de um shopping usando reconhecimento facial para compartilhar informações entre si sobre cada prateleira que você navega e os produtos que compra, sem perguntar antes. Isso tem sido assunto de ficção científica e filmes populares - como 'Minority Report', 'Enemy of the State' e até '1984' - mas agora está prestes a se tornar possível.
A empresa acredita que uma “estrutura regulatória comum” é necessária. Isso ajudará a criar uma indústria saudável, ao mesmo tempo em que garante que as responsabilidades éticas sejam cumpridas, e criará um campo de atuação equitativo pelo qual todas as empresas conheçam as regras que precisam seguir, o que, por sua vez, criaria estabilidade para a indústria. Descrevendo algumas das questões que governos e empresas precisam enfrentar, Smith diz:
- O uso do reconhecimento facial pela aplicação da lei deve estar sujeito à supervisão e controle humanos, incluindo restrições ao uso de tecnologia de reconhecimento facial sem auxílio como evidência da culpa de um indivíduo ou inocência de um crime?
- Da mesma forma, devemos garantir que haja supervisão civil e responsabilidade pelo uso de reconhecimento facial como parte das práticas governamentais de tecnologia de segurança nacional?
- Que tipo de medida legal pode prevenir o uso de reconhecimento facial para definição de perfil racial e outras violações de direitos, ao mesmo tempo que permite o uso benéfico da tecnologia?
- O uso de reconhecimento facial por autoridades públicas ou outros deve estar sujeito a níveis mínimos de desempenho em termos de precisão?
- A lei deve exigir que os varejistas publiquem avisos visíveis sobre o uso de tecnologia de reconhecimento facial em espaços públicos?
- A lei deve exigir que as empresas obtenham consentimento prévio antes de coletar imagens de indivíduos para reconhecimento facial? Em caso afirmativo, em que situações e locais isso se aplica? E qual é a forma adequada de solicitar e obter esse consentimento?
- Devemos garantir que os indivíduos tenham o direito de saber quais fotos foram coletadas e armazenadas que foram identificadas com seus nomes e rostos?
- Devemos criar processos que concedam direitos legais a indivíduos que acreditam ter sido identificados incorretamente por um sistema de reconhecimento facial?
Os problemas da Microsoft com a tecnologia de reconhecimento facial foram recentemente destacados durante o escândalo de separação de crianças imigrantes, no qual a Microsoft foi acusada de ajudar com a tecnologia de reconhecimento facial para ICE. A empresa disse que o seu contrato não inclui tecnologia de reconhecimento facial e que não tem ajudado na separação de crianças de famílias de imigrantes.
Tag Microsoft
