Como o gdpr afetará a indústria de ai | Ben Dickson

No que pode ser descrito como uma espécie de corrida armamentista, as empresas de tecnologia vêm acumulando grandes volumes de dados do usuário para aprimorar os algoritmos de inteligência artificial que alimentam seus aplicativos e plataformas. Até agora, eles conseguiram fugir da responsabilidade quando suas práticas os levaram a áreas legais e eticamente cinzentas.

Mas isso pode mudar em 25 de maio, quando as Regras Gerais de Proteção de Dados (GDPR) da União Europeia entrarem em vigor. O GDPR imporá restrições sem precedentes à coleta e manuseio de dados do usuário na região da UE e aplicará multas pesadas às empresas que não cumprirem.

Isso pode parecer uma má notícia para as empresas que usam algoritmos de IA, que se beneficiaram de regulamentos pouco exigentes de coleta de dados (e documentos longos, chatos e ambíguos dos termos de serviço). Alguns temem que regras mais rígidas dificultem a inovação e a implantação de inteligência artificial em muitos aplicativos e domínios. Outros acreditam que a nova diretiva criará uma base na qual os aplicativos de IA se tornarão mais confiáveis ​​e confiáveis.

Seja qual for o caso, a indústria de IA está em uma grande mudança na era do GDPR.

Propriedade e Privacidade de Dados

"O GDPR é importante para a IA, porque exige que pensemos de maneira diferente sobre como coletamos e usamos os dados", diz Tim Estes, fundador e presidente da Digital Reasoning. "Por muito tempo, as empresas de tecnologia insistiram que, para receber valor de seus produtos e serviços, você precisava renunciar aos seus dados".

Anteriormente, as empresas eram obrigadas a receber apenas um vago consentimento dos usuários para coletar todos os tipos de dados. "A IA ajudou a manter vivo o hype do big data - fornecendo mais um motivo para as empresas coletarem e extraírem todos os dados disponíveis", afirma Estes. "Muitas empresas começaram a implementar a IA para analisar seus dados apenas porque acham que deveriam - sem pensar no impacto na privacidade do usuário ou na propriedade dos dados".

A premissa mais básica do GDPR é que os dados pertencem aos usuários. Sob o GDPR, as empresas terão que revelar o escopo completo das informações que coletam, como usá-las e como protegê-las e impedir o acesso não autorizado. As novas regras forçarão as empresas de IA a serem mais meticulosas sobre os dados que coletam, em vez de se envolverem em acumular, processar e compartilhar informações de usuários.

O direito de ser esquecido

O GDPR oferece aos usuários o poder de exigir que uma empresa apague todos os dados de seus servidores. Isso não será bom para as empresas de IA, que têm um grande interesse em manter o máximo de dados do usuário possível para executar tarefas como prever tendências e comportamento do usuário.

"No final das contas, o GDPR é sobre como você coleta e gerencia os dados e não necessariamente sobre a quantidade de dados que possui", diz Maryna Burushkina, CEO da GrowthChannel. "A principal dificuldade que a maioria das empresas enfrentará não é muito a aceitação, mas sim o gerenciamento dos dados, a comunicação do uso dos dados aos usuários e a oportunidade de excluí-los".

As empresas de IA terão que tomar medidas extras para anonimizar seus dados se ainda quiserem ter acesso a esses insights. Mas outros desafios enfrentam empresas que já possuem grandes armazenamentos de dados do usuário.

"No GDPR, se uma empresa deseja apagar uma IPI específica, é necessário garantir que ela seja apagada em todos os lugares", diz Amnon Drori, CEO da Octopai. Essa pode ser uma tarefa assustadora para ser executada manualmente quando seus dados estiverem espalhados por diferentes servidores e armazenados em diferentes formatos estruturados e não estruturados.

Por exemplo, ao excluir o número do cartão de crédito de um usuário (certamente uma informação confidencial), as empresas terão que analisar todos os relatórios, bancos de dados, objetos de banco de dados e ETL onde as informações estão armazenadas. "Às vezes, vemos nomes de metadados diferentes para o mesmo item: por exemplo, 'número do cartão de crédito', 'número cc', número c de crédito ', ' número do cartão ', ' número do cartão de crédito '. A lista continua e ", diz Drori. Muitas vezes, é impossível saber para onde procurar e o processo pode levar semanas ou até meses e, como muitos processos manuais, é propenso a erros e imprecisões humanas, diz Drori.

O GDPR também aumentará o custo de erros humanos no manuseio de dados. "É por isso que muitas empresas hoje procuram uma solução automatizada para gerenciar com precisão seus metadados", diz Drori. Talvez, ironicamente, a própria IA possa ser uma solução nesse sentido. As ferramentas de gerenciamento de metadados da AI podem varrer todas as fontes de dados dentro de uma organização e consolidar os relacionamentos entre diferentes ferramentas e fontes de dados.

O direito à explicação

Uma das partes mais significativas do GDPR em relação à IA é o que se tornou conhecido como "direito à explicação". A diretiva estabelece que as empresas devem notificar os usuários sobre "a existência de tomada de decisão automatizada" e fornecer a eles "informações significativas sobre a lógica envolvida, bem como o significado e as consequências previstas desse processamento para o titular dos dados".

Isso basicamente significa que os usuários devem saber quando estão direta ou indiretamente sujeitos aos algoritmos de IA e devem poder contestar as decisões que esses algoritmos tomam e solicitar provas de como a conclusão foi obtida. Este será um dos maiores desafios que a indústria de IA enfrentará.

As redes neurais profundas, a principal tecnologia por trás dos algoritmos de IA contemporâneos, são estruturas de software complexas que criam suas próprias regras de funcionalidade, analisando grandes conjuntos de dados e encontrando correlações e padrões. À medida que as redes neurais se tornam mais complexas, seu comportamento se torna cada vez mais difícil de decompor. Muitas vezes, nem mesmo os engenheiros podem explicar as razões por trás das decisões que seus algoritmos de IA tomam.

Chamado de problema da "caixa preta", a inexplicabilidade dos algoritmos de IA tornou difícil implementá-los em decisões de tribunais, aplicação da lei, aplicativos de empréstimos e crédito, recrutamento, assistência médica e outros domínios críticos. Mas, sem qualquer influência legal, as empresas de IA tinham pouco incentivo para tornar seus algoritmos de IA mais transparentes, especialmente quando estavam intimamente ligados aos seus segredos comerciais.

Agora, o GDPR responsabilizará as empresas de IA pelas decisões que seus algoritmos tomam.

"Como parte do GDPR, as organizações são responsáveis ​​por descrever claramente o método de processamento na linguagem humana enquanto solicitam o consentimento do sujeito", diz Pascal Geenens, pesquisador de segurança da Radware. "À medida que a aprendizagem profunda evolui, e os cientistas de dados são incapazes de caracterizar uma natureza determinística por trás do raciocínio da rede neural, essa descrição pode se tornar mais complexa e difícil de explicar".

Basicamente, o GDPR é sobre tornar os humanos que processam os dados responsáveis, diz Geenens. Portanto, se você estiver usando algoritmos de aprendizado de máquina para fazer o processamento, deverá projetá-los de uma maneira que permita explicar as decisões que eles tomam em seu nome.

Algumas organizações estão tentando desenvolver tecnologias para tornar a IA mais transparente. Entre elas, destaca-se a IA Explicável da DARPA (XAI), um projeto de pesquisa que visa tornar compreensíveis as decisões baseadas na IA.

Terceirização de IA

O GDPR também afetará as organizações que disponibilizarem seus dados a terceiros. Um exemplo proeminente dessa empresa é o Facebook; no escândalo da Cambridge Analytica, a gigante das mídias sociais falhou em impedir que a empresa de mineração de dados coletasse e abusasse dos dados de 87 milhões de usuários. Mas o GDPR também terá implicações para as empresas que terceirizam suas funcionalidades de IA e disponibilizam seus dados aos fornecedores de IA.

"Enquanto muitos assumem que os provedores de IA são como outros provedores de serviços - simplesmente oferecendo sua tecnologia em troca de compensação monetária - a verdade é que os provedores de AI também firmam parcerias de negócios como uma maneira de desenvolver e aprimorar sua tecnologia", diz Estes, o chefe executivo da Digital Reasoning. Isso significa que um provedor de IA pode querer manter os dados de um cliente para treinar ainda mais seus próprios algoritmos e usá-los em outros domínios.

Por exemplo, um provedor de IA que está ajudando uma organização de assistência médica a encontrar padrões de sintomas e melhorar diagnósticos pode encontrar um conjunto de dados que aprimora seus algoritmos proprietários. A empresa de IA pode querer aproveitar os dados para melhorar seus algoritmos para outros tipos de atendimento ao paciente, para desenvolver seus recursos para ajudar outros prestadores de serviços de saúde. De acordo com o GDPR, a organização de saúde responsável pelos dados será responsabilizada por qualquer uso antiético pelo provedor de IA. Estes acreditam que a chave é que as empresas procurem provedores de IA que acreditam em possuir os algoritmos, não os dados.

"O GDPR forçará as empresas a prestar mais atenção em como e quando seus dados são usados, onde são armazenados e o que acontece depois que um projeto é concluído", diz Estes. "Isso significa trabalhar com fornecedores de IA que ajudam a definir as linhas de propriedade dos dados e implementar estratégias que protegem as informações do usuário, sem impedir as maneiras pelas quais ele pode ajudar a evoluir o sucesso dos algoritmos de IA".

O GDPR dificultará a inovação da IA?

Especialistas com quem conversamos acreditam que, embora os novos regulamentos desafiem as práticas e hábitos atuais adotados pelas empresas de IA, também os forçará a encontrar novas maneiras de inovar e também a manter o respeito pela privacidade e pelos padrões éticos.

"Com a regulamentação do GDPR entrando em vigor, todas as principais empresas de software estão tomando as medidas necessárias para não apenas garantir a conformidade, mas também inovar e pensar imediatamente para encontrar novas oportunidades no mercado", diz Burushkina, da GrowthChannel.

"A inovação não será prejudicada - mas dirigida e motivada - pelo GDPR", diz Drori, da Octopai. Enquanto isso, o GDPR também dará origem a novos negócios e tecnologias que ajudarão as organizações a alcançar e manter a conformidade com o GDPR.

Os padrões estabelecidos pelo GDPR podem, de fato, ajudar a preencher a lacuna crescente de confiança entre os provedores e usuários de serviços de IA. Estes acredita que o GDPR tornará os provedores de IA e os que implementam sua tecnologia mais responsáveis ​​por como e onde eles usam os recursos de dados e os pressionará a colocar os usuários antes dos lucros. "No final do dia", diz ele, "os provedores de IA precisam possuir apenas os algoritmos - e não os dados - para inovar seus recursos e soluções".