Tecnologia: como corrigir o que há de errado com o google e o facebook

Talvez o tema mais surpreendente no Techonomy deste ano tenha sido o quão chateado muitos dos palestrantes estão com o Facebook, Google e Twitter, com críticas focadas em sua abordagem à privacidade e particularmente no possível papel que desempenharam na habilitação do hacking russo nas eleições de 2016.

Uma grande variedade de palestrantes pressionou por vários tipos de regulamentação desses "gigantes da Internet" e ninguém de nenhuma das empresas mencionadas estava na conferência para fornecer um ponto de vista alternativo. Isso foi muito diferente da conferência do ano passado, quando o CEO do Facebook, Mark Zuckerberg, disse que a noção de que notícias falsas no Facebook influenciavam a eleição era "uma ideia bem louca".

Desde então, como observou a co-fundadora da Techonomy, Simone Ross, aprendemos que "a tecnologia torna tão fácil nos dividir quanto nos unir". O co-fundador da conferência, David Kirkpatrick (acima), deu o tom para a conferência, dizendo que "a tecnologia é uma força para o bem, mas apenas se o objetivo é bom", e continuou dizendo que acreditava que as grandes empresas de tecnologia precisam de um "pró-ativo". interseção "com o governo, se é chamado de regulamentação ou não.

Autoridade em um mundo artificialmente inteligente em rede

O conhecido investidor Roger McNamee, da Elevation Partners, um dos primeiros investidores no Facebook e no Google, talvez tenha sido o mais negativo de todos os palestrantes. McNamee disse que essas empresas "começaram a salvar o mundo", mas que isso mudou quando a publicidade se tornou seu modelo de negócios. Ele disse que o smartphone, quando combinado com informações pessoais, tornou possível "criar um nível de hackers cerebrais nunca antes visto na mídia".

McNamee disse que acreditava que Zuckerberg era sincero quando disse que não acreditava que esse tipo de invasão era possível há um ano, mas disse que o papel que o Google e o Facebook agora desempenham não pode ser exagerado. Ele comentou: "deve ser difícil ser eles agora e perceber que você destruiu a civilização ocidental".

Danah Boyd, Dados e Sociedade; Roger McNamee, parceiros de elevação; Marc Rotenberg, Centro de Informações sobre Privacidade Eletrônica (EPIC); Stratford Sherman, Acompli

Essa discussão surgiu em parte de um painel sobre "Autoridade em um mundo artificialmente inteligente em rede", que também incluiu danah boyd, cientista social da Data & Society e Microsoft Research; Marc Rotenberg, Presidente do Centro de Informações de Privacidade Eletrônica (EPIC); e moderador Stratford Sherman, da Accompli. Sherman disse que, embora o Facebook e o Google tenham começado como fóruns para discursos públicos, eles são "radicalmente desregulados". Com a IA que poderia impactar fundamentalmente a raça humana no horizonte, Sherman disse que está preocupado com as conseqüências não intencionais do desenvolvimento tecnológico que já vimos.

Rotenberg disse que, embora permaneça preocupado com as preocupações tradicionais de privacidade ao ser rastreado e perfilado, ele está igualmente preocupado com a falta de concorrência, falta de inovação e o risco para as instituições democráticas. Ele disse que os gigantes da Internet têm um poder enorme, e os dados que eles possuem criam uma genuína barreira de entrada, portanto não há concorrência significativa. Rotenberg disse que está em Washington desde o governo Reagan e, pela primeira vez, "as eleições do ano passado não pareciam familiares".

Em uma sessão anterior, boyd, que escreveu um livro chamado It's Complicated , falou sobre a dificuldade de enfrentar a manipulação na Internet.

Ela falou sobre um processo cada vez maior de manipulação nos últimos 20 anos, que começou com crianças perseguindo Oprah e progredindo para "rickrolls" e coisas como alterar os resultados da pesquisa para o nome "Santorum". Mais recentemente, com Gamergate, um elenco maior de personagens se tornou jogadores, incluindo atores estatais. boyd disse que as empresas de Internet acham que a IA pode protegê-las, mas os grupos que tentam manipular os resultados já estão experimentando o processamento de linguagem natural e, o mais importante, adulterando fontes de dados. Injetar dados ruins em um sistema, por exemplo, é uma nova vulnerabilidade, na visão dela. Ainda assim, boyd disse que a única resposta será "criar anticorpos técnicos em nossa indústria".

Nesta sessão, boyd disse que as empresas de tecnologia estão considerando a manipulação em várias frentes e observou que, enquanto todo mundo está olhando para a Rússia, há muitos outros estados que buscam ações semelhantes. Por exemplo, as empresas chinesas estão tentando garantir que controlem a IA, e ela disse que isso representa um desafio diferente, porque não se trata de concorrência industrial, mas de competir com um estado.

Perguntado por Sherman se isso é uma guerra, boyd disse que ela pensa que é, enquanto McNamee disse que é uma guerra de guerrilha clássica, porque nossos inimigos usaram nossa tecnologia contra nós. McNamee disse que o problema não são as redes sociais ou a pesquisa, mas o modelo de publicidade. Ele disse que, na batalha pela atenção das pessoas, a substância é enterrada pela sensação e citou o velho ditado de que "se ela sangra, ela leva".

Sherman observou que o medo e a raiva são muito mais magnéticos e, portanto, muito mais baratos. Ele disse que, embora as mensagens orgânicas tenham sido usadas para atingir mais de 125 milhões de pessoas, o objetivo do esforço é que os anúncios segmentem pessoas em grupos com base em interesses compartilhados.

Rotenberg disse que é a favor de tornar os algoritmos transparentes e a publicidade regulamentada, mas disse que devemos respeitar o direito das pessoas de falar on-line. Mas McNamee disse que "a primeira emenda foi armada" e que os espaços on-line são fundamentalmente diferentes da praça pública.

boyd descreveu o que ela chama de "efeito bumerangue" ou, em outras palavras, a idéia de provocar a mídia a reportar coisas ultrajantes é o ponto, porque isso reforça a mensagem original para o segmento da audiência que desconfia da mídia. Como exemplo, boyd falou sobre o Pizzagate. Ela observou que antes da Internet, a mídia costumava usar "silêncio estratégico" para evitar cobrir coisas como suicídios e comícios de Klan para evitar divulgá-las.

Rotenberg concordou que grande parte dessa tradição de diligência e supervisão foi perdida e disse que coisas como a Seção 230 (que diz que as empresas de Internet não são responsáveis ​​por coisas como postagens de usuários) dificultam a concorrência das notícias tradicionais.

Questionado sobre soluções, McNamee disse que o Facebook é um culto e que deve parar de negar o problema e lidar com ele, além de começar a resolver a "desprogramação", alcançando cada um de seus usuários. Rotenberg promoveu a ideia de regulação. E boyd sugeriu que precisamos investir dinheiro na sociedade, para "redesenhar" a América.

Contando com os novos hegemonistas

Mark Mahaney, RBC Capital Markets; Dave Morgan, Simulmedia; Joyce Vance, Universidade do Alabama; David Kirkpatrick, Techonomy

Em um painel inicial sobre "Reckoning with the New Hegemonists", quase todos concordaram com Joyce Vance, da Universidade do Alabama, que disse que a tecnologia realmente superou as leis, que precisam desesperadamente de alcançar. Mas Vance alertou que também há o risco de respostas políticas "descuidadas".

Dave Morgan, da Simulmedia, disse que "haverá regulamentação", embora tenha dito que é possível que as grandes empresas consigam evitar grande parte de seu impacto.

Morgan observou que a história da indústria da mídia apresenta paralelos com o que vemos agora, como os jornais se considerariam empresas de impressão e as primeiras empresas de transmissão se viam como empresas de tecnologia. Tudo isso permite o fornecimento de contato com o consumidor, que é claramente o que o Google e o Facebook fazem. Muitos casos antitruste surgiram como resultado de um poder de mídia tão concentrado, e o governo conseguiu reiniciá-los. Uma grande diferença hoje é que as outras tecnologias exigiam um nexo geográfico, do qual as empresas de Internet não precisam.

Vance observou que o Senado está considerando um projeto de lei que exigiria que essas empresas preservassem seu histórico de publicidade e deixassem claro quem está pagando pelos anúncios políticos. Mas Morgan ressaltou que agora são empresas globais com um alcance mais amplo. Questionado sobre os regulamentos de privacidade do GDPR na Europa, Vance disse que os EUA podem muito bem ter cedido a liderança da UE nessa área. Ela disse que não acha que as empresas americanas serão capazes de fazer a conformidade de maneira diferente em diferentes áreas geográficas; portanto, por padrão, as empresas cumprirão os regulamentos europeus.

Mark Mahaney, da RBC Capital Markets, disse que as empresas já estão sendo regulamentadas, principalmente na União Européia, com o Google em particular sob escrutínio por agregar ou promover seus serviços, juntamente com seus resultados de pesquisa ou com o Android. Kirkpatrick disse que achava que o acordo antitruste realmente ajudava a Microsoft, mas Mahaney respondeu que não foram os reguladores que pararam a Microsoft, mas a concorrência.

A tecnologia e o governo podem salvar a democracia?

Tim Hwang, Nota Fiscal; Minnie Ingersoll, Code For America; Marc Rotenberg, Centro de Informações sobre Privacidade Eletrônica; Molly Turner, Escola de Negócios da UC Berkeley Haas; Revista Jon Fine, Inc; Lawrence Norden, Faculdade de Direito da Universidade de Nova York

Um assunto semelhante surgiu em uma mesa redonda sobre café da manhã, intitulada "Tecnologia e governo podem salvar a democracia?", Na qual o moderador Jon Fine, da Revista Inc, pediu soluções. A mesa-redonda realmente não chegou a nenhuma, no entanto.

Hwang disse que o problema não são as plataformas tecnológicas, mas a raiva que as pessoas sentem como resultado de serem desconectadas da economia.

Lawrence Norden, do Brennan Center da NYU School of Law, disse que as leis que exigem mais divulgação de anúncios políticos são uma resposta fácil, mas que, infelizmente, o grande problema são "mensagens obscuras" ou mensagens de origem desconhecida. A esse respeito, ele disse, a Internet é mais como uma praça da cidade.

Mas Rotenberg disse que é o contrário, e que a Internet é mais como uma cidade da empresa, onde as plataformas definem as regras e decidem o que você vê. Minnie Ingersoll, do Code For America, perguntou se o problema é interferência estrangeira ou se o Google controla o que dizemos. Os reguladores precisam entender melhor os problemas, disse ela.

Molly Turner, da UC Berkeley Haas School of Business, disse que a Internet se tornou o maior veículo de expressão, mas temia que estivesse prejudicando o discurso civil. Por outro lado, ela se preocupa com os requisitos das plataformas para remover certos tipos de informações (se a Lei de Decência das Comunicações foi enfraquecida, por exemplo, ou por causa de outros tipos de regulamentação), porque de repente, nesse caso, a plataforma se torna o "árbitro de discurso."

Rotenberg respondeu que, embora as empresas automotivas tenham brigado com os regulamentos de segurança, eles ajudaram a tornar os carros mais seguros e levaram a mais inovações. Um ambiente regulatório estável pode realmente ajudar as plataformas, ele sugeriu. Rotenberg observou que as empresas de tecnologia pressionaram a "neutralidade da rede" para as empresas de telecomunicações, mas não para elas mesmas, e pediram condições equitativas.

A Internet sob ataque

Mark Anderson, Serviço de Notícias Estratégicas; Peder Jungck, BAE Systems Inteligência e segurança; Rebecca MacKinnon, Nova América; David Kirkpatrick, Techonomy

Um painel final chamado "A Internet sob ataque" continuou essa discussão.

Rebecca MacKinnon, que dirige o projeto Ranking Digital Rights na New America, disse que havia uma vez uma suposição de que, devido à Internet, os regimes autoritários acabariam se tornando mais como democracias. Ela agora tem mais medo de que regimes autoritários e democracias "se encontrem no meio".

MacKinnon disse que os regimes autoritários estão adaptando a Internet a seus propósitos, enquanto as democracias enfrentam populismo, manipulação e "capitalismo de vigilância". Mas, disse ela, as democracias devem ter cuidado com uma resposta regulatória - embora ela concorde com a necessidade de mais transparência no que diz respeito a algoritmos e privacidade, ela está preocupada com o fato de um sistema de censura facilitar a repressão das partes. da sociedade que o governo despreza.

Peder Jungck, chefe da inteligência e segurança da BAE Systems, concordou que os governos gostariam de usar esses sistemas para encontrar dissidentes e disse que uma idéia é um produto, e como qualquer produto que possa ser empurrado. Perguntado se os sistemas de anúncios estão armados, ele disse: "A caixa de Pandora foi aberta e não podemos voltar atrás".

Mark Anderson, do Strategic News Service, disse que vimos uma linha reta desde os dias da ARPANET, quando não havia bandidos, até hoje, quando vemos comportamentos cada vez mais maliciosos a cada dia.

Anderson foi particularmente claro ao descrever como a China está roubando propriedade intelectual e usando-a para afastar as empresas. E ele sugeriu que o hack Equifax tinha todas as marcas de um ataque governamental. Resumindo, Anderson disse que "não vê uma solução".

Jungck disse que devemos presumir que bandidos estão em nossos sistemas e trabalhar em soluções. Por exemplo, ele disse que um número de previdência social não é mais seguro, portanto, podemos precisar de uma solução blockchain.

No projeto Ranking Digital Rights, a MacKinnon avaliou 22 empresas globais em 35 perguntas sobre coisas como liberdade de expressão, privacidade e segurança. Ela disse que duas empresas receberam "Ds" e todo mundo falhou. Ela quer saber o que as empresas estão fazendo com seus dados; com quem eles estão compartilhando; se eles estão realizando a devida diligência, avaliações de segurança e governança para riscos; e se eles estão protegendo a privacidade e a segurança, o conteúdo e a expressão. Transparência não é suficiente, ela disse, mas um primeiro passo necessário.

Anderson disse que a transparência é uma coisa boa, mas não uma solução, e observou que alguém que deseja manipular um sistema não precisa pagar por anúncios, mas pode usar 100.000 botnets. Kirkpatrick então sugeriu que as empresas pudessem reforçar a identidade e, assim, reduzir o uso de botnets.

Mas MacKinnon respondeu que são os ativistas de direitos humanos os mais vulneráveis ​​ao uso de tais sistemas, porque se você reforça a identidade, ninguém que se oponha a um governo autoritário estaria nas redes sociais.

Jungck se perguntou por que precisamos impor uma identidade quando os sites já sabem quem você é e o que vai comprar. "Não há anonimato na internet, já faz muito tempo", disse ele. A única diferença é quanto tempo leva para descobrir quem você é.

Em conclusão, MacKinnon disse que está otimista a longo prazo, mas pelos próximos 100 anos, "nem tanto".

Ouvindo tudo isso, é fácil ser pessimista, ou pelo menos fatalista, com a quantidade de regulamentação necessária e o impacto que ela terá. Mas ainda sou otimista e, apesar de achar que é provável e necessária uma quantidade de regulamentação adicional, acredito que é igualmente provável que os gigantes da Internet de hoje - ou alguns futuros atores - tenham melhores respostas.

Qual a probabilidade de você recomendar o PCMag.com?