Vídeo: Don't fear intelligent machines. Work with them | Garry Kasparov (Novembro 2024)
Garry Kasparov foi uma das primeiras vítimas da revolução da automação da IA. Sua perda para o Deep Blue da IBM fez dele o primeiro campeão de xadrez humano a perder uma partida para um computador. Mas Kasparov não está cansado; seu livro, Deep Thinking , explora como a IA pode realmente nos ajudar a nos tornar mais humanos.
Dan Costa: Depois de uma carreira jogando xadrez e lutando com Deep Blue, você se tornou um especialista em IA de xadrez. Como você deseja que as pessoas entendam inteligência artificial?
Garry Kasparov: Eu tenho que confessar que conheço os limites da minha ignorância. É por isso que fico feliz em falar sobre coisas em que confio na minha própria experiência e acho que tenho um certo conhecimento das relações homem-máquina e que pude falar com alguma autoridade sobre os resultados futuros.
Além disso, acredito que ainda estamos muito jovens na IA, e devemos debater até alguns termos. É sobre semântica, é sobre filosofia, e eu sempre digo que as pessoas pensam que estamos no Windows 10, enquanto ainda estamos no MS-DOS.
Neste momento, é muito importante entender: "O que é IA? Quando dizemos AI, o que queremos dizer?" Porque se você perguntar a 10 especialistas sobre IA, aposto que você receberá 11 ou 12 respostas. Ainda há um grande desacordo.
Ainda há detalhes, mas acho que, em geral, reconhecemos que tudo bem, há um grupo de pessoas que chamaremos de otimistas, enfrentando a grande multidão de caçadores de perdição. De alguma forma, o público está mais disposto a aceitar cenários de pessimistas, acho que é nosso instinto de temer o futuro, o que também é interessante porque quando você volta aos anos 50 e 60, a ficção científica era muito otimista. Era tudo sobre nós, apenas trabalhando com máquinas.
Agora, quando você olha para os anos 70, 80, 90, mudou para a visão distópica. É sobre terminadores. É sobre Matrix, e agora o gênero de ficção científica está quase morto porque é mais sobre fantasia, é sobre magia. As pessoas têm muito medo de falar sobre o futuro, porque não temos certeza do que vai acontecer lá. Eu acho que devemos simplesmente reconhecer que a IA não é uma varinha mágica, mas não é um terminador. Não é um prenúncio de utopia ou distopia. É uma ferramenta. É algo que devemos encontrar uma maneira de lidar.
Não está abrindo os portões do inferno, mas não é um paraíso. Não é uma solução para tudo. Não é uma salvação. Vejamos os problemas da Terra e minha maior preocupação hoje não é com robôs assassinos ou com algum tipo de realidade virtual que possa arruinar nosso senso de realidade, mas com maus atores. É sobre terroristas. É sobre o espaço do rock usando essa tecnologia para nos prejudicar. Eu sempre digo que as pessoas… têm o monopólio do mal. Acho que é aí que devemos nos concentrar, mas também deve reconhecer que a IA pode fazer tantas coisas boas por nós, porque o que as pessoas dirão: "Ah, a IA cria novos desafios. A AI pode tirar muitos empregos". Exatamente. Foi o que aconteceu com empregos na agricultura, empregos na manufatura. A tecnologia disruptiva sempre destrói indústrias, mas, ao mesmo tempo, cria novos empregos.
Digo que a tecnologia é a principal razão pela qual tantas pessoas ainda estão vivas para reclamar sobre a tecnologia, porque simplesmente não reconhecemos a expectativa de vida média que cresceu, acho que 45, 47 no início do século 20 para agora 75, graças à tecnologia. Queremos benefícios, queremos conveniência e não olhamos para o preço. As pessoas compram o Alexa ou baixam um aplicativo de reconhecimento facial e depois reclamam da privacidade. É hora de entendermos o que esperamos dessas tecnologias, então como queremos lidar com elas? Como eles podem melhorar nossas vidas e ao mesmo tempo reconhecer que não devemos debater sobre o leite derramado. Isso vai acontecer.
Não devemos perguntar se queremos ou não, está acontecendo. Qualquer tentativa de prolongar a agonia e desacelerar o processo, acho que é apenas contraproducente, porque os trabalhos que estão condenados não podem ser salvos. Mas temos que pensar em novas indústrias. Como podemos criar novos empregos que nos ajudarão a criar… uma almofada financeira para cuidar daqueles que foram deixados para trás?
Dan Costa: Esse foi um dos pontos que você coloca no pensamento profundo . A IA apresenta uma oportunidade para que sejamos mais humanos. Acho que precisamos aprofundar isso e fazer as pessoas sentirem e entenderem.
Garry Kasparov: O relatório da McKinsey sobre o mercado de trabalho nos EUA em 2016 foi uma demonstração clara. Quanta criatividade tem sido usada?
Muitos dos trabalhos que fazemos são repetitivos, brutos. Trabalhos intelectuais também podem ser repetitivos. Eles também podem ser facilmente executados pelas máquinas com muito mais eficiência. Aqui, você chega ao ponto em que o que aprendemos com os jogos… do xadrez, do golfe e de qualquer outro jogo, é contanto que tenhamos a estrutura criada pelos seres humanos e sabemos o que estamos fazendo, as máquinas farão melhor.
Devemos apenas reconhecer que em todos os sistemas fechados, as máquinas serão superiores. A propósito, não precisamos entender como eles fazem isso. Esse é outro erro. Queremos explicabilidade. Máquinas poderiam fazê-lo de uma maneira muito estranha em relação aos nossos padrões. Os aviões voavam rápido e o pássaro estava batendo as asas. É por isso que pensar que as máquinas nos superarão mesmo em erros de intelecto, fazendo algo que você entende estar errado. Devemos procurar os resultados, e esse é o outro problema para as empresas, porque existem muitas regulamentações que exigem que elas expliquem o que estão fazendo, mas a explicabilidade pode não estar presente se você quiser procurar eficiência e produtividade.
Dan Costa: Você levantou o caso no palco sobre o Go, e o que tornou a Go AI muito mais eficaz é quando ela se ensinou a jogar o jogo. Não tinha regras impostas pelo homem.
Garry Kasparov: Agora é o mesmo que xadrez. Mais uma vez, é o futuro das relações humanas de missão que dependerá muito dos humanos agindo como pastores, porque teremos que encontrar uma maneira de criar esses sistemas legais, as áreas de inteligência estreita, onde as máquinas farão o trabalho muito melhor do que qualquer humano. Então, para ver como eles se conectam. Essas áreas de inteligência estreita para campo geral, para sistema aberto. Novamente, parece fácil, mas acho que é um grande desafio, porque o espaço para humanos e suas relações com máquinas pode estar diminuindo cada vez mais. Talvez até algumas últimas casas decimais, mas isso não importa. Poderia ser muito mais eficaz, porque há muito poder. Canalizá-lo ou mudar a direção para 0, 1% de um grau desse ângulo pode ter uma enorme diferença, um alvo a 1, 6 km de distância.
Dan Costa: Uma das coisas que me preocupa com a IA é que bons sistemas de IA são movidos por muitos e muitos dados e algoritmos realmente ótimos. Se você olhar para quem tem a maioria dos dados neste espaço no momento, é uma grande tecnologia, são os governos estaduais. Como você vê o papel do indivíduo nessa revolução da IA? Porque parece haver alguma assimetria de acesso a essas novas tecnologias e diferentes motivações.
Garry Kasparov: Sim. Eu não poderia concordar mais. Temos esse problema e acho que o público reconhece esse problema, mas ainda não há pressão suficiente dos governos para realmente impor regras muito estritas e medidas muito punitivas às empresas que violam a privacidade.
Uma das minhas preocupações como presidente da Human Rights Foundation é que as regras diferem do mundo democrático para o mundo não-livre. Acho muito preocupante que esses gigantes multinacionais - como Google, Apple, Microsoft, Facebook - apliquem regras muito diferentes a seus clientes na América ou na Europa e àqueles que não tiveram a mesma sorte de nascer no mundo livre e viver em China, Rússia, Turquia - onde liberar os dados das atividades sociais poderia literalmente ser uma questão de vida ou morte. Acho que esse é o passo número um, mas também devemos reconhecer que, se os dados estiverem sendo produzidos, eles serão coletados.
Tenho certeza de que há muitas maneiras pelas quais os governos podem limitar o uso desses dados. Além disso, acho que é o bônus do lado público, porque depois do testemunho de Mark Zuckerberg no Senado dos EUA, que eu achei… foi uma incrível demonstração de ignorância por parte dos legisladores americanos. Eles não podiam fazer boas perguntas por cinco horas; eles o colocaram em um lugar quente e foi um desperdício. Não vi indignação pública. Uma oportunidade tão grande foi perdida.
O conselho simples: "Vamos dividi-los". Não é óleo padrão. Se você começar a dividir - e eu odeio monopólios -, mas você terá muitos, muitos Google com dados espalhados. Deveríamos encontrar uma maneira de capacitar os indivíduos. Não conheço as tecnologias blockchain, mas provavelmente essa é a maneira de realmente ajudar as pessoas a controlar seus próprios dados e seu próprio futuro. Acho que ainda há um momento em que é o conceito original de internet, rede social. Agora, de repente, são as mídias sociais. As pessoas simplesmente não reconhecem. Não é uma diferença semântica.
Dan Costa: É monetizado de uma maneira totalmente diferente.
Garry Kasparov: Trata-se de conectar pessoas. É sobre a ideia toda como nos unir. Como penhorar o indivíduo, obter acesso aos dados e produzir algo que possa beneficiá-lo e apenas fazer parte desse sistema global. A mídia social é diferente, você é o alvo. Você é agora… o alvo das grandes corporações. Como voltamos a esse conceito de rede social? Não tenho soluções, confesso aqui minha ignorância sobre soluções técnicas, mas sei que essa é exatamente a filosofia que é a pergunta certa a ser feita. Eu acho que o público não entende a seriedade desse desafio.
Dan Costa: Você é um cidadão russo...
Garry Kasparov: Também cidadão croata, tenho um passaporte eletrônico, é assim que viajo.
Dan Costa:… morando nos Estados Unidos, mas você escreveu muito sobre propaganda, seus efeitos e poderes, e como está sendo usada pelo governo russo. Aqui nos EUA, agora temos um universo de mídia no Facebook, Twitter e Google que é quase como uma máquina de propaganda privada que pode ser acessada por governos, por empresas individuais. Mais uma vez, como alguém que lidou com e entende essas questões, que conselho você dá para os Estados Unidos? À medida que avançamos para esse sistema, não podemos mais acreditar no que vemos online.
Garry Kasparov: Olha, eu tenho enfrentado o surgimento da indústria de notícias falsas e das fábricas de trolls na Rússia de Putin desde o início deste século. Por volta de 2004-2005, os especialistas em propaganda de Putin, os caras da KGB, tomaram uma decisão fiel de não seguir a China por firewalls. Mas, ao contrário, criar sites falsos da Internet que carregam muitas informações reais dessas peças venenosas. Em vez de ter a primeira página de um jornal adequado, a história que todos devem seguir, a linha do partido, você pode espalhá-la em vários pedaços, em dezenas de pedaços. Coloque-o em um pacote embrulhado em muitas histórias verdadeiras.
Não é tão simples quanto dizer, Garry Kasparov é um inimigo do estado. Não, alguém está dizendo que Garry Kasparov é um inimigo do estado, mas alguém está dizendo não, mas ele era um grande jogador de xadrez, mas provavelmente agora estava infiltrado por voz e propaganda. Alguém dirá, não, não, não, ele é um cara legal. Portanto, toda a página de comentários pode ser falsa.
Dan Costa: Os robôs estão discutindo com eles.
Garry Kasparov: Bots e eles são muito bons nisso, por isso, um dia, quando Putin atacou as eleições nos EUA, ele realmente tinha mais de 10 anos de experiência nessas indústrias. Trabalhando na Rússia, em países vizinhos com grandes comunidades russas na Europa Oriental, na Europa Ocidental.
No meu livro, O inverno está chegando: por que Vladimir Putin e os inimigos do mundo livre devem ser parados , 2015, eu disse que era apenas uma questão de tempo. Não é se, mas quando e onde ele atacaria. Porque, novamente, eles já construíram esta máquina e é relativamente barata. Ainda são bilhões de dólares em investimentos, mas em comparação com intervenções militares abertas, confrontos… é relativamente barato. E também se encaixava na mentalidade de KGB de Putin, seu passado na KGB, espionagem. Então, em vez de um confronto aberto, ele sempre procura uma oportunidade de se infiltrar. Esses são os métodos clássicos de judô: você usa os pontos fortes do seu oponente contra ele. Para Putin, era brilhante porque era a tecnologia ocidental e o mundo livre, e você poderia usá-lo para minar a própria fundação do mundo livre.
Dan Costa: Você tem algum conselho sobre como sair dessa situação? Porque parece que está acontecendo, realmente não parou.
Garry Kasparov: Não, e não vai parar. Para quem tem experiência ilimitada, a resposta é óbvia. Defesa é uma proposição perdedora. Na segurança cibernética, você pode criar as defesas, mas no final do dia a única resposta é a dissuasão. É como a Guerra Fria, goste ou não, é uma Guerra Fria cibernética. Estamos sob constantes ataques de Putin ou de outros inimigos do mundo livre. Sejam estados como o Irã, a Coréia do Norte, a China ou organizações quase estatais que também usam os mesmos métodos.
Somente a dissuasão poderia realmente parar esses ataques ou limitá-los. Porque eles entenderão as consequências de serem excessivamente agressivos. Tentando proteger nossos pontos fracos aqui e ali, é importante que construamos algumas defesas. É importante aumentar a conscientização do público sobre ameaças, mas isso não vai funcionar. Quanto às indústrias de notícias falsas, existem muitos desafios em nossa sociedade livre, que permitiram a indústria de notícias falsas. É sobre o medo do partidarismo, é sobre a ausência de um diálogo entre pessoas com diferentes visões ideológicas que ajudaram Putin e outros inimigos do mundo livre a usar as notícias falsas para preencher essa lacuna.
Dan Costa: Então, você está trabalhando com a Avast agora, uma empresa com a qual os leitores do PCMag estão familiarizados. Que conselho você dá aos consumidores sobre como aumentar seu nível de defesa?
Garry Kasparov: Quanto ao nível de defesa individual, isso é muito fácil. A primeira mensagem é para os proprietários de casas inteligentes. Fiquei um pouco chocado, porque mesmo neste sudoeste do sudoeste, conversei com muitas pessoas, pessoas com boa experiência não entendem o quão vulneráveis as casas inteligentes são hoje.
Nas famílias americanas, 39 milhões têm pelo menos um dispositivo vulnerável. As pessoas não entendem que um dispositivo vulnerável torna toda a casa inteligente vulnerável. Porque os pontos fortes da sua pirâmide de defesa dependem do elo mais fraco. Uma maçã podre faz o pacote inteiro apodrecer.
A maioria dos problemas é criada pelos fabricantes de eletrodomésticos tradicionais - máquinas de lavar, máquinas de café - porque não há experiência na construção de sistemas digitais. Mas eles têm que fazer isso agora. A um custo muito baixo, porque é uma competição de preços, mas eles querem fazer parte do sistema. A maioria dos sistemas simplesmente não possui defesas adequadas. Acho que precisamos… de supervisão do governo, precisamos pressionar para forçar a cumprir certos padrões.
Mas também é preciso fornecer manuais separados, porque ninguém lê o manual de 100 páginas. Na página 85, você lê algo sobre esse material digital, as pessoas não o lêem. A maioria deles usa o modo padrão, o que é obviamente um convite aberto para um hacker. Eu acho que é muito importante que as pessoas comecem a fazer o que eu chamo de higiene digital, porque lavamos as mãos, escovamos os dentes, fazemos automaticamente. Isso não nos salva de algumas doenças graves, mas 90% dos problemas podem ser evitados. O mesmo com nossos dispositivos conectados móveis, ainda devemos nos proteger contra vírus, mas muitas coisas podem ser feitas demonstrando que nos importamos com isso, porque é tão importante quanto nossa saúde.
Dan Costa: Então, quero fazer as três perguntas que faço a todos que participam do programa. Existe uma tendência tecnológica que lhe preocupa e que o mantém acordado à noite?
Garry Kasparov: Não, sou otimista incorrigível. Eu me preocupo com pessoas más, não com tecnologia ruim, porque toda tecnologia tem um uso duplo. Você pode construir um reator nuclear, mas antes, infelizmente, você constrói uma bomba nuclear. É lamentável que a destruição seja mais fácil que a construção. É por isso que na história sempre sabemos que uma tecnologia nova e disruptiva foi testada quanto a algum tipo de dano.
Dan Costa: Você não está preocupado que a mesma coisa aconteça com a IA? Eu serei usado para destruir antes que seja usado para criar?
Garry Kasparov: Novamente, não se trata de robôs assassinos. É sobre bandidos, maus atores por trás disso. As pessoas dirão oh, devemos pensar em IA ética. A IA não poderia ser mais ética do que seus criadores. Não entendo o que isso significa, como eletricidade ética. Se temos um viés em nossa sociedade, a IA segue-o. Ele vê uma disparidade, seja racial, de gênero ou de renda. Isso leva em conta; AI é um algoritmo baseado em probabilidades. Então, de alguma forma, reclamar de IA ética é como reclamar de um espelho, porque não gostamos do que vemos lá.
Dan Costa: Existe uma tecnologia que você usa todos os dias que ainda inspira admiração?
Garry Kasparov: Não. Para mim, a verdadeira maravilha do mundo é o acesso à informação. Como eu posso coletar dados, fica mais fácil. Eu cresci na União Soviética, e a informação era escassa, não havia muitos livros. Agora, o fato é que eu posso Kindle… isso me faz sentir bem. Há tanta tecnologia que nos rodeia agora que nos ajuda a melhorar. Além disso, o que é incrível, as pessoas continuam reclamando, oh, o que podemos fazer? Não há nada novo que possa ser inventado… e eu digo espere um segundo. Você olha para este dispositivo no seu bolso, vamos voltar em 1976 ou 1977, o supercomputador Cray foi como um milagre. Este dispositivo é o que? Dez mil vezes mais poderoso?
- AI é (também) uma força para o bem AI é (também) uma força para o bem
- Esta IA é poderosa demais para ser lançada ao público Esta AI é poderosa demais para ser lançada ao público
- Esta IA prevê trolling online antes que aconteça Esta IA prevê trolling online antes que aconteça
Dan Costa: Mais poderoso que o ônibus espacial.
Garry Kasparov: Exatamente. Temos tanto poder e… quero que comecemos a sonhar grande novamente. Porque nós temos essas oportunidades agora. Sinto muito pela Corrida Espacial, paramos a exploração espacial, a exploração oceânica. Vamos voltar, vamos tentar fazer grandes coisas. Há quatro anos, fiz um discurso de formatura na Universidade de Saint Louis, no Missouri. Dirigindo-se aos alunos de pós-graduação que eu disse, é preciso reviver o espírito de exploração, especialmente porque St. Louis é o portão para o oeste e, hoje, é mais seguro voar para Marte do que Columbus atravessar o Atlântico. Porque, pelo menos, sabemos a distância e temos o mapa. Espero que nossos filhos, nossos netos… sejam mais agressivos em seus sonhos, usando essa tecnologia fenomenal para nos impulsionar, porque penso, vamos confessar, vamos admitir esse fato importante; nossa geração tem desacelerado em nossa busca por descobrir as maravilhas do mundo, ou espaço, ou oceanos.
