Tecnologia: inovação, ai e ética

Algumas das minhas sessões favoritas na conferência Techonomy, no início deste mês, abordaram ética, valores, inovação e como a inteligência artificial entrou em jogo nessas áreas.

Valores humanos para uma era tecnologizada

O fundador da Techonomy, David Kirkpatrick, iniciou a conferência com uma palestra sobre o foco nos valores humanos da tecnologia. A primeira grande conversa foi sobre "valores humanos" com Julie Hanna, presidente executiva da Kiva, que falou sobre a tecnologia como uma força democratizante e observou que grande parte do mundo vive com menos de 2 dólares por dia. Ela disse que "a melhor forma de justiça é o acesso justo".

O Rev. Michael C. McFarland, Tesoureiro, Província Nordeste da Sociedade de Jesus, disse que devemos nos perguntar onde está a justiça, em termos de como a tecnologia é usada, e pensar sobre as suposições incorporadas na tecnologia. Ele teme que a tecnologia do local de trabalho, que pode produzir maior eficiência e produtividade, seja frequentemente implantada sem pensar no impacto sobre os trabalhadores, que às vezes sofrem impactos devastadores. Ele instou a platéia a começar pensando na experiência do trabalhador.

Erica Kochi, diretora executiva de inovação e cofundadora da UNICEF Innovation, observou que há sete anos atrás não havia uma boa solução tecnológica voltada para os mais pobres e o único denominador comum era a mensagem de texto. Seu grupo se concentrou em criar suas próprias soluções usando mensagens de texto e observou que, embora existam telefones Android muito baratos, o sistema operacional foi desenvolvido para pessoas com um plano de dados, não para aqueles que vivem com menos de US $ 2 por dia. "Se vamos construir produtos e serviços para pessoas que não somos nós, precisamos pensar sobre isso do ponto de vista deles", disse ela.

Hanna falou sobre a "falsa escolha entre objetivo e lucro, entre missão e produto" e disse que as culturas dirigidas a missões são melhores lugares para se trabalhar, gerar maior lealdade e ajudar a construir empresas duradouras. Kochi disse que você pode fazer as duas coisas e disse que o modelo de negócios principal precisa estar alinhado à responsabilidade social, o que não deve ser algo que é feito de lado.

McFarland falou sobre se concentrar não apenas nos acionistas, mas em todas as partes interessadas de uma empresa, e usou como exemplo o Bell Labs da AT&T antes da cisão. Ele está preocupado com o fracasso em investir em pesquisa e desenvolvimento a longo prazo e disse que "precisamos mudar a cultura sobre como pensamos nos negócios e o que significa ter sucesso".

Biblioteca

Fiquei impressionado com o discurso de Tony Marx, presidente da Biblioteca Pública de Nova York, que disse que, em contraste com a suposição de que algumas bibliotecas estão desaparecendo, ele via as novas tecnologias como a maior oportunidade da história para as bibliotecas. sempre defenderam - ajudar as pessoas a acessar informações.

Ele observou que, no passado, as bibliotecas eram retidas pelas restrições físicas e financeiras de levar as pessoas às coleções, mas disse que isso está mudando.

As bibliotecas podem ter um impacto de três grandes maneiras, disse ele. O primeiro é apenas conectando pessoas, e ele observou que um terço dos americanos não tem conectividade com a Internet em casa, mas as bibliotecas também podem servir para treinar as pessoas a usar computadores, bem como a codificar.

Ele disse que, embora os mecanismos de pesquisa atuais sejam "inacreditáveis", eles têm limitações e observou que muitas das informações básicas de qualidade produzidas por milênios de esforço ainda não estão disponíveis. Ele disse que sua visão é oferecer aos clientes da biblioteca "todos os livros, todas as imagens, todos os documentos e todos os arquivos em qualquer lugar do mundo gratuitamente".

Tudo volta à noção antiquada de uma biblioteca como base, disse Marx, e nos instou a imaginar se todo o talento do mundo tivesse a capacidade de aprender, criar e inovar da maneira que quisesse. "Temos as ferramentas para torná-lo imparável", disse ele. "Vamos fazer isso."

Deuses nas Caixas: Algoritmos Todo-Poderosos e Valores Ocultos

Oren Boiman, co-fundador e CEO da Magisto, que usa a IA para editar vídeos, disse que "os computadores estão se tornando cada vez mais caixas negras", com algoritmos criados por redes neurais superando os melhores algoritmos projetados por programadores. Embora esses algoritmos possam tomar decisões muito melhores que os humanos, ninguém entende como eles o fazem.

Vivienne Ming, cofundadora e presidente executiva da Socos, que vende software que ajuda as crianças a aprender enviando uma recomendação por dia aos pais, falou sobre a criação de algoritmos inteligentes. Ela disse que grande parte do trabalho com redes neurais profundas depende de conjuntos de treinamento e falou sobre um algoritmo de reconhecimento de rosto que não reconheceu rostos negros por causa de um viés inerente ao treinamento. "Os computadores são como as pessoas", disse ela. "Depende de como você os cria."

O cientista chefe do Yahoo, Ron Brachman, disse que, embora estejamos usando termos antropomorfizados para descrever máquinas, ainda há uma diferença fundamental entre humanos e computadores no momento. As pessoas tomam decisões com base em suas necessidades e desejos, o que é muito diferente da maneira como os sistemas computacionais tomam decisões atualmente.

Boiman explicou como na maioria dessas "caixas pretas" tudo está conectado, e pequenas mudanças na entrada podem fazer grandes e às vezes caóticas diferenças nos resultados, como quando os vídeos se tornam virais. Ele disse que isso torna as coisas imprevisíveis e é difícil rastrear as coisas de volta ao que aconteceu inicialmente. Brachman observou que, como não temos como controlar o que as crianças aprendem, o mesmo se aplica aos mecanismos computacionais.

Máquinas de Negócios Inteligentes

A discussão sobre IA e as questões éticas que surgem continuaram em outro painel com os líderes de algumas empresas de software mais especializadas. Babak Hodjat, co-fundador e cientista-chefe da empresa de aprendizado de máquina Sentient Technologies, disse que a questão da ética é um pouco perturbadora no que diz respeito à IA, e que a ética também afeta todos os tipos de outras tecnologias, desde smartphones a pontuações FICO.

George John, presidente e fundador da empresa de publicidade programática Rocket Fuel, observou as vantagens da tecnologia e disse: "Se a IA realmente estiver funcionando, as pessoas devem voltar para casa mais cedo". Ele falou sobre a necessidade de novas habilidades de gerenciamento e o gerenciamento de pessoas e máquinas inteligentes. Ele também falou sobre a procura de aplicativos de IA que não sejam adequados apenas para grandes empresas, mas que também beneficiem indivíduos.

Jag Duggal, vice-presidente sênior de gerenciamento de produtos da empresa de medição de público-alvo Quantcast, disse que essas são ferramentas projetadas para nos tornar mais produtivos, realizar mais tarefas e aumentar nossa capacidade. Ele disse que há uma miríade de inovação e produtividade que pode resultar disso e disse que, embora haja receios sobre a tecnologia ficar boa demais, ele está muito mais preocupado com os limites da tecnologia.

Ele estava particularmente preocupado com incentivos e o que acontece quando os algoritmos de aprendizado de máquina acabam seguindo os incentivos errados. Por exemplo, ele observou como, no mercado de posicionamento de anúncios on-line, os fornecedores de comércio eletrônico estavam dando crédito ao último anúncio que uma pessoa viu antes de fazer um pedido. Isso resulta em mais anúncios direcionados depois que uma pessoa já visitou um site de comércio eletrônico e, muitas vezes, depois que alguém decide comprar; em outras palavras, quando o anúncio pode ser desperdiçado. Quantcast está tentando dar melhores exemplos, disse ele.

Jon Stein, fundador e CEO da empresa de investimentos Betterment, baseada em IA, falou sobre o bem que a tecnologia pode fazer e concordou que era importante estabelecer incentivos claros. Ele falou sobre seguir padrões fiduciários, como agir no melhor interesse de seu cliente, e disse que a transparência tem um grande papel a desempenhar, para que as pessoas possam entender onde os conflitos podem ocorrer.

Stein disse que a tecnologia tornará mais difícil ser um criminoso ao longo do tempo, mas Duggal disse que é mais cético, porque criminosos também têm tecnologia. Ainda assim, ele está impressionado com o potencial da tecnologia e citou um exemplo de um projeto do Google em que uma IA pode identificar cânceres em manchas na pele. Ele disse estar preocupado com um "enquadramento incorreto" da questão por oponentes da tecnologia.