Vídeo: TV UFBA .DOC - Museus UFBA: espaços de história e arte (Novembro 2024)
Nesse episódio de Fast Forward, conversei com Ellen Ullman, autora de Life in Code, uma série de ensaios que começam em 1994, quando ela era programadora no Vale do Silício. Agora ela ganha a vida escrevendo principalmente ficção, mas Ullman continua sendo um observador apurado da região, da indústria de tecnologia e de como as ferramentas que fabricamos nos mudam diariamente.
Dan Costa: Suas raízes de programação remontam bastante. Em 1978, você era formado em inglês e decidiu mudar para a programação. Por que você faria algo assim?
Ellen Ullman: Bem, eu me envolvi com um grupo fazendo vídeo, o Sony Portapak era uma daquelas máquinas como o PC. Essas coisas que foram controladas por corporações gigantescas de repente estavam em suas próprias mãos. Você pode fazer seus próprios vídeos, suas próprias histórias. Você poderia dar a volta e mostrá-los. Não houve restrições. Você poderia fazer pornô, etc., e foi um momento muito emocionante. Aprendi que gostava de trabalhar com máquinas. A possibilidade de trabalhar com essas máquinas para realizar mudanças sociais e arte era intrigante. Acabei saindo de Ithaca para ir a São Francisco.
Então, por impulso, eu comprei. E havia a questão da programação. É um pouco mais difícil do que começar com um Portapak, pressione o botão. Achei difícil, mas o bom, difícil. Eu acho que quem quer entrar na engenharia de software precisa sentir: "Sim, isso é difícil, mas também o prazer da caçada". Se não houver um senso de sedução sobre a solução de problemas, será uma experiência muito infeliz.
E as pessoas hoje em dia não entendem direito o fato de que, quando você comprou um TRS-80 na Radio Shack, não deu muito certo. Você tem que fazer as coisas. Você precisa aprender a usá-lo, e esse é o tipo de convite que você aceitou?
Sim, havia uma tela em branco. Já era uma televisão obsoleta na época. Ele tinha um teclado e você gravou programas em uma fita de bobina a bobina. E eu acho que tinha talvez 4K. Esse era o tamanho máximo do programa. E tinha a linguagem BASIC. E não sei se as pessoas sabem a diferença entre linguagem interpretada e compilada. Interpretado significa que apenas o executa bem na sua frente. Então você, você sabe, insere dois pontos, dois mais dois e mostra quatro. É fácil, começar as primeiras coisas pequenas. Fazer algo significativo foi muito difícil, especialmente porque o BASIC inicial tinha muitas armadilhas. Como você poderia dizer "Ir para", mas ele não voltou automaticamente. Então você poderia se perder no emaranhado, e era conhecido como o código Geddy. Mais uma vez, foi frustrante e intrigante.
Quando eu estava olhando o livro e você falou sobre esses primeiros anos, o que me impressiona são as pessoas com quem você estava trabalhando. Quase parece mais uma coleção desarrumada de artistas do que engenheiros e programadores hardcore. Você pode falar um pouco sobre o espírito de corpo ou as pessoas com quem estava trabalhando?
Sim. Se você olhar para trás e - você sabe quem é a Stewart Brand, o Catálogo Eletrônico da Terra Inteira, The Well - essa foi uma das primeiras comunidades on-line. E as pessoas foram atraídas por isso. Você conhece o livro de John Markoff, What the Dormouse Said ?
Certo.
Você sabe, chapados e abandonados e pessoas que eram loucas e queriam se divertir. Essa foi a atmosfera que me atraiu, como o Portapak. Eram pessoas se divertindo, explorando. E as primeiras pessoas com quem trabalhei quando tive que arrumar um emprego e ganhar a vida eram assim também. Uma ex-dançarina sufi, uma mulher que fazia uma dissertação e história da arte, um cara da França que fumava Gauloises, embora não fosse permitido fumar. E ele dizia: "Um computador nunca me disse para parar de fumar". E esse é o tipo de pessoa com quem trabalhamos.
Em algum lugar entre 1983 e 1986, mudou. Ciência da Computação tornou-se um grau comum, Engenharia de Software. E nos juntamos a um grupo auto-selecionado, fortemente masculino, que havia estudado Ciência da Computação na graduação. E a atmosfera mudou completamente. As pessoas eram mais difíceis de conversar. Na minha experiência, não foram tão bem arredondados. Essa é uma generalização muito ampla.
Eu trabalhei com homens muito bem-educados. Você poderia citar Shakespeare com os melhores. Mas toda essa atmosfera mudou. Eu acho que é porque a profissão teve que perder sua inocência.
Como você foi inspirado a fazer codificação?
Bem, mais uma vez foi: "Uau, o que é isso?" Você sabe, quando eu comecei o meu primeiro programa real, houve uma onda de prazer. "Uau, funciona. Eu fiz isso." Passou do nada para alguma coisa. E foi como a primeira vez que consertei um carburador. Você sabe, você desmonta as coisas. Você os junta novamente e o carro dá partida, certo? Portanto, este é um prazer raro e difícil de alcançar. Uma vez que tive esse sentimento, foi um pouco como uma droga, você sabe. Você está tão alto e depois perde, e depois recupera, ou tenta.
Você fala muito sobre isso no livro. Você diz que todo mundo deveria aprender a codificar porque é difícil. E essa dificuldade acabará sendo o sentimento de satisfação que você obtém dela.
Não estou dizendo a todos para aprender a codificar. Como eu disse, as pessoas precisam ser expostas a isso. O objetivo é desmistificar o código. Estamos cercados por algoritmos que nos controlam, e isso não é novidade para quem acabou de ser invadido pelo Equifax, por exemplo. Um terço da população adulta dos Estados Unidos. Portanto, o ponto é saber o suficiente que está escrito por pessoas e que pode ser alterado por pessoas.
Há um vereador no Bronx que propõe um projeto de lei de que o bairro analisa todos os algoritmos que eles estão usando, e eles vão de missões policiais a horários de coleta de lixo, para que escola as crianças frequentam e procuram preconceitos. neles. Este é o processo que estou esperando, que as pessoas em geral passem a ver que essas coisas podem ser mudadas. Eles têm preconceito e esse preconceito pode ser resolvido.
Portanto, isso nos leva a um dos seus principais pontos, que é o próprio código que contém preconceitos no conteúdo. E acho que, com algoritmos, isso leva a um nível totalmente diferente. Mas, dependendo de quem escreveu o código, ele refletirá certos preconceitos políticos, culturais. Você pode apenas falar um pouco sobre como isso é incorporado ao próprio código?
Bem, os engenheiros de software não determinam qual código será escrito. Isso vem do topo. E as pessoas no topo são homens muito ricos e predominantemente brancos, e seu desejo é o que eles acham ótimo para a sociedade ou quais são as atribuições.
Por exemplo, um aplicativo de entrega simples selecionou códigos postais. O que isso significa? Que não podemos ganhar dinheiro com pessoas de renda marginal? Ou não queremos enviar carros para lá? É um exemplo simples. Entra, está tudo comprando? É disso que as pessoas precisam? Que tipo de ponto de vista social isso expressa?
É todo o caminho até algoritmos, e ainda mais profundo do que isso. Acabei de ler um artigo de Phillip Rogaway. Ele o entregou em 2015 e trata das implicações morais da criptografia. E ele fala sobre criptografia como poder. Para quem você está escrevendo? Para o que eles estão usando? E para que você possa ver, do aplicativo mais simples, até o fundo do que é considerado matemático, o viés é incorporado.
Acho que você apontou o dedo quando falou sobre o "Tudo está comprando?" porque certamente está tudo motivado pelo comércio agora, e o motivo pelo qual você segmenta determinados CEPs é porque você pode ganhar dinheiro com esses códigos postais. E isso molda o produto e se torna esse ciclo de reforço. O mesmo acontece com todos os institutos. Essa é a razão pela qual a Amazon comprou a Whole Foods e não a Stop & Shop. É por causa desses preconceitos demográficos, e esse é apenas o mercado em ação. Mas essas forças de mercado estão praticamente determinando o desenvolvimento tecnológico também agora.
Eu tenho um exemplo de algo que eu acho maravilhoso. Havia um grupo falando sobre "isso está codificando desde o início". Não, as pessoas não estão sentadas em seus espaços fechados em que trabalhamos, decidindo que "sou uma organização sem fins lucrativos e isso beneficiará a sociedade e mudará o mundo". Este é um grupo que trabalha no terreno com trabalhadores indocumentados.
E assim, eles se aproximaram de um grupo. Mais uma vez, chegou aos codificadores do chão. E eles disseram: "Você pode nos construir alguma coisa?" A maioria desses caras tem aplicativos móveis - o aplicativo mantém o anonimato, é claro - e eles podem colocar essa placa. "Você procura isso e não aceita o trabalho." Você poderia perguntar, alguém ganha dinheiro? Eventualmente, sim, porque essas pessoas que estão desesperadas pelo trabalho não são enganadas tanto.
É como um sistema de reputação. O mesmo tipo de reputação, o mesmo que é incorporado ao Uber, onde os pilotos são classificados e os pilotos são classificados e, idealmente, os melhores pilotos e os melhores pilotos são recompensados de alguma forma. É um exemplo fascinante. Você tem algum conselho para pessoas que são novas na codificação ou que desejam explorá-la como uma opção de carreira?
Aconselhar pessoas que desejam explorá-lo? Primeiro de tudo, há encontros em todos os lugares. Não, eu não deveria dizer em todo lugar. Eles também estão em códigos postais selecionados. Existem milhares e milhares na área da baía, onde você pode se inscrever e se encontrar com outras pessoas que o ensinarão a codificar. Existem alguns especialmente para mulheres. Isso é muito útil.
Eu fiz uma pesquisa por outros lugares no país. Buffalo, Nova York, Utica, Nova York. E não havia nada. Então, o que fazemos com isso? Portanto, cursos online massivos parecem uma possibilidade. E uma das coisas sobre as quais escrevi e o que fiz foi, bem, se inscrever para auditar. E vi todo o mesmo viés nos professores.
Eles estavam fazendo suposições sobre a cultura americana. E bem, você quer ganhar um bilhão de dólares. Um milhão não seria suficiente para você. Tudo o mesmo. Eu acho que as pessoas podem baixar esses vídeos, reunir um grupo, você sabe. Você fala a língua para o cara que está lhe dizendo bobagens sociais. E ajudar um ao outro e aprender a codificar.
Também existem academias de código que custam milhares de dólares e estavam realmente fechando. Eles garantem que as pessoas ganhem três dígitos em oito meses. Eu não acho que essa seja uma boa rota. Idealmente, as escolas o ensinariam. E não quero dizer que a codificação se junte às humanidades como uma alfabetização básica. Eu acho que as pessoas com humanidades precisam procurar a codificação para trazer esse conhecimento das pessoas que estudaram História e Sociologia e Línguas Estrangeiras, como outras pessoas vivem no mundo. Traga isso para a arena de codificação.
Quero falar um pouco sobre as mídias sociais. Em 1998, você escreveu um ensaio chamado The Museum of Me, e eu ouço essa frase sendo usada como se fosse nova em folha. Mas você escreveu pela primeira vez em 1998 e disse que a Internet nos permitiria criar "Uma bolha de pensamento privada", lendo apenas os sites que reforçam suas crenças desejadas, exatamente onde parecemos estar hoje.
Você meio que chamou, você estava descrevendo a internet em geral, mas a mídia social parece ter levado isso a um nível totalmente novo. Sinto muito por estar certo sobre isso. Havia coisas que eu vi acontecendo isso, eu acho que no meu coração esperava que fossem avisos. Mas, você sabe, acabei de escrever para uma pequena publicação, então…
Eu acho que isso provavelmente estava na Harper's . Então, de alguma forma, a geração selfie perdeu o artigo de Harper , infelizmente.
Bem, o que eles estão lendo? Eles estão lendo feeds, você sabe. Portanto, os feeds estão dizendo a eles o que está acontecendo hoje. Hoje em dia, é muito difícil sentar e conversar com você sobre tecnologia, um dia depois de termos este horrível massacre em Las Vegas. E mais de 50 pessoas morreram e centenas ficaram feridas. Realmente não sabemos a extensão disso.
E você sabe, armas são tecnologia. Design industrial é tecnologia. Você sabe, tendemos a pensar nisso apenas como telefones e laptops legais e IA, servidores e algoritmos. Mas as pessoas projetam esses aparelhos que permitem que uma arma atire centenas de balas de uma só vez. E isso realmente me impede. Você sabe, em dias como este, é difícil ficar alegre. Quero dizer, sou o representante da melancolia em geral, mas este particularmente me parou.
É difícil para todos passar o dia em dias como esse. Mas um dos pontos que você continua levantando é que todas as tecnologias têm esses efeitos implícitos e que não são neutras, e muitas das conversas éticas que envolvem todo tipo de debate sobre política, política, questões sociais tendem a não acontecer no espaço tecnológico, porque os engenheiros o constroem, o mercado pede. Os designers constroem, eles enviam e então vivemos com as consequências.
Mas parece que, a todo momento, seja tecnologia de armas, código de software, acesso a serviços, precisamos ter essa conversa sobre as consequências.
Essa seria a minha esperança. Foi por isso que escrevi este livro, esperando iniciar uma conversa em diferentes níveis, você sabe. Não é qual é o objetivo do futuro. O futuro é o que você faz dele agora, conversando. O desejo humano dirige o futuro. Essa é a nossa prerrogativa. Além disso, olhar para o passado. Outra razão pela qual eu queria voltar a meados dos anos 90 é que aprendemos com o passado.
Apenas olhar para a frente ensina muito pouco, porque isso é tudo fantasia. Mas se voltarmos e vermos como chegamos a onde estamos e as tendências que nos trouxeram para cá, os sucessos que as pessoas tiveram no passado, coisas que aprendemos. Existem pessoas que viveram antes de nós, e elas têm trabalhado mais em tecnologia de computação do que nós. Nós estamos entrando em 100 anos, eu acho que você sabe, em algum momento começando com as idéias sobre isso. Então, espero que as pessoas parem e se educem. Olhar para trás e tentar ver como eles chegaram aonde estão.
O que você acha da natureza da indústria de tecnologia em termos do tamanho dos líderes? Com o Google, a Amazon, a Apple e a Microsoft, você está falando de quatro empresas que dominam absolutamente setores inteiros. A indústria da web, a indústria de varejo, a indústria do entretenimento. São essas empresas, existe algo sobre ser grande demais que cria seu próprio problema?
Esta é uma boa pergunta. Sim, eles são grandes demais. Todos nós temos que conviver com eles por muito tempo. E uma empresa como a Apple se mostra socialmente progressiva. No entanto, essas empresas são profundamente libertárias. Eles não querem que o governo os controle, exceto quando querem que o governo os aplique.
Veja o que está acontecendo com todas essas cidades implorando para que a Amazônia entre no meio delas. "Oh, você não terá que pagar impostos por 20 anos." Então, o governo os ajuda. É isso que essas empresas querem. Eles não querem regulamentação. Não vejo nesta atmosfera política como vamos fazer isso. Não temos uma Suprema Corte que diga: "Estes são monopólios. Vamos dividi-los".
Esta é a pergunta certa. Sim, eles são grandes demais. Muitas pessoas precisam abordar o que fazemos a partir daqui.
Qual é o problema com eles? Como existem empresas, nunca vi uma empresa privada que pedisse mais regulamentação. Qual o risco de ter essas grandes empresas gigantes? Será que eles vão usar seu poder de mercado para explorar os consumidores? Será que eles não vão inovar porque têm essencialmente monopólios em todas essas indústrias diferentes?
Bem, eles vão explorar os consumidores. Nós vamos ter mais vigilância. Há mais concorrência. Eu acho que eles não podem simplesmente sentar e dizer: "Eu não estou fazendo pesquisa e desenvolvimento. Eu não estou alcançando". Mas receio que muito disso advenha da compra de outras empresas. As startups têm essas idéias e depois são compradas. E então eles dissolvem seus empolgantes poderes nessas empresas maiores.
Mas essas empresas não podem se sentar e não fazer nada. Veja o que aconteceu com a Microsoft. Realmente ficou para trás. Veja a Intel. A Intel costumava ser um dos gigantes. Agora está atrasado. As pessoas não usam mais grandes computadores e laptops têm chips diferentes e não contribuem para o celular. Então eles terão que inovar. Espero que não o façam comprando empresas de outras pessoas e depois diluindo os efeitos dessas empresas, o que parece estar acontecendo.
Você tem um ensaio sobre o Bug do Milênio, que a maioria das pessoas precisará do Google para descobrir o que era. Mas eu estava lhe dizendo, antes de irmos ao ar, que eu estava na redação na véspera de Ano Novo em 1999 e ninguém sabia realmente o que iria acontecer. Sabíamos que os computadores pessoais provavelmente estariam bem, mas todo mundo estava meio preocupado com o que acontece na usina com o computador na sala dos fundos que ninguém verifica há 10 anos. Mas você pode falar um pouco sobre o que aconteceu então e quais lições podem nos trazer hoje.
Uma das coisas maravilhosas sobre isso é o motivo pelo qual conheci programadores que escreveram esse código nos anos 60 e disseram: "Eu nunca esperava que esse código vivesse tanto tempo". A empresa Texaco era a única grande corporação que estava disposta a abrir o capital para dizer: "Isso não é uma farsa. É isso que estamos fazendo. Esses são os problemas que estamos enfrentando".
E seus esforços foram heróicos. E havia pequenas coisas locais que não foram divulgadas. Mas eu sabia em meu coração, conversando com esses programadores e líderes de projetos dedicados, que tudo ficaria bem porque eles estavam realmente planejando. A lição para nós agora é que ainda estamos usando todo esse código antigo. Temos esse front-end chamativo e você tem a Internet, que está realmente estressada. E esse é um código muito antigo.
A razão pela qual estamos tendo todos esses hacks é que a internet nunca foi projetada para privacidade e anonimato. Foi projetado para ser colegial e aberto. Ninguém construiu a idéia de que haveria essas trovoadas estrondosas. Portanto, temos uma vulnerabilidade lá. Voltamos aos servidores fazendo algoritmos, no sistema operacional chamado Linux. O Linux volta muito atrás.
Se você se aprofundar cada vez mais no que está por trás das coisas bonitas, encontrará código antigo, código antigo, código antigo. E os programadores escrevem coisas que se baseiam no outro código e nem sempre - muitas vezes não - entendem os detalhes das coisas com as quais estão interagindo. Então a lição continua.
Excelente. Eu quero falar um pouco sobre você sobre IA. Parece que estamos nessa posição com a internet, que tem todas essas conseqüências não intencionais que ainda estamos tentando resolver - e agora estamos nascendo essa tecnologia totalmente nova, com todas essas implicações. Você vai a muitas empresas e elas têm sistemas de IA em execução, que tomam decisões de negócios e fazem recomendações, e eles literalmente não conseguem descobrir como chegaram lá. Eles não conseguem identificar o processo que chegou à conclusão. Eles apenas sabem que funciona. Você pode falar um pouco sobre o que isso pode significar?
Eles acham que funciona. A tendência agora na IA, toda a idéia de um robô humanóide que não podemos distinguir de um ser humano realmente foi esquecida. Isso prova que é muito, muito, difícil entender como os seres humanos funcionam da maneira que funcionam. Agora é aprendizado de máquina. A ideia é que você escreva um algoritmo. Ele analisa os resultados e muda a si próprio; depois, analisa os resultados e aprende.
Agora, o que acontece é que as pessoas que escreveram esse algoritmo original realmente não sabem o que acontece após várias iterações. E o código se afasta cada vez mais das pessoas que o entendem. Portanto, é um tipo de monstro, você sabe, no sentido de que opera por conta própria. E sim, funciona, mas o que está faltando?
Ele trabalha com dados que apresentam viés. Ele tem um viés antes de tudo, no passado. Existem erros. Portanto, o que ele está aprendendo também é tendencioso e propenso a erros. Eu me preocupo com a IA nesse sentido, especialmente a idéia de carros autônomos. E que estamos falando sobre danos humanos reais. E eu poderia falar muito sobre isso, então é melhor eu parar.
A maioria das previsões diz que os carros autônomos serão mais seguros que os motoristas, o que eu sinto que os motoristas são uma grande parte do problema nas estradas hoje.
Motoristas humanos têm uma história de 100 anos de condução de carros. Então aqui está o que os humanos podem fazer - eles não olham apenas para a proximidade ao seu redor. Você sabe que quando estiver dirigindo, mesmo desatento, se tiver alguma experiência, poderá ver à sua frente, 400 metros, 800 metros acima de uma colina que está tudo congestionado, e você terá que se preparar para parar.
Você pode ler a personalidade dos carros. Alguém chega na pista mais distante ali. Você vê a marca, o modelo, a agressividade do motorista. Quando esse carro se move, você sabe que isso vai te impedir. Você não espera por um alarme de proximidade. Os seres humanos sabem de uma maneira que, num piscar de olhos, ou vou sofrer um acidente ou entrar em uma fúria na estrada com este carro. Ou vou dizer: "Ok, vá em frente".
Agora, vamos às maneiras pelas quais os carros autônomos podem bater. Novamente, eles contam com interfaces de máquina para máquina. E haverá erros nesse código, ponto final. Então eles vão se comunicar pela Internet ou por alguma rede sem fio. Grande vulnerabilidade lá. Vimos que os carros que operam sem fio já foram invadidos por hackers brancos para mostrar: "Olha, eu posso fazer seu carro sair da estrada".
Então, como isso é protegido? E depois há a interface entre diferentes marcas e modelos. Agora você acha que todo mundo vai dirigir um Prius? Não, os humanos querem diferentes tipos de desempenho. Assim, haverá novamente concorrência em como os carros operam, como o motorista ou os ocupantes querem se sentir quando estão na estrada.
Haverá algum tipo de API padrão, a Interface de aplicativo, que é famosa por propensão a erros. Mas, existem muitos, muitos pontos de falha que podem acontecer lá. Além disso, eles não podem dirigir na neve.
Existe isso.
Existe isso. Quero dizer, você vê, você seria inútil?
Você acha que teremos carros autônomos que serão propensos a erros e a riscos à segurança? Ou que você não acha que podemos realmente construir um carro autônomo seguro e que a tecnologia vai demorar muito mais do que as pessoas pensam?
Eu acho que isso vai acontecer. Eu acho que em estradas de acesso limitado, como estradas, vai funcionar bem. A menos que esteja nevando ou chovendo forte. Tem que ver as linhas. E então tem que ver as luzes de freio e as luzes dos carros ao seu redor. E assim, com pontos de vista limitados, eles estão adicionando outros LIDAR e assim por diante.
Eventualmente, funcionará. Vai demorar um pouco mais. No momento, acho que existem algumas cidades que estão construindo uma infraestrutura no centro da cidade para os carros. Mas estamos aqui em Manhattan e estamos tendo problemas para manter o metrô funcionando. Você acha que vamos levar bilhões de dólares para transformar Manhattan em um lugar que possui sensores para carros autônomos? Não sei, daqui a centenas de anos, se Manhattan não foi inundada pelos mares subindo?
Estará lá. Mas acho que a euforia - e, como de costume, sou o representante sombrio - sinto que estou na gangorra, e há todo mundo que realmente sabe o que está fazendo, e sou como uma pulga pulando no outro final, tentando diminuir um pouco e nivelar os pontos de vista. Tempere as expectativas. Todos devem conhecer o trabalho árduo que precisamos fazer antes que essa maravilhosa expectativa possa ser cumprida.
Vou fazer algumas perguntas que peço a todos que participam do programa. E este deve ser fácil para você. Qual tendência tecnológica mais preocupa você? Existe algo que te mantenha acordado à noite? Nós podemos fazer um show inteiro.
Todos acima. Isso não me mantém acordado à noite. Quero dizer, passo tempo suficiente pensando nisso durante o dia. Eu sei, uma das perguntas que acho que você pretendia fazer era: as pessoas deveriam fazer uma pausa de tudo isso? Sim.
Hoje, quase fui jogado na rua por alguém que passava de scooter.
E um telefone?
Com fones de ouvido e um telefone. Então isso realmente me preocupa. As pessoas podem realmente se machucar.
As pessoas se machucam todos os dias na cidade de Nova York porque todo mundo está olhando para o telefone e está andando.
Sim, eu moro na área sul do mercado. Estou morando em São Francisco, na Startup Alleys, Second Street. Agora, uma coisa é dizer que todo mundo está olhando para o telefone, mas quando você tenta andar na rua em direção ao norte, quando todo mundo está em direção ao sul, e 100 pessoas estão olhando para o telefone, é realmente como, eu sinto que estou ' estou vivendo em um mundo alienígena.
