Ricardo Abramovay: Blade Runner é hoje — Os replicantes estão chegando

Os benefícios da inteligência artificial se fazem ver em várias áreas. O mesmo vale, contudo, para as ameaças sopradas pelo turbilhão tecnológico. Entre elas, segundo o autor, estão a autodeterminação das máquinas, o desemprego e o fim da privacidade. A falta de uma agência reguladora global acentua o temor.

“Por muito agarrados que estejamos à vida, até uma serpente hesitaria diante da eternidade”, diz o personagem de José Saramago no início da História do Cerco de Lisboa. Mas a morte, como componente incontornável da vida, pode estar com os dias contados.

Ray Kurzweil, cientista da computação, inventor e futurologista, autor de best-sellers sobre inteligência artificial e saúde, prevê que a vida eterna vá se tornar tecnicamente possível a partir de 2029. Ou seja, em 12 anos.

O prognóstico poderia soar como desvario se Kurzweil não trabalhasse na área de inovação de um dos chefes de fila da pesquisa sobre inteligência artificial, o Google.

Além disso, ele está envolvido em façanhas como o reconhecimento ótico de caracteres e a transmissão direta da linguagem falada para impressoras.

Daí à eternidade não há muito mais que um passo — ao menos é nisso que acreditam os adeptos do transumanismo. O movimento tem se desenvolvido nos últimos 20 anos e procura melhorar o funcionamento do organismo humano por meio da engenharia genética, das tecnologias da informação, da nanotecnologia molecular e da inteligência artificial.

A humanidade, segundo os transumanistas, não é o ápice da evolução. A ciência e a tecnologia podem nos fazer pós-humanos, ampliando nossas capacidades muito além daquilo que um humano atual pode imaginar.

Transcendência ou morte. Eis o lema fundamental do transumanismo. De fato, nossa inteligência pode superar a maioria das atuais limitações biológicas. Nos próximos 20 anos, ciência e tecnologia provocarão em nós e em nossa organização social muito mais mudanças do que as registradas nos últimos 300 anos.

Maquina inteligente

Na base de todas essas transformações está uma diferença crucial entre o progresso técnico contemporâneo e tudo que o precedeu.

Se a Revolução Industrial promoveu a substituição da força animal e, posteriormente, do próprio trabalho humano por máquinas, agora é nossa inteligência que vai sendo trocada por dispositivos eletrônicos cada vez mais potentes.

O poder computacional desses aparatos dobra, em média, a cada dois anos. Vejamos: o sequenciamento genético custava US$ 100 milhões em 2001 (R$ 240,7 milhões, em valores de junho daquele ano) e US$ 10 milhões em 2008 (R$ 16,3 milhões, idem). Hoje, essas informações podem ser obtidas por US$ 1.000 (R$ 3.100). Os seis pequenos retângulos de silício que, em 1958, permitiram ao Vanguard I (o quarto satélite lançado ao espaço e o primeiro alimentado por energia solar) mandar informações à Terra custavam muitos milhares de dólares por watt. Na década de 1970, o preço tinha caído para US$ 100. Agora, a US$ 0,50, a energia solar já compete com o carvão. A Agência Internacional de Energia Renovável estima que ela baixe a US$ 0,05 ou 0,06 em oito anos.

Os dispositivos eletrônicos, além disso, não se confinam a um setor ou a uma dimensão da vida social; eles se combinam. Todos os objetos com que nos relacionamos se tornam meios de intensificar nossa conexão a redes cada vez mais amplas.

A natureza exponencial (dada pela velocidade do aumento da capacidade computacional) e combinatória das tecnologias atuais faz com que as mudanças sejam incontornáveis e irreversíveis.

Os ganhos reais e potenciais dizem respeito às mais diversas áreas, da geração de energia à produção de bens materiais, da agricultura de precisão aos automóveis autônomos, da prevenção de doenças à criação cultural, da organização urbana às finanças e à circulação de informação.

Ao mesmo tempo, porém, ampliam-se a apreensão e os alertas relativos aos riscos da evolução tecnológica, e eles partem de atores importantes. Alguns não hesitam em comparar esses riscos aos representados pelos artefatos nucleares e pelas mudanças climáticas.

A diferença é que a corrida nuclear e as mudanças climáticas estão enquadradas por algum tipo de acordo e de governança global, mesmo que o resultado dessas iniciativas seja contestável.

Ameaças

Quanto ao avanço da inteligência artificial, não há nenhuma coordenação nem sequer para sinalizar as ameaças — entre as quais destacam-se quatro. A primeira refere-se não tanto ao poder desse conjunto de tecnologias, mas, sobretudo, a sua autonomia.

Nick Bostrom, professor de filosofia em Oxford (Inglaterra) e um dos expoentes do transumanismo, publicou em 2014 o livro Superintelligence. Paths, Dangers, Strategies (Oxford University Press; superinteligência – caminhos, perigos e estratégias), que se tornou best-seller nos Estados Unidos. Na obra, afirma que a superinteligência “é, possivelmente, o mais importante e intimidador desafio que a humanidade jamais enfrentou”.

Bostrom compara nosso uso da inteligência artificial ao que faz uma criança brincando com uma bomba. O que está em jogo, de acordo com ele, muito mais que uma explosão, é nossa capacidade de manter a própria condição humana.

Essa preocupação já estava presente entre os pioneiros da inteligência artificial, nos anos 1950. Eles haviam percebido que as máquinas poderiam fazer muito mais do que simplesmente pensar numericamente. Eram (e, de fato, tornaram-se cada vez mais) capazes de deduzir e de inventar provas lógicas.

Atualmente, elas vão bem além. Podem aprender, e não só a partir daquilo que nós lhes ensinamos. Esse aprendizado também se baseia no rastreamento das informações que circulam nos meios digitais, uma imensidão de dados interpretada por meio de algoritmos cada vez mais complexos e opacos.

É por causa desse rastreamento que você, após escrever a um amigo dizendo que pretende ir a Santiago, passa a receber mensagens publicitárias sobre passagens de avião e hospedagem no Chile.

O avanço exponencial e combinatório do poder computacional difundido nos mais variados tipos de objeto não amplia só a magnitude das informações coletadas. Amplia também, e sobretudo, a capacidade dos algoritmos de analisar e interpretar esses dados.

Sua geladeira saberá que você está sem leite. Sua máquina de lavar dirá qual o momento de menor consumo de energia no sistema ao qual você está ligado. A temperatura dos ambientes poderá ser regulada em função da presença ou da ausência de pessoas em seu interior e à distância.

Já existem técnicas que permitem circunscrever a aplicação de fertilizantes e agrotóxicos a necessidades específicas de cada lote da unidade produtiva, por meio da interpretação de informações captadas por drones e decodificadas por poderosos algoritmos. Baterias de celulares serão recarregadas por sinais de rádio, via wi-fi.

Internet da energia

Está emergindo uma internet da energia, que monitora o que os domicílios, as fábricas, os escritórios e as fazendas produzem a partir do Sol, dos ventos e da biomassa, distribuindo essa energia conforme as necessidades do conjunto dos usuários. Quem produzir mais energia do que consome tem crédito; quem produzir menos paga. São as chamadas “redes inteligentes”, que compatibilizam noções que o século 20 sempre considerou antagônicas: descentralização e eficiência.

As virtudes da internet das coisas, o fato de que cada um dos bilhões de objetos de nosso cotidiano vai sendo dotado de um protocolo de internet que o identifica e faz dele uma fonte de informação, a cognificação generalizada do mundo material, isso também se estende às pessoas. É o que especialistas batizaram de computação afetiva.

A Apple, no início de 2016, comprou a Emotient, empresa líder em reconhecimento facial e que tem a ambição de detectar nossos estados emocionais. É a internet das emoções. Você está triste? O que posso fazer para que você melhore seu estado de ânimo?

Alguns dos estudiosos do tema sustentam que nós somos a última geração mais inteligente que as máquinas.

Essa espécie de triunfo da inteligência humana sobre ela mesma se apoia naquilo que o historiador Yuval Noah Harari, em seu recém-publicado Homo Deus: Uma Breve História do Amanhã (Companhia das Letras), chama de o grande desacoplamento: “A inteligência está se desacoplando da consciência”.

Até há pouco, apenas seres conscientes “podiam realizar tarefas que exigissem alto grau de inteligência, como jogar xadrez, dirigir automóveis, diagnosticar doenças ou identificar terroristas”.

Cognição sem corpo

Já temos, porém, e teremos cada vez mais, uma inteligência não apenas sem corpo como também desprovida de emoções e sentido social e, no entanto, capaz de realizar tarefas complexas com mais eficiência que os humanos.

Gerd Leonhard, empreendedor e pesquisador, vai além no livro Technology vs. Humanity: The Coming Clash Between Man and Machine (Fast Future; tecnologia x humanidade: o embate vindouro entre homem e máquina), publicado há alguns meses. Ele sustenta que a inteligência artificial representa uma dissociação entre nossa capacidade de interferir no mundo e as bases éticas dessa intervenção.

A maior ameaça ligada à inteligência artificial deriva do fato de que as máquinas conseguem mimetizar nossos padrões de comportamento ético, mas, por definição, não podem e jamais poderão se dotar de consciência ética. A tecnologia é um meio para atingir fins que só podem estar fora dela.

Se máquinas dotadas de inteligência artificial ampliam seu poder de gestão e de intervenção na sociedade e nos indivíduos, há o risco de que elas próprias definam as finalidades de suas ações.

Assim, nossa condição humana passaria a depender cada vez mais de dispositivos com aptidão para despertar em nós sentimentos que nos definem, como nossa felicidade, nosso sentido de pertencimento e até nossa libido.

Leonhard propõe uma espécie de agência para proteger os seres humanos, um Conselho Global de Ética Digital. Não se trata de esforço (vão) para deter a expansão das tecnologias digitais, mas sim para garantir que elas não comprometam aquilo que nos faz humanos.

Um exemplo? Nossa capacidade de desenvolver atividades úteis para os outros, de fortalecer nossa interação e, portanto, a própria coesão social. Em outras palavras, nosso trabalho.

Desemprego

É justamente aí que entra a segunda grande ameaça representada pela inteligência artificial.

Os mercados de trabalho estão sofrendo mudanças que respondem, em grande parte, pela espantosa reconcentração da riqueza nos países desenvolvidos, em particular nos Estados Unidos.

Até pouco tempo atrás, considerava-se que apenas trabalhos rotineiros e de baixa qualificação seriam deslocados pelo avanço da computação. A inteligência artificial, porém, derrubou essa barreira protetora.

Num escritório de advocacia, por exemplo, as máquinas são muito mais eficientes na pesquisa de julgamentos passados e de artigos de lei que podem ajudar na argumentação de um caso específico. Na medicina, a mesma ideia se aplica à interpretação de chapas radiológicas. A preciosa sabedoria dos taxistas não chega aos pés do que um dispositivo inteligente é capaz de saber.

Claro que a revolução digital também cria empregos, sobretudo na interação entre homens e máquinas. Mas ela o faz em volume menor que a Revolução Industrial, que, há dois séculos, começou a substituir as ocupações agrícolas.

Não é que o trabalho vá subitamente desaparecer, como atesta a situação de quase pleno emprego nos Estados Unidos. O mercado de trabalho, contudo, vai consolidando um padrão polarizado. A minoria dos detentores de conhecimentos apropriados à era digital consegue ganhos de renda, enquanto a grande massa dos assalariados aproxima-se da pobreza e, sobretudo, da irrelevância.

A capacidade de aprendizagem das máquinas e a multiplicação dos robôs torna cada vez mais fácil substituir o trabalho humano.

Atualmente, já se pode robotizar quase inteiramente o trabalho nas cadeias de fast-food, com as vantagens de maior padronização do produto, melhor higiene e amortização do investimento em menos de dois anos.

Se alguém imagina que isso se limita aos países desenvolvidos, vale lembrar que a China já é o maior mercado consumidor de robôs do mundo — e vai se tornando também o principal produtor.

Desigualdade

Carl Frey e Michael Osborne dirigem o Programa de Tecnologia e Emprego da prestigiosa Oxford Martin School, no Reino Unido. Seus trabalhos mostram que o ritmo dessas metamorfoses se acelera, que a lista de setores por elas atingidos se amplia e que, diferentemente das inovações típicas da era industrial, os benefícios das mudanças tecnológicas não são, nem de longe, amplamente distribuídos.

Levou 119 anos para que o fuso industrial, uma vez inventado, se tornasse padrão na tecelagem. A internet difundiu-se em menos de uma década, e os objetos conectados em rede, que já eram 13 bilhões em 2013, totalizarão nada menos que 500 bilhões em 2030.

As consequências sobre os empregos serão devastadoras, mostram Frey e Osborne. Estão em risco 47% dos postos de trabalho nos EUA, 57% na média dos países, desenvolvidos, da OCDE (Organização para a Cooperação e Desenvolvimento Econômico), 69% na Índia, 77% na China e 85% na Etiópia. A destruição tende a ser maior onde a estrutura ocupacional é mais distante da economia do conhecimento.

Tais preocupações não se confinam ao universo dos que desconfiam da tecnologia. Elas são hoje expressas por alguns dos mais destacados protagonistas contemporâneos da cultura digital.

Em 2015, o físico Stephen Hawkin e os empresários Elon Musk (criador da Tesla e um dos mais reconhecidos inovadores do mundo) e Bill Gates publicaram documento com forte alerta sobre as ameaças trazidas pelo avanço da inteligência artificial. A principal delas está na perspectiva de drástica redução de postos de trabalho.

Em fevereiro deste ano, Gates sugeriu que os proprietários de robôs deveriam pagar um imposto que serviria ao treinamento e à reinserção dos trabalhadores deslocados pela inteligência artificial.

Compartilhamento

A terceira grande ameaça representada pelo avanço da inteligência artificial refere-se à economia do compartilhamento.

Em 2010, Rachel Botsman e Roo Rogers publicaram um livro sobre a ascensão do consumo colaborativo. Contavam, encantados, a história dos jovens que tiveram a ideia de hospedar em casa pessoas que não encontravam lugar em hotéis durante um congresso de design, em San Francisco, em 2007.

A partir desse episódio, eles criaram um dispositivo digital que resultou no Airbnb. A novidade não era, claro, o colchão de ar e o bed and breakfast [cama e café da manhã], abreviados no nome daquela que se tornou a principal central de reservas de hospedagem no mundo atual.

O fascinante na iniciativa era a possibilidade, aberta pela conectividade generalizada, de que as pessoas colocassem à disposição umas das outras bens e serviços dos quais não necessitavam e que poderiam ser compartilhados.

Os resultados seriam a ampliação da renda de quem oferecia bens para compartilhamento, os preços mais baratos do que os cobrados pelos mercados convencionais e o potencial de economizar recursos materiais, com benefícios crescentes para o meio ambiente.

O segredo estava em conseguir que indivíduos que não se conheciam confiassem uns nos outros devido às referências digitalizadas. Daí o título do livro de Botsman e Rogers: O que É Meu É Seu (Bookman). Como a revolução digital permite a universalização da prática, o resultado seria o aumento generalizado da prosperidade.

A marca distintiva da economia moderna, a propriedade, seria então substituída pelo acesso. Por que possuir um carro se posso pegar carona? Por que comprar um jornal se as notícias estão disponíveis de forma aberta e gratuita na internet?

A era digital parecia prestes a realizar os mais nobres ideais de cooperação social e compartilhamento que os movimentos operários perseguem desde o século 19, sem o risco da centralização e da burocracia que marcaram o socialismo real.

O consultor e futurologista Jeremy Rifkin chega a prever “o eclipse do capitalismo” no livro Sociedade com Custo Marginal Zero: A Internet das Coisas, os Bens Comuns Colaborativos e o Eclipse do Capitalismo (M. Books).

Para Rifkin, o capitalismo será superado não por um tipo de tomada do Palácio de Inverno, ação pela qual os bolcheviques, em 1917, iniciaram a formação da União Soviética, mas pelo triunfo da cooperação social descentralizada, cujo caminho terá sido aberto pela economia digital.

Já Yochai Benkler publicou em 2011 o livro The Penguin and the Leviathan, com o subtítulo “How Cooperation Triumphs over Self-Interest” (Crown Business; o pinguim e o leviatã: como a cooperação supera o autointeresse).

A euforia emancipatória, contudo, teve vida curta. Em pouco tempo, aquilo que aparecia como expressão virtuosa de cooperação direta e descentralizada entre indivíduos autônomos revelou-se um dos mais importantes epicentros da acumulação financeira.

Pior: a ambição de compartilhamento na hospedagem acabou por contribuir para a degradação de cidades como Amsterdã, Barcelona, Berlim, Paris e Nova York.

Concentração

Em vez de dividirem com os outros os espaços não usados, proprietários venderam seus imóveis a companhias interessadas em explorar a locação. Os locais figuravam como bens pessoais, mas pertenciam a empresas.

Por causa disso, várias cidades adotaram legislações para impedir a desfiguração de suas áreas turísticas, como registra o norte-americano Tom Slee em What’s Yours Is Mine: Against the Sharing Economy (OR Books; o que é seu é meu: contra a economia do compartilhamento).

Não importa se alojamento, transporte, serviços de limpeza ou refeições rápidas; Slee mostra que a economia do compartilhamento converte-se sistematicamente em seu contrário. Ou seja, em lugar de distribuir oportunidades, ela vem dando lugar a uma concentração crescente de renda e de poder.

A quarta grande ameaça trazida pela inteligência artificial refere-se à privacidade. Michael Sandel, professor de filosofia política em Harvard, pergunta-se se não é perigoso estarmos nos aproximando de um cotidiano em que a vigilância — de governos, empresas de que compramos, companhias de seguro e empregadores — torna-se cada vez mais intrusiva.

Adeus à privacidade

As companhias de seguro já começam a propor a clientes que vistam dispositivos capazes de acompanhar sua vida cotidiana (exercícios físicos, consumo de álcool e tabaco, alimentação, sono). A partir dos dados coletados pela indumentária, os valores da apólice seriam elevados ou reduzidos. Segundo Sandel, a troca da privacidade pela conveniência levanta questões éticas que deveriam pautar as decisões de empresas e indivíduos. E se um empregador exigir que seu funcionário use o dispositivo?

Mas o pior é que estamos o tempo todo fornecendo o que há de mais precioso no mundo contemporâneo, ou seja, a informação, de forma gratuita e inteiramente involuntária. Em uma fala no TED (conferência sobre tecnologia, entretenimento e design), a jornalista especializada em tecnologia Marta Peirano mostra que, sem que saibamos, nossos celulares e todos os dispositivos conectados de que nos servimos estão produzindo informações processadas por algoritmos cada vez mais poderosos.

Essas informações não são só utilizadas por serviços de inteligência mas também por empresas que nos oferecem pontos por compras e que conhecem melhor nossos hábitos que nossos familiares. Diferentemente das empresas telefônicas, a maneira como esses dados são usados não é objeto de regulação estatal.

A privacidade, muito mais que um instrumento, é um valor. A ideia tão frequente de que o cidadão honesto nada tem a temer com a transmissão à rede dos dados de sua vida pessoal passa por cima justamente de um dos mais importantes fundamentos éticos da vida contemporânea, que é o poder do indivíduo sobre sua vida pessoal.

Não foi à toa que, em fevereiro, a Alemanha proibiu a comercialização da boneca Cayla, que ouvia e dialogava com as crianças. Enquanto fazia isso, ela armazenava as informações do diálogo — e o fazia sem o conhecimento dos pais. A preocupação das autoridades alemãs não impediu que o produto continuasse à venda nos EUA.

Discussão ética

Em suma, nunca foram tão poderosos os meios técnicos para melhorar a saúde humana, permitir que as pessoas levem adiante trabalhos interessantes, favorecer a cooperação social e ampliar a soberania dos indivíduos sobre suas vidas e suas decisões. Ao mesmo tempo, nunca foram tão avassaladoras as ameaças que emergem da concentração de riqueza e de poder ligada a esses meios técnicos.

É fundamental que se amplie a discussão pública (sobretudo a de natureza ética) sobre esses temas, pois é daí que virão políticas e iniciativas empresariais e cidadãs que poderão colocar a inteligência artificial a serviço do florescimento da espécie humana.

* Ricardo Abramovay, 63, professor sênior do Instituto de Energia e Ambiente da USP, é autor de Muito Além da Economia Verde (Planeta Sustentável).

** Foto: Reprodução/Ricardo Abromovay

Os riscos políticos da desindustrialização prematura
Robôs, personagens do capítulo inicial de uma era de transformação
A democracia e os efeitos destrutivos da inovação tecnológica
O capitalismo Lava-Jato
Vitoriosos da globalização
A pegada material da economia contemporânea
Carros do século XXI
Quatro forças decisivas na luta contra as mudanças climáticas em 2017

Fonte: Folha de S. Paulo, 2 abr. 2017

by Fundação Astrojildo Pereira