Setembro de 2017 - Vol.22 - Nº 9

COLUNA PSIQUIATRIA CONTEMPORÂNEA

A ERA DOS ALGORITMOS

Fernando Portela Câmara, MD, PhD
Instituto Stokastos (*)

Muito do nosso conhecimento atual da natureza e da sociedade está sendo construído a partir de modelos computacionais, e não estamos certos se isto está interferindo na realidade do mundo em que vivemos. Um exemplo são os modelos de aquecimento global, baseados em estimativas e projeções simuladas em modelos computacionais. De fato, não há uma preocupação da sociedade em saber se os algoritmos que agora orientam os destinos do mundo nos trarão soluções para os problemas sociais, econômicos, geopolíticos e humanitários mais prementes. Estarão eles corretos? Os pressupostos em que foram construídos são confiáveis? Um drone que na suposta caça a um terrorista mata famílias inteiras porque o algoritmo que controla a operação de busca acusou uma alta probabilidade de identificação de alvo, estará correto? A facilidade com que máquinas programáveis permite a realização de coisas que até então seriam impossíveis alterou a ordem, a ética e a moralidade do mundo. Não é mais a época da razão e da filosofia, estamos agora na época dos algoritmos e entregamos às máquinas a procuração para atuarem em nossos nomes. Nossa existência como espécie é regulada por mitos, leis, valores, construções sociais, constructos linguísticos, artes e ciências que evoluíram por longo tempo, competindo entre si até formarem um sistema coerente que nos permitiu construir nossa sociedade e as instituições que regulam nossas vidas. Mas isso já mudou. Estamos na pós-modernidade.

O aparecimento da automação substituiu a mão de obra humana por máquinas, e parte do seu labor intelectual para os computadores. A tecnologia informática transformou em bits as gestões de negócios, administrações pública e privada, e a moeda circulante. O mundo tornou-se virtual. Hoje não sabemos quanto dinheiro há no mundo, como ele circula. Sabemos apenas que existe uma nuvem virtual de negócios, transações, e somas, mas não sabemos onde está, que numerário existe de verdade, como tudo isso é administrado na rede mundial de computadores. Tudo está nos bancos de dados das máquinas, e se houver uma pane na rede mundial um colapso será inevitável. A segurança da informação é hoje o calcanhar de Aquiles da Civilização. Foi isto a causa do medo que tomou o mundo com a iminência da virada do milênio (o “bug do milênio”). Temia-se que na virada do ano 2000 os computadores retornassem a 1900, reconfigurando todos os negócios: as contas bancárias iriam zerar, as transações desapareceriam e a bolsa iria ao colapso. O medo existia porque não se estava mais certo do que poderia acontecer na rede  mundial de computadores que detém todas as transações de negócios do mundo. O mito do domínio das máquinas, tido como um temor pueril tornou-se um risco real, e esse risco aumenta na medida em que uma máquina lógica passa a computar em escala de terabytes, e sua lógica passa a se impor sobre as decisões a tomar. A internet, com seu alto grau de conectividade, mantém bilhões de pessoas conectadas e isso está configurando uma mudança radical no comportamento humano, nas relações sociais e emocionais, e nos conceitos de país, nação, mercado, cidade, governo. Não se trata mais de uma computação convencional, finita, mas uma computação contínua que recomeça de diferentes pontos sempre que um hiperlink é acionado. É possível, segundo as leis da dialética, que a complexidade da rede mundial de computadores possa experimentar um salto de qualidade, na medida em que sua capacidade computacional aumenta exponencialmente - um fenômeno não estranho à evolução do cérebro e, em especial, do cérebro humano. Ray Kurzweil chamou isso de singularidade, mas penso que este salto consiste na perda do controle sobre como nos governaremos, algo que já acontece e que sutilmente se insinua na vida de todos nós.

O computador foi primariamente projetado para ser uma máquina de somar ultrarrápida, mas a possibilidade de programação lógica e a precisão e rapidez de processamento deram à computação um status de poder intelectivo que serve de instrumento para a ampliação de setores da inteligência humana além dos limites humanos. Outras formas de computação em paralelismo massivo distribuído, como as redes neurais da Google, Facebook, IBM, para citar algumas empresas, vêm aumentando setores da capacidade cognitiva para tomar decisões que não levam em consideração aspectos filosóficos, sociais, morais, culturais do humano. A máquina não tem propósitos, valores ou moralidade, atua por lógica pura e a lógica, por definição, não tem conteúdo, mas apenas estrutura. Se os que dirigem o nosso destino deixaram as decisões sob a responsabilidade de arquiteturas de microchips, não irá demorar para que não mais tenham controle sobre a complexidade que criaram e para a qual o cérebro humano não tem capacidade de reorganizar.

(*) http://institutostokastos.com.br/

Nota. Este artigo é um capítulo do meu livro “Neurocibernética”, que em breve sairá publicado. A bibliografia e outros capítulos relacionados estão nele. Ao referir este artigo, mencionar o autor e título do livro.