O Lado Oculto é uma publicação livre e independente. As opiniões manifestadas pelos colaboradores não vinculam os membros do Colectivo Redactorial, entidade que define a linha informativa.

INTELIGÊNCIA ARTIFICIAL E CONTROLO SOCIAL

Sam palavras

2019-03-08

Jorge Fonseca de Almeida*, especial para O Lado Oculto

A inteligência artificial (AI) em conjunto com outras tecnologias veio permitir um nível de vigilância e de manipulação de massas sem precedentes (Benoît, 2017). A AI permite “ … aos governos monitorizar, perceber e controlar os seus cidadãos de muito mais perto do que alguma vez no passado“ (Wright, 2018). Ela pode servir para o ressurgimento do fascismo ou de regimes autoritários como estamos a observar no Leste europeu, na América Latina e mesmo nos Estados Unidos.

Ancorada em poderosos algoritmos, muitos já capazes de aprender (partindo de um conjunto de dados, chegar à relação entre eles), a AI espalha-se hoje em múltiplas aplicações que vão da medicina, à aviação, passando pelos carros sem condutor, do recrutamento de trabalhadores, a interfaces de linguagem natural, ao marketing e às vendas. Está presente no Retalho, na Agricultura, na Educação, nas Redes Sociais, no sector Financeiro, etc., etc.. A AI começa a estar presente em todas as actividades humanas.

A AI inclui os seguintes campos: Máquinas que aprendem, Robótica, Processamento de Imagens, Reconhecimento da fala, Processamento de língua natural e computação cognitiva.

Quão inteligente já é a AI?

Em 1997, o programa Deep Blue de Inteligência Artificial criado pela IBM enfrentou um campeão mundial de xadrez, o russo Gary Kasparov, num jogo de seis partidas realizado em Nova Iorque. A primeira partida começou bem e Kasparov ganhou, mas na segunda, envolvida em grande controvérsia, a vitória foi do Deep Blue. A terceira, a quarta e a quinta partida foram empates. Tudo seria decidido na última partida. Kasparov arriscou, Deep Blue aproveitou a situação e ganhou a partida em menos de 20 jogadas. Pela primeira vez um campeão mundial era batido por um computador dotado de inteligência artificial.   

Capaz de analisar e classificar centenas de milhões de alternativas em poucos segundos, os computadores dotados de Inteligência Artificial podem ultrapassar, em velocidade e correcção, o raciocínio humano em muitas e variadas tarefas intelectuais.

Por outro lado, os investigadores estão também a tentar imitar o comportamento do cérebro, procurando o modelo matemático que permita reproduzir a interacção dos milhões de neurónios e suas sinapses. Tarefa gigantesca que contudo não se afigura impossível. Já está em fase avançada o mapeamento e imitação do cérebro de um pequeno verme com menos de meia centena de neurónios. Se este projeto, designado OpenWorm (http://openworm.org/) for bem-sucedido, então é só uma questão de alargamento de escala.

A Inteligência Artificial não é um sonho é já uma realidade.

Geografia do investimento em Inteligência Artificial

O grande investidor em Inteligência Artificial são os Estados Unidos, canalizando milhares de milhões de dólares para a pesquisa, desenvolvimento e criação de aplicações práticas no domínio militar e civil. Segundo o Word Economic Forum, os Estados Unidos investem mais em Inteligência Artificial do que todos os outros países juntos. 

Na verdade, as principais empresas nesta área são norte-americanas como a Google, a Apple, a GE Healthcare, a Microsoft, etc.

Na lista dos 10 maiores investidores, elaborada pelo Instituto Wuzhen, verifica-se que os Estados Unidos investiram entre 2012 e 2016 cerca de 17,9 mil milhões de dólares, enquanto os nove países seguintes apenas investiram 6,119 mil milhões de dólares, menos de metade do que investiram os EUA.

                                                                                                            Quadro 1
                                                                             Investimento em Inteligência Artificial

Em termos de patentes na área da Inteligência Artificial os Estados Unidos lideram com 26,891, logo seguidos pela China com 15,745 (dados de 2016).

Significativo o facto de a China surgir já em segundo lugar quer em patentes quer em investimento, numa área em que a Rússia nem sequer aparece nos 10 primeiros lugares.

E que fazem os Estados Unidos com estas novas ferramentas matemáticas e computacionais? Como as utilizam? Para o bem comum ou para aprofundar e perpetuar desigualdades? 

Na realidade os EUA estão a aplicar a Inteligência Artificial essencialmente em quatro áreas. Vejamos:

1. Usos civis variados

Aqui se incluem os programas que conseguem fazer diagnóstico médico com base nas respostas a um questionário ou em resultados de análises; os programas que permitem a um retalhista perceber os gostos e as preferências dos seus clientes e apresentar-lhes ofertas desenhadas à medida; os programas que guiam os robots industriais essenciais em tantas indústrias; os programas que permitem pilotar um avião cheio de passageiros; os programas que gerem complexas redes de telecomunicações ou de distribuição de energia, os que analisam os resultados de sensores e comunicam situações de risco, os de segurança que identificam as feições de pessoas, os que fazem o recrutamento de trabalhadores, etc., etc. 

Muitos destes sistemas são benignos e podem aumentar a produtividade, permitindo uma libertação do ser humano de tarefas árduas e pesadas ou simplesmente repetitivas.

2. Usos económicos e especulação bolsista

Com base na análise técnica de poderosos algoritmos tomam-se hoje decisões de compra e venda de acções e outros activos em bolsa. 

O papel destes algoritmos na crise financeira de 1987 é bem conhecido, uma vez que os sistemas utilizados por vários bancos e fundos de investimento eram similares e todos deram indicações de venda em simultâneo, lançando o caos no mercado e aprofundando as quedas das cotações. Mas esses eram algoritmos da primeira geração, sendo hoje muito mais sofisticados e robustos.

Hoje, a grande maioria dos grandes investidores bolsistas (fundos mobiliários, hedge funds, fundos de pensões, etc.) tomam as decisões de compra e venda através destes complexos algoritmos, não dispensando, contudo, uma orientação estratégica humana. Mas, depois de estabelecidos objetivos globais, os algoritmos, diretamente ligados às bolsas, fazem o resto. 

Por exemplo, a maioria dos portugueses está classificada, por estes sistemas de inteligência artificial, em termos de risco de crédito. Estes sistemas utilizam informação sobre a história de pagamento de anteriores empréstimos, dados demográficos, os rendimentos auferidos e outra informação para determinar quanto pode cada pessoa pagar mensalmente e, consequentemente, quanto pode pedir emprestado face às dívidas que já tem. 

Estes programas estão presentes em todas as decisões financeiras, desde a simples aprovação de um cartão de crédito, de crédito pessoal ou à compra de habitação, ao investimento no mercado de mercadorias (petróleo, trigo, ouro ou qualquer outra), ao de acções, obrigações ou derivados. Também ao nível de pequenas e médias empresas eles podem já fazer a análise financeira e de balanços, e tomar decisões sobre o crédito a conceder.

Na verdade, estes algoritmos são poderosos aliados da especulação financeira e tomam hoje já muitas das decisões que no passado eram da responsabilidade de analistas e especialistas.

3. Algoritmos discriminatórios, racistas e de controlo social

Computadores poderosos, capazes de processar quase instantaneamente milhões de dados pessoais com algoritmos de fórmulas complexas, permitem classificar as pessoas e sobre elas tomar decisões que afectam duradoiramente as suas vidas. Alguns destes algoritmos são verdadeiras armas de destruição em massa.

Veja-se o exemplo dos programas que medem a probabilidade de uma pessoa vir a cometer um crime e que são já utilizados pela Polícia nos Estados Unidos, trazendo para a nossa realidade o que no filme Minority Report nos pareceu ficção científica irrealista.

Nesse país, com base no local de residência, no tipo de transportes públicos utilizado, na escola que frequentamos, no emprego que temos, nas lojas em que compramos, classificam-se já as pessoas com um grau de probabilidade de vir a cometer um crime grave. Naturalmente que as pessoas assim classificadas são as que vivem em bairros degradados, as que pertencem a minorias étnicas, as que são pobres. 

Contudo, estes programas já são usados em tribunal para pedir condenações mais longas para as pessoas que o algoritmo classifica como potencialmente capazes de reincidir. Os juízes norte-americanos têm sistematicamente condenado a penas mais pesados os indivíduos a quem esses programas atribuem uma classificação de maior risco. Desta forma, as pessoas são já condenadas por crimes que não cometeram, mas que um programa enviesado e racista lhes atribui antecipadamente.

Típico é o caso de Vernon Prater e Brisha Borden, cujas classificações foram atribuídas após um crime em que foram cúmplices. Os seus passados, em termos criminais, apontavam para crimes de maior violência por parte de Prater mas ele, branco, foi classificado de Baixo Risco e ela, negra, de Alto Risco. Pouco depois, ele voltou a cometer vários assaltos à mão armada enquanto ela nunca mais regressou a actividades ilegais. Uma classificação unicamente racista. 

Exemplo não menos dramático é o modelo matemático, hoje muito usado por empresas de recrutamento, que elimina as candidaturas de pessoas com determinadas características ou simplesmente tipologia de nomes (africanos, hispânicos, árabes, etc.) impedindo-lhe o acesso ao emprego. 

A raça é uma dessas características, sendo “negro” ou “não-branco” um autêntico sinal vermelho que impede a entrada em diversos tipos de actividades de grupos inteiros de pessoas. É certo que, nos Estados Unidos, é proibido discriminar pela raça, mas não o é pelo local de residência e, como se sabe, existe uma forte segregação espacial nesse (e no nosso) país pelos que os algoritmos se limitam a verificar o código postal. Recorde-se que muitos portugueses, que por cá se julgam brancos, nos Estados Unidos são classificados como negros ou “não brancos”.

O Facebook e outras ferramentas online usam os dados dos seus clientes para determinar quais os conteúdos que estes podem ver, recusando-lhes ou dificultando-lhes o acesso a outros. O argumento é que detetam as preferências dos consumidores e que, consequentemente, lhes oferecem os conteúdos de que as pessoas mais gostam. 

Mas a realidade mostra que, na verdade, a selecção de conteúdos é feita com intuitos políticos e ideológicos. Consegue-se assim manipular cada pessoa individualmente levando-a a pensar sobre cada assunto da maneira que interessa ao sistema. Por exemplo, conteúdos referentes a greves, a actividades de forças de esquerda, a países demonizados, são difíceis de aceder. No Facebook, a censura a notícias favoráveis à Palestina foi de tal ordem que acabaram forçados a admiti-la, mas não a alteraram.

Esta manipulação das mentes é hoje aplicada em larga escala.

Pensa-se que com os poderes que ganharam com o Patriot Act, aprovado com base na luta contra o terrorismo, e depois sempre renovado com algumas pequenas reversões, os serviços de recolha de informação dos EUA possam classificar uma grande parte da população mundial em termos de fiabilidade/lealdade política em relação às suas políticas.

Assim, temos uma polícia política que não só conhece o pensamos como dispões dos meios para ir alterando a seu favor o que pensamos. Um controlo social sem fronteiras e decidido da Casa Branca.

4. Usos militares

A Inteligência Artificial tem um largo campo de aplicação ao nível militar. Desde o cálculo estratégico e de planeamento dos sistemas de forças até a armas autónomas e semiautónomas capazes de identificar os seus alvos e de os destruir sem intervenção humana.

Na verdade nos chamados três Cs - Comando, Controlo e Comunicações – a Inteligência Artificial pode assumir um papel determinante, analisando alternativas, gizando estratégias e táticas, decidindo em tempo real e muito mais rápido do que qualquer humano como e onde empregar as forças armadas.

Em termos de armas autónomas, os chamados robôs assassinos, as Nações Unidas procuram mediar um tratado que permita banir este tipo de armas, mas o tratado foi bloqueado pelos EUA, Israel, Coreia do Sul entre outros. Um verdadeiro eixo do mal. 

Outras áreas incluem a previsão de necessidades de manutenção de equipamentos militares de grande custo como mísseis, bombas atómicas, submarinos, porta-aviões ou aviões, permitindo mantê-los com o maior grau de operacionalidade.

Aqui, no campo militar, é que se concentra a fatia principal do investimento em AI dos Estados Unidos. 

Conclusões

A Inteligência Artificial, aliada à capacidade de computação, está já suficientemente desenvolvida para ter uma aplicação crescente em praticamente todas as áreas do labor humano.

Existem muitas aplicações positivas da Inteligência Artificial, no campo da medicina, da robótica, da decisão sobre factores de risco, que permitem melhorar a vida do ser humano.

No entanto o esforço principal da Inteligência Artificial tem sido conduzido pelos Estados Unidos, principal investidor nesta área do saber, para aplicações de controlo social, de manipulação política e ideológica e para fins militares. 

Um grave perigo para a Liberdade da Humanidade. É importante iniciar uma reflexão e discussão públicas das vantagens e desvantagens da Inteligência Artificial que permita moldar uma política diferente na aplicação desta técnica admirável.

 *Economista, MBA

Mais notícias...

Iniciar sessão

Recuperar password

goto top