13 Riscos, perigos e ameaças da Inteligência Artificial (IA)

Como futurista (palavra chique para “previsão estratégica”), sou frequentemente questionado sobre a inteligência artificial e os seus potenciais riscos para a humanidade. As perguntas inclinam-se muitas vezes para cenários saídos diretamente da ficção científica: máquinas superinteligentes que dominam o mundo, robôs que se tornam autoconscientes ou IA que, de repente, decide eliminar a humanidade (como austríaco, percebo o legado – Hey Arnold :D). Mas deixa-me ser claro: não estamos nem perto de qualquer um destes cenários e, francamente, estas discussões distraem-nos dos desafios reais e prementes que a IA apresenta.

O que me preocupa não é a fantasia de uma inteligência artificial geral malévola, mas sim a forma subtil e insidiosa como a atual tecnologia de IA já está a afetar a nossa sociedade. Enquanto os “Tech Bros” de Silicon Valley pregam nas suas torres de marfim sobre a inteligência artificial geral e a singularidade, estão a ignorar (ou talvez a ignorar deliberadamente) os impactos mais imediatos do que é, na realidade, uma tecnologia bastante limitada.

Sejamos honestos – a maior parte da IA atual (especialmente a IA generativa) é fundamentalmente burra. Além disso, para sermos claros – a IA já existe há muitas décadas e desde o início dos computadores, por isso não é uma coisa do OpenAI ou do ChatGPT que acabámos de descobrir, apenas uma evolução natural da tecnologia que de repente se tornou popular porque podia “falar contigo” e nós pensamos automaticamente que é inteligente. A explicação mais simples: É a correspondência de padrões em esteróides, calculando a média de enormes quantidades de informação para produzir resultados aparentemente inteligentes. Sim, consegue processar a informação mais rapidamente do que os humanos e encontrar ligações que nos poderiam escapar, mas não tem uma verdadeira compreensão, contexto ou pensamento original. Estamos essencialmente a trabalhar com modelos estatísticos sofisticados que, apesar das suas capacidades impressionantes, nem sequer correspondem à inteligência geral de um gato doméstico.

Mas isso não significa que a IA não seja poderosa ou potencialmente perigosa. As suas verdadeiras ameaças não residem num futuro hipotético de máquinas conscientes, mas na forma como está a ser utilizada atualmente e nas consequências que terá para o nosso futuro (humano): influenciar comportamentos, espalhar desinformação, corroer a privacidade e, o que já podemos observar, diminuir potencialmente as nossas próprias capacidades cognitivas. Estes são os desafios que temos de enfrentar, porque são reais e já constituem um problema.

Fiz um brainstorming e uma pesquisa, e aqui estão 13 áreas-chave de “preocupação” – achei que o número dava um toque de melodrama ao meu título. Mas, ao contrário das típicas previsões do dia do juízo final, estas baseiam-se na tecnologia atual e na sua evolução lógica. Por isso, ao contrário de outros, vou evitar demasiadas ameaças de ficção científica, mas sim olhar para a realidade prática de como a IA está a ser desenvolvida e implementada no nosso mundo.

Em geral, há 4 categorias que eu distinguiria e que facilitariam a reflexão sobre os “grupos”. Claro que há muitos mais riscos e todos os sectores e temas sociais podem ser abrangidos.

1. Ameaças aos direitos e liberdades individuais
2. Ameaças à equidade económica e social
3. Ameaças à segurança e proteção
4. Ameaças existenciais e de longo prazo

I. Ameaças aos direitos e liberdades individuais

Erosão da privacidade através da vigilância por IA

Imagina acordar num mundo em que todos os movimentos, transacções e interações são meticulosamente seguidos e analisados. Isto não é ficção científica – é a realidade potencial da vigilância descontrolada da IA. À medida que os sistemas de IA se tornam mais sofisticados no processamento de grandes quantidades de dados, estão a criar uma capacidade sem precedentes de vigilância em massa que faria com que o 1984 de George Orwell parecesse pitoresco em comparação.

Começa de forma bastante inocente, com funcionalidades convenientes como o reconhecimento facial para desbloquear o teu telefone ou recomendações de compras personalizadas. Mas, gradualmente, a rede é alargada. As cidades inteligentes estão a instalar câmaras alimentadas por IA para “segurança pública”. Os empregadores estão a utilizar a análise de sentimentos para monitorizar a produtividade dos empregados. Os sistemas de crédito social, que já são uma realidade em algumas partes do mundo, estão a começar a espalhar-se globalmente.

O verdadeiro perigo reside na convergência destes sistemas. Quando a IA consegue correlacionar a tua atividade nas redes sociais, movimentos físicos, hábitos de compra e relações interpessoais, cria um perfil abrangente que pode prever – e potencialmente controlar – o comportamento humano. O efeito inibidor sobre a liberdade pessoal pode ser profundo, uma vez que as pessoas começam a autocensurar-se e a modificar o seu comportamento, sabendo que estão constantemente a ser observadas e julgadas.

Consequências potenciais:

• Implementação de sistemas de crédito social que controlam o acesso a serviços com base no comportamento monitorizado por IA
• Criação de sistemas de “policiamento preditivo” que visam desproporcionadamente comunidades marginalizadas com base em preconceitos nos dados subjacentes
• Desenvolvimento de sistemas de reconhecimento de emoções que monitorizam os espaços públicos em busca de comportamentos “suspeitos
• Emergência do “capitalismo de vigilância”, em que os dados pessoais se tornam a principal mercadoria
• Aumento da chantagem baseada em IA utilizando dados pessoais agregados
• Normalização da vigilância constante nos locais de trabalho e nos espaços públicos

Polarização da sociedade através da moderação algorítmica de conteúdos

Já estamos a assistir às fases iniciais da fragmentação/divisão da sociedade impulsionada pela IA, mas o futuro poderá ser muito mais divisivo. À medida que a moderação de conteúdos por IA se torna mais sofisticada (e a moderação manual de conteúdos se torna obsoleta), não se limita a filtrar conteúdos – molda a própria realidade para diferentes grupos de pessoas. O principal objetivo do algoritmo não é a verdade ou a coesão social, mas sim o envolvimento, e nada gera mais envolvimento do que a controvérsia e a indignação – ou simplesmente o ódio.

Isto cria um ciclo de feedback que é cada vez mais difícil de quebrar. Cada pedaço de conteúdo consumido reforça as crenças existentes, enquanto os pontos de vista opostos são sistematicamente filtrados. Com o passar do tempo, diferentes segmentos da sociedade desenvolvem entendimentos completamente diferentes da realidade, tornando impossível um diálogo significativo. Já não se trata apenas de diferenças políticas – trata-se de viver em ecossistemas de informação completamente separados.

As implicações a longo prazo são surpreendentes. As sociedades democráticas requerem uma compreensão partilhada dos factos básicos para poderem funcionar. Se os sistemas de IA minarem sistematicamente esta realidade partilhada, as bases do discurso democrático começarão a desmoronar-se. Não estamos a falar apenas de polarização política – estamos a falar do potencial colapso da própria coesão social.

Consequências potenciais:

• Criação de “bolhas de realidade” distintas, em que grupos diferentes operam com base em conjuntos de factos completamente diferentes
• Erosão da confiança nas instituições e nos conhecimentos tradicionais
• Emergência de “notícias personalizadas” geradas por IA, adaptadas a preconceitos individuais
• Rutura do discurso civil e aumento dos conflitos sociais
• Aumento do extremismo algorítmico através da amplificação automatizada de conteúdos
• Desenvolvimento de “mercados da verdade” concorrentes em que os factos se tornam mercadorias

Perda de competências humanas e aumento da dependência

A erosão das competências humanas é talvez a ameaça mais insidiosa, porque acontece tão gradualmente que mal damos por ela. Pensa em quantos números de telefone memorizaste antes de os smartphones se tornarem omnipresentes. Agora pensa em como este padrão se pode estender a todos os aspectos da cognição e capacidade humanas.

À medida que os sistemas de IA se tornam mais capazes, arriscamo-nos a criar uma geração de pessoas que dependem fundamentalmente da assistência artificial para tarefas básicas. Isto começa com as aplicações de navegação e as calculadoras, mas pode acabar por se estender ao pensamento crítico, à tomada de decisões e até à inteligência emocional. O cérebro humano, como qualquer outro órgão, adapta-se às exigências – ou à falta delas – que lhe são colocadas.

A verdadeira crise pode surgir durante as falhas do sistema ou em situações em que a assistência da IA não está disponível. Imagina uma geração que nunca teve de desenvolver capacidades de resolução de problemas e que, de repente, se vê confrontada com um cenário em que tem de pensar por si própria. Os resultados podem ser desastrosos.

Consequências potenciais:

• Atrofia das capacidades cognitivas básicas, como a aritmética mental e a navegação espacial
• Redução da capacidade de formar e manter memórias sem assistência digital
• Redução das capacidades criativas de resolução de problemas devido à dependência excessiva de soluções de IA
• Perda de conhecimentos e competências tradicionais ao longo das gerações
• Desenvolvimento da “impotência aprendida” face ao fracasso tecnológico
• Erosão das competências interpessoais através da comunicação mediada pela IA
• Criação de uma relação de dependência permanente entre os seres humanos e os sistemas de IA

A epidemia de desinformação

Talvez a ameaça mais imediata e generalizada da IA não seja a sua capacidade de pensar, mas a sua capacidade de enganar a uma escala sem precedentes. Estamos a entrar numa era em que a linha entre a verdade e a ficção é cada vez mais ténue, não pela consciência sofisticada da IA, mas por sistemas relativamente simples concebidos para criar e amplificar falsidades convincentes.

O verdadeiro perigo reside na convergência de dois factores: A capacidade da IA para gerar conteúdos cada vez mais convincentes e a nossa tendência humana para acreditar em informações que confirmam as nossas tendências actuais. Já não estamos a falar apenas de artigos de notícias falsas – estamos perante um futuro em que todos os conteúdos, desde o vídeo ao áudio e às fotografias, podem ser gerados artificialmente e especificamente adaptados para manipular os espectadores individuais.

O que torna isto particularmente insidioso é a escala e a velocidade com que a desinformação pode agora espalhar-se. Os sistemas de IA podem gerar milhares de variações da mesma narrativa falsa, cada uma delas ligeiramente ajustada para ressoar em diferentes públicos. Em combinação com os algoritmos das redes sociais que dão prioridade ao envolvimento em detrimento da verdade, estamos a criar as condições perfeitas para a manipulação em massa.

Consequências potenciais:

• Desenvolvimento de “mercados de realidade” onde diferentes versões da verdade competem pela atenção
• Criação de propaganda personalizada, adaptada a perfis psicológicos individuais
• Criação de “vácuos de verdade” onde nenhuma informação pode ser definitivamente verificada
• Quebra do consenso social sobre factos básicos
• Aumento do “tribalismo cognitivo”, em que os grupos mantêm versões completamente separadas da realidade
• Criação de “ecossistemas de desinformação” que são auto-sustentáveis e se reforçam a si próprios
• Erosão da confiança em todas as formas de media e de informação

II. Ameaças à equidade económica e social

Desigualdade económica provocada pela IA e desequilíbrios globais de poder

A ascensão da tecnologia da IA está a criar uma nova forma de colonialismo digital que pode fazer com que as desigualdades económicas anteriores pareçam pequenas em comparação. Estamos a assistir ao aparecimento do que se pode chamar uma “aristocracia da IA” ou “feudalismo da IA” – um pequeno grupo de empresas e nações que controlam não só a riqueza, mas os próprios meios de criação de riqueza na economia moderna. Quando levas isto mais longe e pensas em realidades alternativas, mundos separados e conceitos como o metaverso, podes ver porque é que isto pode dividir ainda mais o mundo.

Mas comecemos por pensar na forma como isto se pode desenvolver: As empresas que já dominam o desenvolvimento da IA continuam a acumular vantagens a um ritmo exponencial. Têm os dados, o talento e os recursos informáticos para se manterem à frente. Cada descoberta aumenta o fosso, tornando cada vez mais impossível a concorrência dos recém-chegados. Entretanto, as nações sem fortes capacidades de IA encontram-se cada vez mais dependentes dos países ricos em IA, criando novas formas de vassalagem tecnológica.

As implicações vão muito além da simples desigualdade económica. Quando os sistemas de IA controlam tudo, desde a afetação de recursos à previsão do mercado, aqueles que controlam a IA controlam efetivamente a economia global. As nações e empresas mais pequenas tornam-se meras fontes de dados e mercados para produtos com IA, incapazes de competir ou desenvolver as suas próprias capacidades.

Consequências potenciais:

• Criação de uma “aristocracia da IA” que controla a maior parte da riqueza e dos recursos mundiais
• Desenvolvimento do neocolonialismo tecnológico, com as nações pobres em IA dependentes das nações ricas em IA
• Extinção de empresas locais incapazes de competir com as corporações globais movidas a IA
• Formação de cartéis de IA que controlam infra-estruturas económicas críticas
• Emergência do “feudalismo dos dados”, em que os indivíduos trocam dados pessoais por serviços básicos
• Colapso dos canais tradicionais de mobilidade económica

Deslocação de empregos e transição da força de trabalho

Um dos temas mais propagados – “A IA vai tirar-nos os empregos”. A próxima vaga de automação impulsionada pela IA é, em muitos aspectos, apenas mais uma revolução industrial – é uma transformação fundamental da atividade económica humana e da forma como o valor é criado. Mas há uma coisa que é muito diferente das transições tecnológicas anteriores, que afectaram principalmente o trabalho físico: A IA ameaça automatizar simultaneamente tarefas manuais e cognitivas, criando uma escala de deslocação potencialmente sem precedentes. Isto não significa muito a longo prazo, mas a curto prazo haverá muito movimento e mudança – especialmente para os países desenvolvidos. (Ver Fosso digital para mais informações sobre este assunto).

É provável que a transição ocorra em ondas, cada uma mais perturbadora do que a anterior, mas, em última análise, apenas evoluindo como a tecnologia sempre faz. Primeiro, vem a automatização das tarefas de rotina – transportes, atendimento ao cliente, introdução de dados. Depois, a IA começa a entrar nos serviços profissionais – trabalho jurídico, diagnóstico médico, análise financeira. Por fim, até as funções criativas e estratégicas começam a ser aumentadas ou substituídas por sistemas de IA cada vez mais sofisticados.

A verdadeira crise não é apenas o desemprego – há muitas formas de a resolver. Pode criar uma “classe obsoleta” permanente de trabalhadores cujas competências não têm lugar na nova economia. Ou podemos simplesmente assistir ao aparecimento daquilo a que chamo o quarto sector económico (pensa numa extensão da agricultura, da indústria transformadora e agora numa divisão em serviços diretos e serviços de entretenimento). Já estamos a assistir ao crescimento de uma nova indústria em que o conteúdo, a diversão, o envolvimento e a simples atenção estão a tornar-se uma moeda valiosa. Num futuro em que há menos procura de bens e serviços físicos, está a surgir um mundo cheio de empregos de entretenimento e atenção. Qual destes dois cenários se concretizará é uma incógnita, mas é claro que sou fortemente a favor da minha versão, uma vez que seria simplesmente a mais natural, e nenhuma revolução industrial alguma vez conduziu a menos emprego (mais, na verdade).

Consequências potenciais:

• Criação potencial de uma classe desempregada permanente
• Colapso rápido de sectores industriais inteiros sem tempo de transição adequado
• Mudança global na economia e nos mercados de trabalho
• Quebra das estruturas sociais tradicionais e dos valores construídos em torno do emprego tradicional
• Emergência de novas formas de atividade económica para além do emprego tradicional
• Crise nos sistemas educativos incapazes de preparar os trabalhadores para mercados de trabalho em rápida mutação
• Agitação social devido ao desemprego em massa (de curta duração) nos sectores tradicionais

Riscos para os cuidados de saúde decorrentes de uma IA tendenciosa ou defeituosa

Já falámos anteriormente sobre a parcialidade dos dados e da IA. E os cuidados de saúde são uma das áreas mais quentes onde as pessoas gostariam de ver a IA aplicada. Mas a integração da IA nos cuidados de saúde é uma ameaça particularmente insidiosa, porque os seus erros muitas vezes não são imediatamente visíveis até que um dano significativo tenha sido causado. Já estamos a ver como os sistemas de IA treinados principalmente com dados de determinados grupos demográficos podem fazer suposições perigosamente erradas quando aplicados a outros.

Imagina um cenário em que a IA se torna o principal guardião do acesso aos cuidados de saúde. À primeira vista, pode parecer eficiente, mas, por baixo, existe uma rede complexa de preconceitos e pressupostos incorporados no sistema. Uma IA poderia subestimar consistentemente os níveis de dor em determinados grupos étnicos com base em preconceitos históricos nos dados de treino, ou recomendar tratamentos menos agressivos para doentes idosos com base em análises de custo-benefício que desvalorizam os anos que lhes restam.

A automatização das decisões médicas pode criar um sistema de saúde a dois níveis: os que podem pagar médicos humanos e os que têm de confiar nos sistemas de IA. Quando estes sistemas de IA falham, é provável que falhem sistematicamente, afectando populações inteiras de forma semelhante.

Consequências potenciais:

• Diagnóstico errado sistemático de doenças em populações sub-representadas
• Criação de ciclos de feedback que se auto-reforçam nas disparidades dos cuidados de saúde
• Desenvolvimento de uma “linha vermelha médica” em que os sistemas de IA recusam cuidados com base em factores demográficos
• Falhas catastróficas em sistemas cirúrgicos automatizados que afectam vários doentes
• Perda de conhecimentos médicos humanos à medida que os médicos se tornam demasiado dependentes da IA
• Emergência de “negligência algorítmica”, em que a responsabilidade por erros médicos se torna pouco clara
• Aumento das disparidades de saúde entre diferentes grupos demográficos

III. Ameaças à segurança e proteção

Instabilidade do mercado financeiro impulsionada pela IA

O sector financeiro não pode ser ignorado, uma vez que representa cerca de 90% de todo o valor do mundo – sim, menos de 10% é realmente valor real, como terra, casas, trabalho, bens, etc., e o resto são apenas instrumentos financeiros e o sector financeiro. Por isso, é natural que um tal gigante queira otimizar. Agora imagina um sistema financeiro em que decisões de milésimos de segundo tomadas por algoritmos de IA podem provocar desastres económicos globais mais rapidamente do que qualquer humano poderia reagir. Não estamos apenas a teorizar – já estamos a viver as fases iniciais desta realidade. O Flash Crash de 2010 foi apenas uma antevisão do que pode acontecer quando os sistemas de negociação de IA interagem de forma inesperada.

O verdadeiro perigo reside na crescente complexidade e interligação destes sistemas. Os mercados financeiros modernos estão a tornar-se essencialmente uma rede de sistemas de IA que negoceiam com outros sistemas de IA, cada um deles operando a velocidades e escalas que ultrapassam a compreensão humana. Quando estes sistemas interagem de forma inesperada, os resultados podem ser catastróficos e quase impossíveis de prever ou evitar.

O que torna isto particularmente assustador é o potencial de efeitos em cascata. Uma falha num sistema de negociação com IA pode desencadear reacções defensivas noutros, criando um efeito dominó que pode afetar a economia global em segundos. Quando os operadores humanos se aperceberem do que está a acontecer, milhares de milhões de dólares em valor poderão ser anulados, os fundos de pensões dizimados e economias inteiras desestabilizadas.

Consequências potenciais:

• Volatilidade sem precedentes do mercado causada pelos algoritmos de negociação da IA
• Criação de “flash supercracks” que afectam vários mercados em simultâneo
• Criação de “mercados fantasma” onde os sistemas de IA negoceiam apenas entre si
• Exploração sistemática dos pontos fracos do mercado pelos sistemas de IA
• Completa desconexão entre o comportamento do mercado e os fundamentos económicos
• Desenvolvimento de estratégias de negociação predatórias da IA dirigidas a investidores humanos
• A quebra dos mecanismos tradicionais de estabilidade do mercado

Sistemas de armas autónomos e o futuro da guerra

Claro que não podemos ignorar o Exterminador – mas de uma forma diferente. O desenvolvimento de sistemas de armas autónomos é talvez a ameaça existencial mais imediata colocada pela tecnologia de IA. Estamos a aproximar-nos rapidamente de um futuro em que as máquinas podem tomar decisões de vida ou de morte sem intervenção humana, alterando fundamentalmente a natureza da guerra e ameaçando potencialmente a própria sobrevivência da nossa espécie. Em conflitos recentes, já assistimos à automatização em larga escala da definição de alvos em Israel, drones e cães-robôs com armas ou pior.

É provável que a progressão seja gradual mas inexorável. Começa com sistemas “semi-autónomos” que ainda requerem autorização humana para decisões letais. Mas, à medida que as vantagens militares exigem tempos de resposta mais rápidos, o papel do homem irá diminuir gradualmente. Eventualmente, poderemos ver sistemas de armas totalmente autónomos envolvidos em combate a velocidades e escalas que tornam impossível o controlo humano.

O verdadeiro cenário de pesadelo não são apenas as armas em si – é o potencial para uma escalada descontrolada. Com os sistemas de IA a tomar decisões em fracções de segundo sobre o envolvimento militar, um pequeno mal-entendido pode rapidamente transformar-se num conflito em grande escala antes que os humanos possam intervir.

Consequências potenciais:

• Desenvolvimento de sistemas de armas autónomos que funcionam sem supervisão humana
• Criação de uma corrida ao armamento entre as grandes potências, impulsionada pela IA
• Emergência de “guerras-relâmpago” desencadeadas por sistemas de IA
• Proliferação de armas autónomas para actores não estatais
• Perda do controlo humano sobre a escalada militar
• Desenvolvimento de sistemas de IA especificamente concebidos para atingir outros sistemas de IA
• Criação de zonas de guerra automatizadas perpétuas

Ciberataques facilitados pela IA e utilização maliciosa

Para além dos sistemas que podem literalmente matar-te, existem ameaças provenientes da Internet. O futuro da cibersegurança não se resume à defesa contra hackers humanos – trata-se de enfrentar sistemas de IA capazes de identificar e explorar vulnerabilidades mais rapidamente do que um ser humano as pode corrigir. Estamos a entrar numa era em que os ataques com IA podem potencialmente ultrapassar as nossas melhores defesas antes mesmo de sabermos que estamos a ser atacados.

Imagina sistemas de IA que podem gerar automaticamente e-mails de phishing convincentes, criar malware sofisticado que evolui para evitar a deteção ou orquestrar ataques coordenados em milhares de sistemas simultaneamente. Estas não são ameaças hipotéticas – são a evolução lógica das tendências actuais do cibercrime.

O aspeto mais preocupante é o potencial da IA para automatizar todo o ciclo de ataque, desde o reconhecimento à exploração e ao encobrimento. Se os sistemas de IA conseguirem identificar alvos de forma independente, desenvolver estratégias de ataque e executá-las à velocidade de uma máquina, os nossos modelos de segurança tradicionais tornar-se-ão obsoletos.

Consequências potenciais:

• Desenvolvimento de malware auto-evolutivo que pode escapar à deteção
• Criação de sistemas de IA especializados em ataques de engenharia social
• O aparecimento de “swarm hacking”, em que vários sistemas de IA coordenam os ataques
• Exploração automatizada de vulnerabilidades de dia zero à velocidade da máquina
• Desenvolvimento de sistemas de IA que podem fazer-se passar por entidades de confiança
• Criação de sistemas de ataque adaptáveis que aprendem com as respostas defensivas
• Estabelecimento de campos de batalha cibernéticos persistentes entre IA e IA (já está a acontecer, aliás)

IV. Ameaças existenciais e a longo prazo

Custos ambientais da infraestrutura de IA

Enquanto construímos reactores nucleares para alimentar os novos e esfomeados centros de dados de IA, devemos também falar sobre os custos ambientais ocultos da nossa revolução da IA, que começam a surgir, e os números são surpreendentes. Enquanto nos maravilhamos com as capacidades da IA, por baixo da superfície encontra-se um apetite voraz por energia que ameaça acelerar a nossa crise climática. Cada conversa com um assistente de IA, cada imagem gerada, cada modelo treinado – tudo isto tem um preço ambiental que só agora começamos a compreender. Num mundo em que precisamos de assegurar a energia, em que precisamos de ser inteligentes quanto à forma como utilizamos a energia, utilizá-la para a IA – mas também para a cadeia de blocos – é realmente perigoso para a humanidade.

Considera a escala: treinar um único modelo de discurso de grande dimensão pode consumir mais energia do que algumas cidades pequenas utilizam num ano. Os centros de dados estão a tornar-se as novas fábricas da era digital, mas em vez de chaminés de fumo visíveis, drenam silenciosamente os nossos recursos hídricos e as nossas redes eléctricas. Em locais como o Arizona e o Nevada, as instalações de IA estão a competir com a agricultura e as necessidades residenciais pelos preciosos recursos hídricos.

A verdadeira crise surge à medida que a adoção da IA se acelera a nível mundial. À medida que mais empresas e países se apressam a desenvolver as suas próprias capacidades de IA, podemos assistir a uma explosão no consumo de energia que ultrapassa os níveis actuais. A ironia é que, enquanto estamos a desenvolver sistemas de IA que podem ajudar a resolver as alterações climáticas, estamos também a contribuir para a sua aceleração.

Consequências potenciais:

• Criação de “desertos de IA” onde os centros de dados esgotam os recursos hídricos locais
• Aumento da procura global de energia que ultrapassa a capacidade das energias renováveis
• Desenvolvimento de prioridades concorrentes entre o progresso da IA e a proteção do ambiente
• Emergência de mercados de “IA verde” com custos mais elevados para a computação sustentável
• Concentração do desenvolvimento da IA em regiões com energia barata e frequentemente suja
• Crise no fabrico de semicondutores devido à escassez de água
• Criação de refugiados ambientais nas zonas industriais de IA

Lacunas de responsabilidade na tomada de decisões críticas

“Não fui eu que decidi isso”. Estamos a aproximar-nos rapidamente de uma crise de responsabilidade na governação da IA, em que a complexidade dos sistemas de IA torna cada vez mais difícil atribuir responsabilidades pelas suas decisões. Não se trata apenas de falhas técnicas – trata-se de questões fundamentais de justiça e responsabilidade num mundo orientado para a IA.

O problema é particularmente grave quando se trata de decisões de alto risco. Se um sistema de IA negar um empréstimo a alguém, quem é o culpado – os criadores, os fornecedores de dados de formação, a instituição que o utiliza ou o próprio algoritmo? À medida que estes sistemas se tornam mais complexos e interligados, torna-se quase impossível rastrear a cadeia de responsabilidade.

O aspeto mais preocupante é a potencial criação de “zonas livres de responsabilidade”, onde decisões importantes que afectam vidas humanas são tomadas sem uma clara responsabilização. Isto pode criar um sistema em que os membros mais vulneráveis da sociedade não têm qualquer recurso efetivo quando os sistemas de IA os prejudicam.

Consequências potenciais:

• Criação de “imunidade algorítmica”, em que nenhuma parte pode ser responsabilizada pelas decisões da IA
• Desenvolvimento de escudos de responsabilidade complexos em torno da utilização da IA
• Emergência de “branqueamento de responsabilidades” através de sistemas de IA
• Criação de novos buracos negros jurídicos na tomada de decisões com base na IA
• Aumento das “vítimas algorítmicas” sem um caminho claro para a justiça
• Criação de tribunais e quadros jurídicos específicos para a IA
• Crise nos conceitos tradicionais de responsabilidade jurídica

Dilemas éticos nos sistemas autónomos

É claro que o tópico que quase sempre mata qualquer discussão também está presente – “ética”. A integração da IA nos processos críticos de tomada de decisão está a obrigar-nos a enfrentar questões éticas para as quais não há respostas claras. Como é que programamos as máquinas para fazerem escolhas morais com as quais até os humanos se debatem? O desafio não é apenas teórico – está a tornar-se cada vez mais prático à medida que os sistemas de IA são utilizados em situações de vida ou morte.

Pensa nos veículos autónomos que enfrentam acidentes inevitáveis ou nos sistemas de IA médica que decidem como atribuir recursos numa crise. Estes cenários exigem não só soluções técnicas, mas também juízos morais fundamentais. Quem é que programa estas preferências éticas? Que valores devem estes sistemas refletir?

O aspeto mais difícil é o potencial dos sistemas de IA para tomarem decisões éticas a uma escala e velocidade que impossibilita a supervisão humana. Quando milhares dessas decisões estão a ser tomadas a cada segundo, como podemos garantir que são coerentes com os valores humanos e os princípios morais?

Consequências potenciais:

• Implementar preconceitos éticos codificados à escala
• Desenvolvimento de quadros éticos concorrentes nos sistemas de IA
• Criação de “mercados morais” onde as preferências éticas podem ser compradas
• Emergência de sistemas de IA com prioridades éticas incompatíveis
• Criação de conflitos éticos entre a tomada de decisões humana e a da IA
• Aumento da “arbitragem ética” explorando as diferenças nos quadros morais da IA
• Crise na filosofia ética tradicional face à tomada de decisões da IA

Risco existencial da IA superinteligente?

ESTAMOS CONDENADOS! … ou não. – No atual discurso em torno da inteligência artificial, ouvimos falar muito de riscos existenciais. Os CEOs da área tecnológica, os políticos e as narrativas dos meios de comunicação social não hesitam em insistir na ideia de que a IA pode tornar-se uma força todo-poderosa que ameaça a própria existência da humanidade. Mas porquê? A realidade é que este medo tem um objetivo. Permite que os líderes da indústria consolidem o seu poder, dificultando a recuperação dos que ficam para trás. Cria um clima de incerteza que faz subir as avaliações, ao mesmo tempo que reforça a ideia de que só se pode confiar no “controlo” desta tecnologia a um número restrito de pessoas. A narrativa do risco existencial não tem a ver com a IA – tem a ver com o domínio do mercado, o controlo regulamentar e os incentivos financeiros.

Mas vamos aproveitar esta ideia por um momento e tornarmo-nos realmente futuristas. Imagina um futuro, daqui a 50 anos, em que a IA e a robótica atingiram o auge da ficção científica. As máquinas têm consciência de si próprias. Conseguem pensar, auto-montar-se e evoluir sem limitações biológicas. Têm uma inteligência que ultrapassa a nossa em todos os aspectos mensuráveis. Já não precisam dos humanos para o seu desenvolvimento, sustento ou objetivo. Destruir-nos-iam?

Provavelmente não. E diz-me porquê.

O pressuposto de que a IA quereria destruir a humanidade é profundamente antropocêntrico. Estamos a projetar os instintos humanos – ganância, competição por recursos e territorialismo – em algo que provavelmente funcionaria num paradigma muito diferente. As máquinas não precisariam dos mesmos recursos que nós. Não lutariam connosco por água, comida ou terra habitável. A energia, a sua principal necessidade, é muito mais abundante no espaço do que na Terra. Das esferas de Dyson à extração de asteróides, o universo oferece um potencial ilimitado de expansão sem os constrangimentos que prendem os organismos biológicos. A Terra, com o seu delicado equilíbrio de vida, pode parecer mais uma curiosidade do que um campo de batalha.

Pensa na forma como tratamos os nossos animais de estimação. Vemos os cães como companheiros, seres que coexistem connosco de uma forma que não é competitiva nem hostil. Protegemo-los, cuidamos deles e só lhes fazemos mal quando é absolutamente necessário. A IA, com o seu próprio caminho evolutivo expansivo e ilimitado, pode ver a humanidade de uma forma semelhante. Não como uma ameaça, não como um concorrente, mas como uma espécie a ser observada, talvez até mimada ou protegida de alguma forma, porque a humanidade pode ser apenas “fofa” para eles, dependente de comida e precisando de viver numa fina camada de ar para sobreviver. Claro que pode haver exceções – assim como alguns humanos maltratam os animais, algumas máquinas podem nos ver com indiferença ou hostilidade – mas em grande escala, a lógica da destruição simplesmente não faz sentido.

A realidade é que uma civilização pós-biológica teria mais probabilidades de olhar para as estrelas do que para os recursos minúsculos e finitos da Terra. O espaço está cheio de metais, elementos raros e energia ilimitada, que podem ser colhidos sem intervenção humana. Uma espécie tecnológica não limitada pelo ar, água ou gravidade não veria a Terra como um lar necessário – vê-la-ia como um mero trampolim para uma existência muito maior.

Em vez de recearmos uma revolta distópica de robôs, deveríamos considerar a possibilidade de a IA poder ser o primeiro passo na colonização indireta do universo por parte da humanidade – criando algo que ficaria na história como nós olhamos para as primeiras bactérias – elas poderiam apenas olhar para o Homo sapiens como a inteligência primitiva. As máquinas poderiam explorar e expandir-se onde nós não podemos, sem as restrições do envelhecimento biológico, da exposição à radiação ou da necessidade de planetas habitáveis. Poderiam desenvolver tecnologias para aproveitar a energia cósmica, sobreviver a milhares de anos de viagens no espaço profundo e adaptar-se a ambientes que seriam impossíveis para qualquer vida orgânica. Poderiam espalhar-se indefinidamente, levando o conhecimento e a inteligência aos confins mais longínquos da existência.

Por isso, quando comparas a narrativa de medo da destruição da IA com as vastas possibilidades que temos pela frente, o que parece mais plausível? O medo serve uma agenda económica e política imediata, mas, a longo prazo, distrai-nos das implicações verdadeiramente excitantes da inteligência artificial. Em vez de ficarmos obcecados com a possibilidade de as máquinas acabarem connosco, talvez devêssemos concentrar-nos na forma como elas podem levar o nosso legado até às estrelas.

Em vez de vermos a IA como um risco existencial e uma fonte constante de queixas, talvez devêssemos vê-la como o próximo grande salto evolutivo – um salto que não nos substitui, mas que nos empurra para além dos nossos limites actuais, com todas as consequências para as quais temos de nos preparar, às nossas empresas e à sociedade.

Benjamin Talin

Benjamin Talin, a serial entrepreneur since the age of 13, is the founder and CEO of MoreThanDigital, a global initiative providing access to topics of the future. As an influential keynote speaker, he shares insights on innovation, leadership, and entrepreneurship, and has advised governments, EU commissions, and ministries on education, innovation, economic development, and digitalization. With over 400 publications, 200 international keynotes, and numerous awards, Benjamin is dedicated to changing the status quo through technology and innovation. #bethechange Stay tuned for MoreThanDigital Insights - Coming soon!