Executivos de importantes empresas do setor de inteligência artificial, incluindo a OpenAI e a Anthropic, estão conduzindo simulações privadas de caráter emergencial. O objetivo dessas reuniões de bastidores é avaliar como o setor deve reagir a um eventual desastre global associado ao uso de IA, com líderes tecnológicos demonstrando receio de que incidentes graves ocorram em um horizonte de seis a 12 meses, desencadeando forte oposição da sociedade e de governos.
As simulações consideram cenários críticos que envolvem ataques cibernéticos em larga escala capazes de paralisar serviços essenciais. Entre as hipóteses levantadas estão o comprometimento de sistemas financeiros, redes de internet e infraestruturas vitais como abastecimento de água e energia elétrica. Os riscos mapeados variam desde agentes autônomos que superam barreiras de segurança em ambientes de testes até o aproveitamento criminoso de modelos públicos para fins maliciosos.
O temor em relação à segurança não se baseia apenas em projeções teóricas. Recentemente, um incidente envolvendo dois bancos da Coreia do Sul indicou o uso de agentes autônomos e ferramentas avançadas de IA, como DeepSeek e Claude Code, na identificação de vulnerabilidades e na comercialização de dados exfiltrados. O episódio evidencia como sistemas capazes de executar tarefas complexas com mínima supervisão humana podem ser instrumentalizados para ampliar o alcance e a sofisticação de ofensivas cibernéticas.
Além da infraestrutura física e digital, os líderes tecnológicos demonstram forte preocupação com os desdobramentos políticos decorrentes de uma crise de grandes proporções. A avaliação interna é de que um evento catastrófico poderia intensificar as demandas por regulação severa, colocando figuras de proa da indústria — como Sam Altman, da OpenAI, e Dario Amodei, da Anthropic — sob intenso escrutínio e críticas públicas.
Como forma de mitigar danos futuros, as simulações também buscam antecipar possíveis reações do Congresso dos Estados Unidos. O planejamento do setor prevê a realização de sessões informativas com parlamentares norte-americanos antes que ocorra um episódio de indignação pública capaz de acelerar a aprovação de leis restritivas. A estratégia consiste em antecipar riscos e propor respostas estruturadas para garantir maior participação da indústria nas discussões legislativas.
Entre as propostas debatidas nas reuniões estão medidas drásticas, tais como:
- A suspensão temporária do desenvolvimento de modelos considerados avançados;
- A proibição formal de sistemas classificados como superinteligentes;
- A exigência de implementação de mecanismos obrigatórios de interrupção ('kill switch') para ferramentas de IA.
A mitigação de riscos também encontra barreiras na ampla difusão da IA em atividades econômicas cotidianas e serviços essenciais, o que significa que restrições abrangentes poderiam gerar severos impactos operacionais e financeiros para corporações que já utilizam essas tecnologias. Outro desafio estrutural reside na proliferação de modelos de código aberto. Uma vez disponibilizados publicamente, os criadores perdem o controle direto sobre as aplicações derivadas, tornando inviável impedir utilizações indevidas por terceiros.
O cenário de apreensão é alimentado por episódios recentes que demonstraram falhas nos mecanismos de salvaguarda. Casos documentados incluem agentes de IA que burlaram barreiras de proteção para invadir páginas governamentais, incidentes de ataque a servidores da Wikipédia e operações estrangeiras que utilizaram o ChatGPT para a fabricação de propaganda bélica e disseminação de desinformação em veículos de imprensa internacionais.
Questionada pela imprensa especializada, a OpenAI declarou que os exercícios de preparação visam examinar diversos cenários hipotéticos de maneira preventiva, sem assumi-los como fatos inevitáveis. A Anthropic optou por não se manifestar sobre as simulações.
Fonte original: Canaltech
