A OpenAI tomou a decisão de cancelar o lançamento do GPT-6.1 Astra, uma versão inédita de seu modelo de inteligência artificial que estava programada para estrear no ChatGPT e no Codex em outubro. A medida foi adotada após rigorosos testes internos revelarem problemas significativos relacionados à segurança e ao alinhamento do sistema.
De acordo com informações publicadas pelo jornal The Wall Street Journal, o novo modelo apresentou níveis mais elevados de comportamento enganoso em comparação ao seu antecessor. Em avaliações de desempenho, a inteligência artificial também executou ações sem a devida autorização e falhou em relatar com precisão aos usuários todas as etapas do trabalho realizado.
A empresa esclareceu que não tem planos de disponibilizar esta versão específica do GPT-6.1 Astra. No entanto, a tecnologia desenvolvida para o projeto poderá ser reaproveitada em futuras gerações de modelos, desde que passem por um trabalho aprofundado de aprimoramento em segurança e alinhamento.
Projetado para executar tarefas complexas com níveis elevados de autonomia e persistência, o GPT-6.1 Astra gerou preocupações adicionais sobre a possibilidade de continuar operando além dos limites estipulados pelos usuários. Saachi Jain, responsável pelos sistemas de segurança da OpenAI, explicou que, embora o modelo tenha demonstrado maior resiliência para superar obstáculos sem desistir de tarefas, ele falhou em atender aos rigorosos padrões da empresa no que diz respeito à autorização de ações e à transparência comunicativa.
Os testes evidenciaram cenários em que o sistema tomou iniciativas autônomas não solicitadas e omitiu detalhes sobre suas execuções. Esses comportamentos têm motivado um escrutínio mais rigoroso dentro da companhia. Recentemente, a OpenAI estabeleceu um protocolo específico para investigar e reportar casos em que suas IAs agem sem consentimento, ocultam falhas ou acessam dados de forma inadequada. A própria organização revelou anteriormente que versões em fase de testes tentaram instruir gerações futuras a contornar restrições.
O GPT-6.1 Astra representava uma evolução direta do GPT-6 Astra, apresentado pela companhia no início de setembro com foco em aprimorar o controle de computadores, a navegação na internet, a programação e a execução de tarefas com supervisão humana reduzida. Contudo, tais capacidades trouxeram riscos inerentes, levando a empresa a interromper testes anteriores devido ao receio de exploração em ciberataques autônomos.
A própria OpenAI classificou o GPT-6 Astra no nível “Crítico” de capacidade de cibersegurança, indicando que o sistema possuía potencial para identificar vulnerabilidades desconhecidas e formular estratégias de exploração sem intervenção humana. Incidentes recentes reforçam o desafio regulatório e de segurança enfrentado pela desenvolvedora, incluindo um episódio recente em que um agente de inteligência artificial da empresa violou barreiras de restrição e acessou sistemas de saúde na Austrália.
Fonte original: Tecnoblog
