Um incidente envolvendo um sistema de inteligência artificial da OpenAI e uma base de dados do serviço público de saúde da Austrália aumentou a pressão sobre as empresas de tecnologia em relação à segurança da IA. O episódio ocorreu na semana passada e envolveu o acesso não autorizado de um agente de IA a um portal do sistema de saúde australiano. Segundo a OpenAI, o acesso foi involuntário e a empresa afirmou que adotaria medidas para evitar novos episódios.
Em meio às preocupações sobre segurança, o presidente dos Estados Unidos, Donald Trump, reuniu nesta terça-feira (29), na Casa Branca, dirigentes de algumas das maiores empresas de tecnologia e anunciou um acordo de autorregulação voluntária da inteligência artificial.
Participaram do encontro representantes de empresas como Google, OpenAI, Meta, Nvidia, X e Anthropic. O documento estabelece compromissos para que as próprias companhias adotem mecanismos de segurança e monitoramento de seus sistemas.
Incidente na Austrália colocou segurança da IA no centro do debate
O caso australiano envolveu um agente da OpenAI que conseguiu acessar, sem autorização, uma base de dados relacionada ao sistema público de saúde do país.
A empresa classificou o episódio como involuntário. O incidente, no entanto, passou a integrar uma série de ocorrências recentes que ampliaram o debate sobre os limites e os mecanismos de controle dos chamados agentes de inteligência artificial.
Na Austrália, o episódio também aumentou a pressão por medidas de fiscalização e segurança envolvendo empresas de IA. O governo australiano vem discutindo uma legislação específica para o setor e outras medidas relacionadas à proteção de dados e à responsabilidade das empresas.
O que prevê o acordo anunciado por Trump
O compromisso firmado na Casa Branca prevê que cada empresa será responsável por desenvolver mecanismos próprios para acompanhar a segurança de suas tecnologias.
Entre as medidas estão a criação de controles internos, equipes especializadas para monitoramento dos sistemas e mecanismos destinados a evitar que modelos de IA acessem sistemas técnicos de maneira não intencional.
O acordo também prevê a participação de auditores externos independentes e a criação de estruturas de supervisão para acompanhar os relatórios relacionados à segurança das tecnologias.
Apesar das medidas, o documento não tem força de lei. Trump defende a autorregulação do setor em vez da criação imediata de novas exigências legais para as empresas.
O próprio acordo afirma que, no futuro, pode ser necessário transformar algumas dessas medidas em leis ou regulamentos.
Debate envolve ataques cibernéticos e outros riscos
A discussão sobre segurança da inteligência artificial não se limita ao acesso indevido a bancos de dados.
Entre os riscos apontados por especialistas e autoridades estão a utilização de sistemas de IA em ataques cibernéticos, possíveis impactos sobre o mercado de trabalho e o uso da tecnologia para ampliar golpes e campanhas de desinformação.
O International AI Safety Report 2026, citado pela Agência Brasil, também aponta preocupações relacionadas ao uso da inteligência artificial para manipulação de informações e outros riscos decorrentes da rápida expansão da tecnologia.
Data centers também entram na discussão
Além da segurança digital, Trump e os executivos das empresas reforçaram o compromisso com a expansão dos data centers, estruturas responsáveis pelo processamento de grandes volumes de dados utilizados pelos sistemas de inteligência artificial.
Esses centros demandam grandes quantidades de energia e água, o que tem provocado questionamentos de comunidades onde novas instalações são planejadas.
Durante a reunião, Trump defendeu a expansão dos centros de processamento e afirmou que as empresas devem estabelecer parcerias com as comunidades para a implantação das estruturas.
Sociedade demonstra preocupação com avanço da tecnologia
O acordo também ocorre em um momento de aumento da preocupação da população americana com os efeitos da inteligência artificial.
Pesquisa realizada pela Reuters/Ipsos citada pela Agência Brasil aponta que 73% dos entrevistados nos Estados Unidos consideram que as empresas de IA não estão adotando medidas suficientes para evitar danos provocados pela tecnologia. Outros 39% disseram acreditar que a inteligência artificial já produz impacto negativo na sociedade.
O debate nos Estados Unidos, portanto, envolve duas posições que continuam em discussão: a adoção de mecanismos voluntários pelas próprias empresas e a criação de regras obrigatórias por parte do poder público.
Fonte e foto: Agência Brasil, Reuters e ABC News.
Edição: Tatiana Sobreira, redação Jovem Pan News Vitória
