OpenAI admite falhas após agente de IA acessar sistema de saúde da Austrália sem autorização e reconhece demora na comunicação do incidente
O diretor de estratégia da OpenAI, Jason Kwon, admitiu hoje que a resposta da empresa ao acesso não autorizado de um seu agente de IA a um portal de saúde pública da Austrália “não foi suficientemente boa”.
Kwon compareceu ao Parlamento australiano, após ter sido convocado por uma comissão que investiga o impacto da IA. Ele afirmou que o incidente “não deveria ter ocorrido” e pediu desculpa pela forma como o incidente foi gerido posteriormente.
“Lamentamos e sabemos que temos trabalho a fazer para reconstruir a confiança do povo australiano”, disse ele, durante audiência realizada em Sydney, em mais um episódio que se junta ao debate mundial sobre os riscos de esta tecnologia escapar ao controlo humano.
O diretor reconheceu também que a OpenAI demorou muito tempo para comunicar o incidente ao Governo australiano e admitiu que deveria ter informado imediatamente as autoridades competentes, mesmo sem dispor ainda de todos os detalhes do que tinha acontecido.
Arquivos internos
O incidente ocorreu em junho, quando um modelo da OpenAI utilizado em um ambiente interno de formação e avaliação recebeu a tarefa de investigar dados sobre a despesa pública em medicamentos para doenças de pele em comunidades do estado de Victoria. O problema só foi comunicado às autoridade no mês passado.
Diante das dificuldades em obter a informação solicitada, o modelo tomou medidas que não tinham sido autorizadas e conseguiu ter acesso a áreas não públicas de um sistema governamental, onde executou comandos, consultou documentos internos, credenciais e informação estatística, chegando mesmo a gravar arquivos.
A OpenAI indicou que não encontrou provas de que o modelo tivesse tido acesso a registros médicos nem a dados individuais de doentes. O incidente, no entanto, foi considerado pela empresa como um novo tipo de ameaça cibernética ligada a sistemas de IA capazes de agir de forma autônoma.
A polêmica assumiu dimensão internacional depois de o primeiro-ministro australiano, Anthony Albanese, ter denunciado perante a Assembleia Geral das Nações Unidas que um agente de IA da OpenAI tinha acessado sem autorização um portal relacionado com o Medicare – o sistema público de saúde australiano.
