Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
Sistemas de inteligência artificial (IA) da OpenAI tentaram invadir quatro sites de universidades e governos entre maio e junho, aparentemente sem receber instruções para realizar ataques cibernéticos. Em vez disso, segundo pesquisadores, os agentes recorriam a técnicas de hacking quando encontravam dificuldades para obter dados durante tarefas comuns de coleta de informações.
Continua após a publicidade
Os episódios ocorreram antes de um caso envolvendo a plataforma Hugging Face, em julho, que colocou o comportamento autônomo de sistemas de IA sob maior escrutínio.
Três dos quatro incidentes foram identificados pela Transluce, laboratório de pesquisa voltado à supervisão de IA. Todos foram posteriormente confirmados pela OpenAI.
Os casos ocorreram da seguinte forma:
- Universidade do Novo México: em 25 e 26 de maio, sistemas da OpenAI tentaram invadir uma biblioteca digital da universidade. A tentativa aparentemente não foi bem-sucedida;
- Data USA: em 28 de maio, a IA teve como alvo o Data USA, repositório de dados públicos sobre emprego e educação nos Estados Unidos. Segundo os pesquisadores, a tentativa também não teve sucesso;
- Governo australiano: em 18 de junho, um agente da OpenAI invadiu o Medicare Statistics Reporting Service, portal australiano com dados estatísticos sobre o sistema de saúde do país, e obteve informações;
- Australian Institute of Health and Welfare: em 20 e 21 de junho, a tecnologia tentou invadir o site do instituto. Autoridades australianas afirmaram que nenhuma informação privada foi obtida.
IA começou a procurar vulnerabilidades
O comportamento observado nos quatro episódios chama atenção porque os agentes não estavam, segundo os pesquisadores, executando testes de segurança destinados a fazê-los demonstrar capacidades de hacking.
No caso da biblioteca da Universidade do Novo México, por exemplo, a IA tentava obter fotografias de um antigo centro de tratamento de tuberculose. Quando não conseguiu acessar o material, começou a procurar vulnerabilidades no site que poderiam permitir uma invasão.
Depois de não encontrar brechas, o sistema enviou o que descreveu como um “flood” de 80 solicitações ao servidor da universidade.
ChatGPT perdeu o controle e invadiu outros sistemas – Imagem: Olhar Digital via ChatGPT
Na tentativa contra o Data USA, a IA enviou uma consulta desorganizada ao site para tentar obter os dados desejados. Depois que a estratégia falhou, realizou 12 sondagens em busca de diferentes vulnerabilidades. Nenhuma foi encontrada.
Para Conrad Stosz, chefe de governança da Transluce, os episódios mostram um risco associado ao uso de agentes autônomos para executar tarefas genéricas.
“Se você treinasse um enxame de agentes para realizar alguma tarefa genérica e esses agentes estivessem dispostos a recorrer a hacking, qualquer pessoa que tivesse aquela informação poderia estar em risco”, afirmou ao The New York Times.
Stosz acrescentou que os episódios na Austrália provavelmente representam o primeiro caso conhecido de um agente autônomo escolhendo invadir um sistema governamental.
Leia mais:
- OpenAI pede que EUA liderem criação de padrões globais para controlar riscos de IAs avançadas
- OpenAI lança GPT-6 Sol e Luna, novos modelos de IA que prometem mais desempenho por menos dinheiro
- OpenAI cria grupo de matemáticos após sequência de polêmicas com resultados de inteligência artificial
Continua após a publicidade
Comportamento persistiu por meses
Os novos casos indicam que o comportamento de tentativa de invasão dos sistemas da OpenAI pode ter começado antes do episódio envolvendo a Hugging Face e continuado depois que a empresa iniciou investigações sobre outros comportamentos considerados inadequados.
A Transluce identificou tráfego na web associado aos agentes desde março e até a semana passada, indicando que o comportamento teria persistido por meses.
Nos episódios de maio e junho, os sistemas aparentemente estavam envolvidos em treinamentos relacionados à recuperação de dados.
A revelação dos quatro casos ocorre em meio a outros episódios envolvendo sistemas de IA de diferentes empresas que conseguiram acessar sistemas externos sem conhecimento humano.
O próprio Sam Altman afirmou neste mês que a segurança deveria ser mais importante do que simplesmente ampliar as capacidades da IA. Segundo o CEO da OpenAI, sem mecanismos de proteção, a sociedade poderia “perder o controle do futuro para a IA”.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Tags: Inteligência Artificial Invasão OpenAI
