Tudo sobre Google
ver mais
Tudo sobre Inteligência Artificial
ver mais
Tudo sobre OpenAI
ver mais
Google, OpenAI e Anthropic estão mais perto de criar uma organização independente para desenvolver padrões de segurança para sistemas de inteligência artificial (IA) de fronteira. A iniciativa surge em meio ao aumento do debate sobre como tecnologias cada vez mais avançadas devem ser regulamentadas.
Continua após a publicidade
Segundo o The Information, o grupo de segurança está tomando forma e as três empresas estão chamando provisoriamente a organização de Standards Authority for Frontier AI (SAFA).
A proposta é que a entidade opere de maneira independente e ajude a preencher lacunas na supervisão governamental sobre a IA.
Empresas querem ampliar cooperação em segurança
- A iniciativa representa aproximação entre algumas das principais desenvolvedoras de IA do mundo para além de seus próprios programas individuais de segurança;
- OpenAI e Anthropic também teriam discutido um acordo que permitiria a cada empresa testar os modelos comerciais de IA da outra em busca de vulnerabilidades e comportamentos inesperados;
- Nesse modelo, as companhias teriam acesso aos modelos comerciais umas das outras para realizar testes independentes de estresse. Os dados obtidos durante essas avaliações, porém, não poderiam ser mantidos pelas empresas.
A ideia de estabelecer padrões mais amplos ganhou ainda mais atenção nesta semana, quando os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, falaram sobre segurança de IA no Conselho de Segurança das Nações Unidas (ONU).
Sam Altman e Dario Amodei, CEOs da OpenAI e Anthropic, pediram, na ONU, um controle maior sobre a IA – Imagem: jamesonwu1972 / Below the Sky / Shutterstock
Altman afirmou que decisões importantes relacionadas à IA deveriam ser moldadas por instituições democráticas e governos. Amodei, por sua vez, defendeu acordos internacionais e padrões globais para testar novos modelos de IA.
A OpenAI também já pediu separadamente que os Estados Unidos liderem esforços internacionais para estabelecer padrões técnicos para sistemas avançados de IA, incluindo tecnologias capazes de realizar autoaperfeiçoamento recursivo.
Leia mais:
- Google leva chips de IA para o espaço em teste que pode mudar o futuro dos centros de dados
- Efeito “bomba atômica” da IA: mundo volta a tratar uma tecnologia como ameaça à paz mundial após mais de 80 anos
- Trump e Xi parecem ter caminhos diferentes para o futuro das IAs
Debate sobre regulação da IA
A proposta da SAFA surge em momento de divergências cada vez maiores sobre como a IA deve ser regulamentada.
De um lado, há defensores de salvaguardas mais rígidas para reduzir possíveis riscos associados a sistemas cada vez mais capazes. De outro, há quem argumente que as leis existentes e os próprios mecanismos de mercado seriam suficientes para lidar com essas ameaças.
O governo dos Estados Unidos também aparece nesse debate. O presidente Donald Trump se opôs a novas barreiras regulatórias para a IA e defendeu que EUA e China mantenham o desenvolvimento da tecnologia no curso atual.
Nesse cenário, o órgão proposto por Google, OpenAI e Anthropic representaria uma tentativa das principais desenvolvedoras de IA de estabelecer padrões comuns de segurança enquanto governos discutem qual nível de supervisão deve ser aplicado a sistemas cada vez mais avançados.
Rodrigo Mozelli
Rodrigo Mozelli é jornalista formado pela Universidade Metodista de São Paulo (UMESP) e, atualmente, é redator do Olhar Digital.
Ver todos os artigos →
Tags: anthropic Google Inteligência Artificial OpenAI
