Os acordos também permitirão pesquisas colaborativas para avaliar capacidades e riscos de modelos de IA.
As startups de IA OpenAI e Anthropic assinaram acordos com o governo dos Estados Unidos para pesquisa, testes e avaliação de seus modelos de inteligência artificial, informou o Instituto de Segurança de Inteligência Artificial dos EUA na quinta-feira.
Os primeiros acordos desse tipo acontecem em um momento em que as empresas enfrentam o escrutínio regulatório sobre o uso seguro e ético de tecnologias de IA.
Os legisladores da Califórnia devem votar um projeto de lei ainda esta semana para regulamentar amplamente como a IA é desenvolvida e implantada no estado.
“IA segura e confiável é crucial para o impacto positivo da tecnologia. Nossa colaboração com o US AI Safety Institute alavanca sua ampla experiência para testar rigorosamente nossos modelos antes da implantação generalizada”, disse Jack Clark, cofundador e chefe de política da Anthropic, apoiada pela Amazon e Alphabet.
Pelos acordos, o Instituto de Segurança de IA dos EUA terá acesso aos principais novos modelos da OpenAI e da Anthropic antes e depois de seu lançamento público.
Os acordos também permitirão pesquisas colaborativas para avaliar as capacidades dos modelos de IA e os riscos associados a eles.
“Acreditamos que o instituto tem um papel fundamental a desempenhar na definição da liderança dos EUA no desenvolvimento responsável da inteligência artificial e esperamos que nosso trabalho conjunto ofereça uma estrutura na qual o resto do mundo possa se basear”, disse Jason Kwon, diretor de estratégia da OpenAI, fabricante do ChatGPT.
“Esses acordos são apenas o começo, mas são um marco importante à medida que trabalhamos para ajudar a administrar de forma responsável o futuro da IA”, disse Elizabeth Kelly, diretora do Instituto de Segurança de IA dos EUA.
O instituto, parte do Instituto Nacional de Padrões e Tecnologia (NIST) do Departamento de Comércio dos EUA, também colaborará com o Instituto de Segurança de IA do Reino Unido e fornecerá feedback às empresas sobre possíveis melhorias de segurança.
O Instituto de Segurança de IA dos EUA foi lançado no ano passado como parte de uma ordem executiva do governo do presidente Joe Biden para avaliar riscos conhecidos e emergentes de modelos de inteligência artificial.
(Esta história não foi editada pela equipe da NDTV e é gerada automaticamente a partir de um feed distribuído.)