OpenAI, Anthropic e Google buscam criar órgão de supervisão de riscos da IA

OpenAI, Anthropic e Google DeepMind trabalham na criação de um órgão de supervisão dos riscos relacionados à inteligência artificial, informou a OpenAI à AFP nesta terça-feira (15), em meio a apelos crescentes por um maior controle dessa tecnologia.

As preocupações com a segurança da inteligência artificial se intensificaram nas últimas semanas, incluindo alertas de dois funcionários que deixaram grandes desenvolvedoras de IA devido à ameaça que, segundo eles, essa indústria representa para a humanidade.

Os grandes atores da IA vêm pedindo há meses ao governo dos Estados Unidos a criação de um marco regulatório para o setor e maior supervisão de sua segurança.

A ideia de uma entidade de supervisão foi proposta em julho por Demis Hassabis, cofundador e diretor-executivo do Google DeepMind, que sugeriu uma entidade semelhante à Autoridade Reguladora da Indústria Financeira dos Estados Unidos, um órgão de autorregulação do setor.

"O financiamento teria que ser significativo e provavelmente vir em grande parte da indústria", escreveu Hassabis, acrescentando que seria necessário atrair profissionais com conhecimento técnico e dispor de grandes recursos computacionais para realizar testes em larga escala.

O governo dos Estados Unidos iniciou em agosto um processo de avaliação dos novos modelos de IA, embora a participação seja voluntária e sua metodologia não tenha sido divulgada.

Após os apelos feitos no sábado por Dario Amodei, diretor-executivo da Anthropic, desenvolvedora do chatbot Claude, para desacelerar o desenvolvimento da IA, o presidente dos Estados Unidos, Donald Trump, reiterou que não pretende limitar o setor.

"Que a IA assuma o controle do mundo, destrua a humanidade e todas essas coisas ruins é uma FARSA", escreveu Trump em sua plataforma Truth Social na segunda-feira.

O presidente e integrantes de seu governo reiteraram que não pretendem limitar a IA por temerem que a China assuma a liderança.

As empresas de IA estão "brincando com nossas vidas", advertiu na semana passada Jacob Coxon ao deixar seu cargo de desenvolvedor na Anthropic.

Na segunda-feira, o ex-pesquisador do Google DeepMind Bilal Chughtai reiterou as preocupações levantadas por Coxon e outros.

"Acredito sinceramente que a IA tem o potencial de matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho", declarou nas redes sociais.