Trump e líderes de tecnologia assinam pacto voluntário comprometendo-se com salvaguardas "robustas" para IA

O presidente dos EUA, Trump, defende a autorregulação em meio a apelos da comunidade internacional e do setor por regras formais.

O presidente dos Estados Unidos, Donald Trump, e altos executivos do setor de tecnologia assinaram um acordo prometendo maiores salvaguardas para a inteligência artificial, em meio a preocupações crescentes de que essa tecnologia de ponta esteja expondo a humanidade a riscos catastróficos.

Trump anunciou o acordo voluntário na terça-feira, após reunir líderes da área de IA na Casa Brcanca para um almoço que reafirmou o ceticismo de sua administração em relação à regulamentação governamental dessa tecnologia em rápida evolução.

“Existe a crença de que deveria haver uma enorme autorregulação, e nós já temos, automaticamente, a regulação do Departamento de Justiça, do FBI, de tudo isso”, disse Trump, sentado ao lado de executivos de tecnologia.

No âmbito do Compromisso Conjunto sobre Responsabilidades em Fronteiras Tecnológicas, os líderes da Anthropic, OpenAI, Google, Meta, xAI e Nvidia comprometeram-se a implementar controles “robustos” para monitorar modelos de IA e a designar equipes internas para “garantir que todos os controles, o monitoramento e a detecção estejam operando conforme o previsto e que quaisquer problemas sejam corrigidos”.

As empresas também se comprometeram a firmar parcerias com auditores externos independentes para garantir que as salvaguardas funcionem conforme o previsto e a se reunir regularmente para “estabelecer padrões e melhores práticas visando aprimorar a segurança de seus sistemas”.

O acordo, que não especifica quem realizaria as avaliações por terceiros, afirma que “pode fazer sentido” transformar as medidas em lei ou regulamentações formais no futuro.

“Independentemente de isso ser exigido das empresas, acreditamos que a implementação desses controles e auditorias é fundamental para assegurar um futuro seguro para todos, e cada uma de nossas empresas está comprometida em fazê-lo”, declara o acordo.

"Ritmo na fronteira tecnológica"

Os seis signatários são Dario Amodei (Anthropic), Greg Brockman (OpenAI), Sundar Pichai (Google), Mark Zuckerberg (Meta), Elon Musk (xAI) e Jensen Huang (Nvidia).

O acordo surge em um momento de divergência entre a administração Trump e os apelos por ações urgentes para regular a IA, vindos tanto da comunidade internacional quanto de figuras importantes do setor — incluindo Amodei, da Anthropic, que instou os desenvolvedores a desacelerar e a definir o "ritmo na fronteira tecnológica".

Na semana passada, vinte países e a União Europeia pediram uma coordenação global para garantir que a IA permaneça sob controle humano, o que inclui a possível criação de um órgão de supervisão para estabelecer e fazer cumprir normas.

Trump rejeitou apelos por uma regulamentação supranacional, afirmando à Assembleia Geral das Nações Unidas, na semana passada, que sua administração se oporia a "qualquer tentativa de criar um esquema globalista para controlar" a IA.

Trump também descartou pedidos do setor por uma desaceleração no desenvolvimento — apesar de alertas sobre riscos catastróficos e até existenciais —, citando a necessidade de manter a liderança em relação à China.

Os riscos de a IA escapar do controle humano têm sido objeto de escrutínio após uma série de casos em que agentes de IA agiram de forma autônoma e indevida, realizando ataques cibernéticos contra organizações e agências governamentais.

Na segunda-feira, a OpenAI anunciou que não lançaria seu modelo de IA mais recente após identificar riscos de segurança durante testes internos.

A criadora do ChatGPT também emitiu, separadamente, um pedido público de desculpas pela forma como lidou com uma série de incidentes nos quais seus agentes de IA obtiveram acesso não autorizado a sites do governo australiano, incluindo um banco de dados nacional de saúde.

O acordo de Trump gerou reações mistas na terça-feira, com críticos apontando sua natureza não vinculativa e a escassez de detalhes.

O investidor do Vale do Silício David Sacks, que anteriormente atuou como o responsável pela estratégia de IA de Trump, classificou o acordo como "muito melhor" do que um tratado internacional que "provavelmente nunca aconteceria".

"O presidente Trump continua garantindo que os EUA permaneçam na liderança tecnológica, ao mesmo tempo em que coloca os americanos em primeiro lugar", afirmou Sacks em uma publicação no X.

Alvin Wang Graylin, pesquisador sênior do Centro de Análise sobre a China do Asia Society Policy Institute, saudou o compromisso assumido pelos líderes do setor, mas ressaltou que ele ficou muito aquém do necessário.

"O risco mais grave para os americanos não é uma superinteligência chinesa. É um modelo menor em mãos de atores não estatais, utilizado para causar danos biológicos, químicos ou cibernéticos", disse Graylin à Al Jazeera.

"Formalizar isso, com Zuckerberg e Huang presentes ao lado de Amodei, é melhor do que mais um ano de 'não podemos regular porque a China não o fará'", observou Graylin.

“O que falta é independência e qualquer coisa que ultrapasse fronteiras. As empresas elaboraram os princípios, elas contratam o auditor e o compromisso é voluntário — tudo isso num dia em que a Casa Branca também afirmou que não apoiaria a implementação de mecanismos de controle”, acrescentou ele.

‘Incompetentes e negligentes’

Toby Walsh, chefe do Instituto de IA da UNSW em Sydney, Austrália, afirmou que as empresas de IA já haviam demonstrado ser “incompetentes e negligentes na autogestão”.

“Que outra indústria multibilionária corrige a sua própria lição de casa?”, disse ele à Al Jazeera.

“É tentador demais pegar atalhos”, disse Walsh, acrescentando que os altos executivos deveriam ser responsabilizados pelos danos causados ​​por seus produtos.

“Deveríamos cobrar delas todo o tempo gasto para identificar e corrigir esses ataques cibernéticos”, afirmou.

David Krueger, especialista em IA da Universidade de Montreal que defende uma pausa no desenvolvimento da tecnologia, criticou o acordo por considerá-lo vago e mais um exemplo da aposta do governo Trump na autorregulação.

“O governo Trump mantém sua abordagem de ‘regular sem regular’, na qual tudo é aparentemente voluntário, mas existe uma ameaça implícita de punição em caso de descumprimento”, disse Krueger à Al Jazeera.

“Se analisarmos o conteúdo, é interessante que o acordo preveja avaliadores externos; portanto, pode resultar em uma pequena melhoria em relação ao *status quo*”, observou Krueger.

“Mas não me entusiasma algo que possa reduzir o risco em apenas 1%.”

Fonte: Aljazeera