Big Techs concordam em adicionar salvaguardas de Inteligência Artificial

-- Publicidade --

Amazon, Google, Meta, Microsoft e outras empresas que lideram o desenvolvimento da tecnologia de inteligência artificial concordaram em cumprir um conjunto de salvaguardas de IA intermediadas pelo governo do presidente Joe Biden.

A Casa Branca disse na sexta-feira (21) que garantiu compromissos voluntários de sete empresas americanas com o objetivo de garantir que seus produtos de IA sejam seguros antes de lançá-los. Alguns dos compromissos exigem a supervisão de terceiros sobre o funcionamento dos sistemas comerciais de IA, embora não detalhem quem auditará a tecnologia ou responsabilizará as empresas.

Uma onda de investimento comercial em ferramentas de IA generativas que podem escrever textos convincentemente semelhantes aos humanos e produzir novas imagens e outras mídias atraiu o fascínio do público, bem como a preocupação com sua capacidade de enganar as pessoas e espalhar desinformação, entre outros  perigos.

Os quatro gigantes da tecnologia, juntamente com a OpenAI, fabricante do ChatGPT, e as startups Anthropic e Inflection, se comprometeram com testes de segurança “realizados em parte por especialistas independentes” para proteger contra grandes riscos, como biossegurança e segurança cibernética, disse a Casa Branca em um comunicado.

As empresas também se comprometeram com métodos para relatar vulnerabilidades em seus sistemas e usar marcas d’água digitais para ajudar a distinguir entre  imagens reais e geradas por IA, conhecidas como deepfakes.

Eles também relatarão publicamente falhas e riscos em sua tecnologia, incluindo efeitos sobre justiça e preconceito, disse a Casa Branca.

Os compromissos voluntários devem ser uma maneira imediata de lidar com os riscos antes de um esforço de longo prazo para fazer com que o Congresso aprove leis que regulem a tecnologia.

Alguns defensores dos regulamentos de IA disseram que a ação de Biden é um começo, mas é preciso fazer mais para responsabilizar as empresas e seus produtos.

“A história indica que muitas empresas de tecnologia não cumprem o compromisso voluntário de agir com responsabilidade e apoiar regulamentações rígidas”, disse um comunicado de James Steyer, fundador e CEO da organização sem fins lucrativos Common Sense Media.

O líder da maioria no Senado, Chuck Schumer, DN.Y., disse que apresentará uma legislação para regular a IA. Ele realizou uma série de briefings com funcionários do governo para educar os senadores sobre uma questão que atraiu o interesse bipartidário.

Vários executivos de tecnologia pediram regulamentação e  vários foram à Casa Branca  em maio para falar com Biden, a vice-presidente Kamala Harris e outras autoridades.

Mas alguns especialistas e concorrentes iniciantes temem que o tipo de regulamentação que está sendo lançada possa ser uma benção para os pioneiros endinheirados liderados por OpenAI, Google e Microsoft, já que empresas menores são prejudicadas pelo alto custo de tornar seus sistemas de IA conhecidos como grandes modelos de linguagem aderem a restrições regulatórias.

O grupo comercial de software BSA, que inclui a Microsoft como membro, disse na sexta-feira que acolheu os esforços do governo Biden para estabelecer regras para sistemas de IA de alto risco.

“As empresas de software corporativo esperam trabalhar com o governo e o Congresso para promulgar uma legislação que aborde os riscos associados à inteligência artificial e promova seus benefícios”, disse o grupo em comunicado.

Vários países têm buscado maneiras de regular a IA, incluindo  legisladores da União Europeia  que negociam regras abrangentes de IA para o bloco de 27 nações.

O secretário-geral da ONU, António Guterres, disse recentemente que as Nações Unidas são  “o lugar ideal”  para adotar padrões globais e nomeou um conselho que apresentará um relatório sobre as opções de governança global de IA até o final do ano.

O chefe das Nações Unidas também disse que acolheu os apelos de alguns países para a criação de um novo órgão da ONU para apoiar os esforços globais para governar a IA, inspirado em modelos como a Agência Internacional de Energia Atômica ou o Painel Intergovernamental sobre Mudanças Climáticas.

A Casa Branca disse na sexta-feira que já consultou sobre os compromissos voluntários com vários países.

*Com informações do Fast Company