Autorregulação da IA de Trump é carta branca a bigtechs, diz professor

[ad_1]

O anúncio do governo dos Estados Unidos (EUA) e de big techs da Inteligência Artificial (IA) de criar uma autorregulação voluntária com controles de segurança para o desenvolvimento da tecnologia representa uma “carta branca” para a indústria do setor com riscos para a saúde pública e para a democracia dos países.

Essa é a avaliação do sociólogo Sérgio Amadeu, professor da Universidade Federal do ABC e autor de obras sobre tecnologias digitais:

“O que o Trump fez foi entregar completamente e de modo irresponsável o controle democrático do desenvolvimento da IA para a própria corporação que a desenvolve. Isso é um risco gigantesco”, avaliou.

Dentre as medidas anunciadas no acordo firmado na terça-feira (29), na Casa Branca, com a OpenAI, Meta, Anthropic, Google, Nvidia e X (antigo Twitter), está a implementação de “controles internos” para monitorar os modelos de IA para “garantir que seus modelos não invadam ou acessem sistemas técnicos de maneiras não intencionais”.


São Paulo (SP), 06.09.2024 - Sociólogo e professor da UFABC Sérgio Amadeu da Silveira. Foto: TV PUC/Reprodução
São Paulo (SP), 06.09.2024 - Sociólogo e professor da UFABC Sérgio Amadeu da Silveira. Foto: TV PUC/Reprodução

Sociólogo e professor da UFABC Sérgio Amadeu da Silveira – TV PUC/Reprodução

“Isso já é feito. Todo o processo de treinamento de IA requer um controle robusto. O monitoramento interno já é feito. Tudo isso não agrega nada de importante para regulamentar e controlar usos e desenvolvimentos indevidos do aprendizado de máquina e do aprendizado profundo”, completou Amadeu.

Sobre a previsão de auditoria externa independente das empresas de IA, o professor da UFABC contesta que essa auditoria será paga pela própria empresa.

“Até que ponto esse auditor externo pago pela própria empresa vai fazer críticas e sugestões que vão criar descontentamento do conselho de acionistas das empresas?”, questionou Sérgio.  

Saúde Pública

Amadeu destaca que a IA traz riscos ambientais, devido ao alto consumo de energia e água, de violação de privacidade, devido a capacidade de vigilância em massa de populações, assim como riscos à democracia e à saúde pública.

Ele explica que várias pesquisas realizadas na indústria farmacêutica, em parceria com big techs por meio de modelos de IA, podem envolver riscos para a saúde da população e, por isso, precisa de regulação do Estado.

“Sabemos que quando o uso de IA fica sob controle apenas de investidores, isso traz um risco gigantesco para experimentos e ações que coloquem em risco a saúde pública”, comentou.

Entre os riscos, o especialista cita a possibilidade do uso de IA levar as pessoas a tomar medicamentos por conta própria ou mesmo fazer diagnósticos com uso da máquina.

“Quando nós estamos tratando de fenômenos ligados à chamada saúde pública e que incluam a parceria de grandes big techs com indústrias químicas e de fármacos, é um risco muito grande e, portanto, precisa de uma regulamentação estatal democrática”, concluiu.

Temor social

O governo Trump tem rejeitado impor limites ao desenvolvimento da IA, mesmo diante de pedidos da própria indústria e pressão social interna.

Pesquisa de opinião realizada pela Ipsos e Reuters revelou que 73% da população dos EUA acreditam que as empresas de IA não tomam medidas suficientes para impedir os danos da tecnologia para a sociedade e 39% acreditam que a IA está tendo um impacto negativo na sociedade.

Um dos riscos apontados é que os sistemas banalizem ataques cibernético por meio da invasão de sistemas de outras empresas e instituições. Outros riscos associados à IA são os impactos sobre o mercado de trabalho ou uso “maliciosos” da tecnologia por criminosos para aplicar golpes cibernéticos.

Democracia

A IA ainda pode ser usada para influenciar a opinião pública por meio da manipulação da informação que circula nas redes sociais, segundo descreve o relatório Internacional IA Safety Report 2026, elaborado por 100 especialistas de mais de 30 países.

“Diversos estudos laboratoriais demonstraram que a interação com sistemas de IA pode levar a mudanças mensuráveis ​​nas crenças das pessoas”, aponta o relatório.

Outro risco apontado é em relação ao desenvolvimento de armas químicas e biológicas.

“Sistemas de IA de uso geral podem fornecer informações sobre o desenvolvimento de armas biológicas e químicas, incluindo detalhes sobre patógenos e instruções de laboratório de nível especializado”, diz o relatório internacional.

 

[ad_2]

Agência Brasil

Enem 2026: Prefeitura de Manaus garante ônibus gratuitos neste domingo (15) para até 50 mil candidatos Gratuidade será oferecida das 7h às 20h nos ônibus...

FAMÍLIA DE BENÍCIO PEDIRÁ CASSAÇÃO DE TÉCNICA DE ENFERMAGEM EM JULGAMENTO NO COREN-AM Laudo do IML aponta forte nexo causal entre administração intravenosa de adrenalina...

Da Amazônia para o mundo: atriz Rosa Malagueta disputa vaga no Conselho Nacional de Política Cultural Nascida em Tabatinga, premiada no cinema e integrante de...

Amazonas Repórter

Tudo

O mal-estar no futebol – ICL Notícias

Há um incômodo latente que atravessa o espírito de todo brasileiro quando...

Após impasse do IOF, Senado aprova pacote com reforço de R$ 26 bi ao governo

O Senado aprovou na terça-feira (18) o projeto que resgata medidas fiscais...