Pioneiro da inteligência artificial alerta: “Estamos perdendo o controle”

Yoshua Bengio defende medidas de segurança mais rígidas e compara necessidade de proteção da IA a controles adotados para armas nucleares

Um dos pesquisadores considerados fundamentais para o desenvolvimento da inteligência artificial voltou a fazer um alerta sobre os riscos associados ao avanço acelerado da tecnologia.

Em entrevista à AFP, o cientista da computação canadense Yoshua Bengio, de 62 anos, afirmou que a humanidade está “perdendo o controle” sobre a inteligência artificial e defendeu a adoção de mecanismos de proteção antes que sistemas cada vez mais avançados se tornem difíceis de controlar.

Bengio é considerado um dos pioneiros da área e recebeu, ao lado de Geoffrey Hinton e Yann LeCun, o Prêmio Turing de 2018 por trabalhos que ajudaram a estabelecer as bases do aprendizado profundo, uma das tecnologias fundamentais para os atuais sistemas de IA.

Agora, o pesquisador afirma que a velocidade de desenvolvimento da tecnologia exige uma discussão mais ampla sobre segurança.

“Estamos perdendo o controle”

Durante a entrevista concedida na terça-feira (15), Bengio afirmou que existe uma razão para que integrantes da própria indústria estejam alertando sobre a velocidade com que a inteligência artificial está avançando.

Segundo ele, as discussões sobre segurança não acompanharam a dimensão dos avanços tecnológicos registrados nos últimos anos.

O pesquisador também defendeu que o desenvolvimento de sistemas cada vez mais poderosos seja acompanhado por mecanismos de proteção semelhantes, em escala e rigor, aos controles internacionais adotados para tecnologias de alto risco.

Entre as comparações feitas por Bengio está a necessidade de estabelecer salvaguardas para a IA antes que sistemas mais autônomos possam executar tarefas complexas com pouca intervenção humana.

O que preocupa os pesquisadores

Uma das questões centrais no debate atual é o desenvolvimento de sistemas capazes de executar sequências cada vez maiores de tarefas de forma autônoma.

Isso inclui agentes de IA capazes de pesquisar informações, utilizar ferramentas digitais, escrever e executar códigos e tomar decisões dentro de determinados ambientes.

Para Bengio, o problema não está apenas na capacidade atual desses sistemas, mas na velocidade com que suas capacidades podem aumentar.

O alerta ocorre enquanto empresas como OpenAI, Anthropic e Google DeepMind discutem a criação de mecanismos independentes de supervisão dos riscos associados à inteligência artificial. As empresas vêm defendendo maior atenção à segurança e à criação de estruturas capazes de acompanhar o desenvolvimento da tecnologia.

Debate divide o setor

O alerta de Bengio não representa uma posição consensual entre pesquisadores e empresas de tecnologia.

Enquanto alguns especialistas defendem que o avanço da IA deve ser acompanhado de regulações e testes de segurança mais rigorosos, outros argumentam que previsões sobre riscos extremos podem ser exageradas e que o foco deve estar nos problemas concretos já existentes, como desinformação, fraudes, segurança digital e impactos no mercado de trabalho.

O próprio setor de tecnologia tem apresentado posições diferentes sobre o ritmo de desenvolvimento da IA. Nos últimos meses, empresas e pesquisadores passaram a discutir propostas de supervisão, testes de segurança e limites para determinados sistemas.

Uma discussão que deixou de ser futurista

A preocupação com o controle da inteligência artificial já não está restrita a cenários de ficção científica.

Sistemas generativos são utilizados atualmente para produzir textos, imagens, vídeos e códigos, enquanto agentes capazes de realizar tarefas de maneira parcialmente autônoma estão sendo desenvolvidos por diferentes empresas.

Ao mesmo tempo, governos discutem regras para acompanhar uma tecnologia que evolui em ritmo mais rápido do que muitos dos processos tradicionais de regulamentação.

Para Bengio, o momento exige justamente que a discussão sobre segurança aconteça antes de sistemas ainda mais avançados chegarem ao cotidiano.

O alerta de um dos pesquisadores que ajudaram a construir as bases da atual revolução da inteligência artificial adiciona mais peso a um debate que já envolve cientistas, empresas e governos em diferentes partes do mundo.