O professor André Carlos Ponce de Leon Ferreira de Carvalho, diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo (ICMC-USP), em São Carlos, foi selecionado para integrar um comitê consultivo internacional formado pelo governo do Reino Unido, com o objetivo de produzir um relatório abrangente sobre as capacidades e riscos associados à Inteligência Artificial (IA).
Carvalho lidera o Centro de Pesquisa Aplicada em Inteligência Artificial Recriando Ambientes (CPA-IARA), que conta com o respaldo da FAPESP e do Ministério da Ciência, Tecnologia e Inovação (MCTI). Além disso, é o pesquisador principal do Centro de Ciências Matemáticas Aplicadas à Indústria (CeMEAI), um Centro de Pesquisa, Inovação e Difusão (CEPID) da FAPESP com sede no ICMC-USP.
Em novembro de 2023, o Reino Unido sediou a primeira cúpula global sobre segurança em inteligência artificial no histórico Bletchley Park, onde, durante a Segunda Guerra Mundial, uma equipe liderada por Alan Turing, um dos pioneiros da IA, conseguiu decifrar o código da máquina alemã Enigma.
“Da cimeira, participaram representantes de governos nacionais e da União Europeia, de empresas, da academia e da sociedade civil, incluindo o primeiro-ministro do Reino Unido, Rishi Sunak, a vice-presidente dos Estados Unidos, Kamala Harris, e a presidente da Comissão Europeia, Ursula Von Der Leyen”, contou Carvalho à Assessoria de Imprensa do ICMC-USP.
Riscos da IA
Durante o evento, foram abordados os riscos apresentados pelos sistemas de IA mais avançados e poderosos, conhecidos como inteligência artificial de fronteira (frontier AI). Os participantes tiveram acesso a um documento intitulado “AI Safety Summit – Capacidades e riscos da inteligência artificial de fronteira”, que delineou as capacidades e os riscos associados à IA de fronteira, destacando a importância do apoio à pesquisa nesse campo.
O referido relatório foi submetido à revisão de um comitê composto por especialistas, coordenado pelo professor Yoshua Bengio, da Universidade de Montreal (Canadá). Bengio, juntamente com os professores Geoffrey Hinton e Yann LeCun, foi laureado com o Prêmio Turing em 2018, reconhecimento equiparado ao Prêmio Nobel na área da computação, sendo conhecidos como os “Padrinhos da IA”.
Carvalho destacou um trecho apontado pelo relatório: “Estamos no meio de uma revolução tecnológica que trará grandes alterações à forma como vivemos, trabalhamos e nos relacionamos. A IA pode transformar quase todos os aspectos da nossa economia e sociedade”.
“Fronteiras nacionais”
“Para aproveitar as oportunidades, devemos compreender e enfrentar os riscos. A IA apresenta riscos de formas que não respeitam as fronteiras nacionais. É importante que governos, universidades, empresas e sociedade civil trabalhem juntos para enfrentar esses desafios, que são complexos e difíceis de prever, para mitigar os perigos potenciais e garantir os benefícios da IA para toda a sociedade”, aponta outro trecho.
Segundo o diretor do ICMC, não se discute mais a força dessa tecnologia transformadora, com técnicas cada vez mais sofisticadas e complexas. Para ele, esse cenário futurista parecido com roteiro de filme de ficção científica já chegou. O que não é possível prever ainda são as consequências do mau uso da tecnologia e do surgimento de uma IA mais inteligente do que os seres humanos.
“Por isso, a urgência em discutir e elaborar documentos como esse, feitos por especialistas em IA. Também ficou acordado que seguiremos redigindo documentos com informações que possam dar subsídios para que os governos se preparem, entregando a eles o conhecimento necessário, de acordo com o estado da arte, sobre o que pode acontecer com essa área, particularmente de seus riscos”, enfatizou.
*Com informações da Agência Fapesp
*Este conteúdo está alinhado aos Objetivos de Desenvolvimento Sustentável (ODS), na Agenda 2030 da Organização das Nações Unidas (ONU). ODS 09 – Indústria, Inovação e Infraestrutura
Leia também:
