O avanço acelerado da inteligência artificial (IA) em diversos setores — como saúde, segurança, educação e finanças — tem impulsionado debates sobre a necessidade urgente de regulamentação dessa tecnologia no Brasil. O tema foi destaque da edição mais recente do programa Pauta 1 da Sagres TV, que recebeu o advogado Rafael Maciel, especialista em direito digital, para discutir os riscos, desafios e impactos sociais da IA.
Rafael argumentou que, embora o Brasil tenha legislações robustas como o Marco Civil da Internet e a Lei Geral de Proteção de Dados (LGPD), o país precisa avançar na criação de normas específicas para a IA. “A gente tem que tomar muito cuidado ao afirmar que novas tecnologias precisam, necessariamente, de novas legislações. Mas no caso da IA, as consequências são tão ramificadas que extrapolam a questão da privacidade”, explicou o advogado.
Segundo ele, o risco está em como essas ferramentas são utilizadas por pessoas que, muitas vezes, não estão preparadas para interpretar corretamente os resultados gerados. “O empresário pode tomar decisões equivocadas confiando em uma informação que parece correta, mas não é. E isso pode causar prejuízos reais”, alertou.
Um exemplo citado foi o uso de IA em processos de recrutamento. “Quais são os critérios que foram colocados nesse modelo para selecionar o melhor currículo? Será que não existe um viés discriminatório ali?”, questionou Maciel, ao defender que o desenvolvimento e a implementação dessas tecnologias precisam estar ancorados em normas claras e bem estruturadas.
O advogado também comentou que o projeto de lei sobre o uso da IA já foi aprovado no Senado e segue em discussão na Câmara dos Deputados. Ele defende a proposta, mas ressalta a importância de se definir os limites da regulação. “Eu acho que precisa [de uma lei]. Mas é necessário entender qual a medida dessa regulação. Não se trata de criar uma nova lei para cada tecnologia que surge, mas de estabelecer controles mínimos para evitar danos às pessoas”, afirmou.
Maciel comparou a necessidade de regulamentação da IA a áreas críticas como energia atômica, que também requerem órgãos reguladores rigorosos. “Imagine um robô policial decidindo sozinho se atira ou não atira. São riscos que a sociedade precisa decidir se quer assumir ou não”, argumentou.
A preocupação com o uso de tecnologias de reconhecimento facial ao vivo em espaços públicos também foi abordada. Segundo o especialista, esse tipo de aplicação já levanta discussões na Europa, onde algumas práticas são proibidas por lei. “Na Europa, atividades que apresentam alto risco à sociedade são reguladas com mais rigor. O uso de IA em reconhecimento facial ao vivo, por exemplo, é uma dessas práticas que foram barradas”, comentou.
O especialista ainda alertou para os riscos de desinformação com o uso de IA generativa. “Se uma ferramenta criada para verificar a veracidade de informações já nasce com viés, ela pode reforçar a desinformação, e não combatê-la”, disse, fazendo referência aos debates atuais sobre o papel das plataformas digitais e do Judiciário na regulação das redes.
Para Maciel, a transparência no desenvolvimento das ferramentas é essencial. “O viés não está na inteligência artificial, mas em quem a desenvolve. Por isso é fundamental documentar e mostrar como essas decisões estão sendo tomadas, inclusive para garantir o cumprimento da proteção de dados”, completou.
O programa ainda discutiu os desafios e riscos do uso da IA no sistema judiciário brasileiro, apontando preocupações éticas, legais e a necessidade de regulação clara para garantir direitos fundamentais sem frear a inovação tecnológica. A discussão teve início com um alerta sobre a possível automatização excessiva em processos judiciais, o que poderia comprometer a individualidade das decisões.
O debate seguiu com a observação de que o uso da IA no Judiciário pode esbarrar em princípios constitucionais, como o do juiz natural — ou seja, o direito de ser julgado por um juiz imparcial e devidamente designado. “Temos que ter um juiz devidamente togado para dar uma decisão. E a gente espera que essa decisão seja tomada por uma pessoa humana, de carne e osso, para que todos entendam”, ressaltou.
Nesse contexto, foi mencionada uma recente resolução do Conselho Nacional de Justiça (CNJ), publicada em abril, que orienta magistrados a informar sempre que utilizarem ferramentas de IA em decisões judiciais, mesmo que parcialmente. “É o princípio da transparência e da ética. Eu informar que utilizei. Posso escrever um livro cheio de IA? Posso. Mas é prudente que eu informe, ainda que seja para revisão”, afirmou o especialista.
Apesar das orientações, há desafios na fiscalização: “Como saber se um magistrado utilizou uma ferramenta de IA para gerar uma sentença inteira e sequer revisou?”. Segundo Maciel, o Judiciário já utiliza a inteligência artificial para tarefas como automação de processos, classificação de decisões e até tradução de termos jurídicos para uma linguagem acessível à população.
Brasil pode ficar para trás?
Um ponto central da conversa foi a necessidade de o Brasil avançar na regulação da IA. Maciel afirmou que o receio de que a legislação atrapalhe a inovação ainda é recorrente entre desenvolvedores. “Existe essa mentalidade de que uma legislação necessariamente vem para proibir algo. Mas não é bem assim”, afirmou.
Ele citou o Marco Civil da Internet e a Lei Geral de Proteção de Dados (LGPD) como exemplos de legislações que trouxeram boas práticas ao setor digital, e defendeu que o mesmo pode ocorrer com a IA. “A regulação da IA é baseada em riscos. Se o sistema for de alto risco, como na seleção de beneficiários de políticas públicas, é preciso elaborar documentação técnica. Não é proibido, mas é necessário demonstrar transparência.”
O modelo europeu foi citado como referência para a futura legislação brasileira. “Acredito que o Brasil vai seguir o modelo europeu. E o que traz segurança jurídica ao investidor não é a ausência de lei, mas sim a previsibilidade”, comentou. Ele acrescentou que outros fatores, como políticas públicas de incentivo, têm peso maior na atração de investimentos.
*Este conteúdo está alinhado aos Objetivos de Desenvolvimento Sustentável (ODS), da Agenda 2030, da Organização das Nações Unidas (ONU). ODS 09 – Indústria, Inovação e Infraestrutura
Leia mais:
- Especialista desmistifica uso da IA no cotidiano e diz que ela faz só o que aprende: “Igual uma criança”
- Pesquisa inédita impulsiona manejo e desenvolvimento sustentável de fungos no Cerrado e Pantanal
- UFG promove desafio internacional com foco em soluções sustentáveis para a construção civil
