A discussão sobre a inteligência artificial (IA) está em alta no Brasil, especialmente no Congresso Nacional, onde se debate a necessidade de um marco regulatório para sua utilização. Ailton Ferreira Cavalcante, Secretário Executivo de Finanças do Distrito Federal e autor do livro “Entre o Compasso e o Algoritmo: Inteligência, Consciência e Governança na Era da Inteligência Artificial”, enfatiza que a tecnologia deve auxiliar na tomada de decisões, mas não pode substituir a responsabilidade dos gestores.
Importância da supervisão humana
Cavalcante argumenta que a IA não deve ser um “esconderijo para a responsabilidade pública”. Ele destaca que o uso de algoritmos não isenta os gestores de suas obrigações legais e que é essencial que haja supervisão, rastreabilidade e a possibilidade de revisar as decisões tomadas com a ajuda dessa tecnologia.
Regras para decisões que impactam direitos
Recentemente, um projeto de lei foi aprovado no Senado e atualmente aguarda tramitação na Câmara dos Deputados, visando regulamentar o uso de IA conforme seu nível de risco. O texto propõe regras mais rigorosas para aplicações consideradas de alto risco, além de estabelecer direitos e um sistema de governança sob a coordenação da Agência Nacional de Proteção de Dados (ANPD).
Cavalcante apoia a adoção de IA em setores públicos, ressaltando que a tecnologia pode “potencializar decisões em todas as áreas”, mas alerta para a necessidade de cautela. Ele menciona que as máquinas podem gerar informações erradas ou argumentos que parecem válidos, mas que não são. Portanto, a verificação e interpretação crítica dos resultados é fundamental.
Transparência e governança cognitiva
Em seu livro, o autor propõe um conceito que vai além da governança algorítmica, sugerindo a implementação da governança cognitiva. Esta abordagem busca entender como as pessoas interpretam e aplicam as recomendações fornecidas pela IA, ressaltando a importância da transparência em todo o processo. É vital saber a finalidade dos sistemas, a origem dos dados e os critérios utilizados nas decisões.
Cavalcante também comenta sobre o uso da IA na Secretaria de Economia do DF, afirmando que a tecnologia possui um “enorme potencial” para melhorar a gestão fiscal e orçamentária, especialmente na realização de tarefas repetitivas. O desafio, segundo ele, é capacitar os servidores públicos para que compreendam os limites da tecnologia e saibam quando questionar as recomendações feitas pelos algoritmos.
Conclusão sobre a responsabilidade na era digital
Para o autor, a inteligência não se resume apenas à capacidade de gerar respostas, mas inclui a habilidade de questioná-las. Em um momento em que a tecnologia avança rapidamente, é crucial que os gestores mantenham a responsabilidade e a supervisão nas decisões que afetam a vida das pessoas.
