“Criamos algo que não conseguimos explicar”, diz conselheira de Inteligência Artificial da União Europeia

Estrategista em tecnologia especializada em negócios, riscos e geopolítica da inteligência artificial (IA) em serviços financeiros, Clara Durodié foi conselheira do Fórum Econômico Mundial, do Grupo Parlamentar Misto do Reino Unido, da comissão especial sobre o tema no Japão e é membro da Aliança de Inteligência Artificial da União Europeia. Ela veio ao Brasil para participar do MKBR, evento da Anbima e da B3 que aconteceu nesta quinta-feira (6), no Teatro B32, em São Paulo.

Durodié é autora do livro “Decoding AI in Financial Services – Business Implications for Boards and Professionals” (algo como “Decodificando a IA nos serviços financeiros – implicações de negócios para conselhos e profissionais), lançado em 2019 e que ganhará uma nova versão também na próxima semana. Apesar de acompanhar a evolução desta tecnologia há bastante tempo, ela diz que entramos num novo momento, com a IA ganhando mais autonomia. Para ela, é o momento de parar e pensar tanto na adoção quanto na regulação do tema.

“A ingenuidade humana chegou a um nível tão alto que criamos algo que não conseguimos explicar como funciona”, diz. “Digo a empresas e reguladores: este não é o tempo para se apressar.”

A sra. acompanha IA antes de todo o barulho sobre essa tecnologia. O que a sra. vê para o futuro?

O mais importante é olhar esse grande campo da IA e tentar entender, enquanto a tecnologia amadurece, para onde estamos indo. Na segunda edição do meu livro sobre inteligência artificial para pessoas não tecnológicas, quis explicar que esse campo deve ser entendido também do ponto de vista da busca pela sua própria autonomia. Até o ChatGPT e a IA generativa, usávamos a IA preditiva para classificação, engenharia de recomendação e assim por diante. Por exemplo, classificar se uma pessoa é ou não elegível para um empréstimo pessoal, um financiamento imobiliário ou uma hipoteca. Com a IA generativa, entramos no que eu chamo de inteligência artificial semi autônoma, com texto, discursos, vídeos, imagens e áudio. É a IA cognitiva, uma tecnologia que tem uma boa compreensão do contexto, habilidades de pensar, fazer planos, entre outras coisas. São ferramentas que estão sendo desenvolvidas, com um nível de autonomia bastante alto e que podem se engajar com outros agentes. É um novo mundo muito diferente, que nós não sabemos exatamente como será, porque nunca o experimentamos.

Quais os desafios na regulação de algo tão desconhecido?

No Reino Unido e na Europa, a IA preditiva foi muito adotada, em todos os tipos de funções e tarefas. Mas agora, como essa tecnologia se torna mais autônoma, ela pode mudar a natureza do que desempenha. Bem como será capaz de, em muitas formas, mudar e desafiar as exigências dos reguladores. Ao mesmo tempo em que está ganhando mais autonomia, nós, humanos, não conseguimos exatamente explicar como ela toma algumas decisões. O regulador começará a fazer perguntas, não apenas sobre as decisões, mas também sobre a consistência dos resultados. Porque, com a IA generativa, nunca é certo se a mesma resposta será dada de novo e de novo. De uma perspectiva regulatória, isso é muito importante. Além disso, é essencial entender quais situações ou instâncias são elegíveis para adotar essa tecnologia.

Como assim?

Pode haver instâncias em que decidamos não adotar essa tecnologia porque ela não é confiável, não é adequada ou as regras não permitem espaço para resultados diversos. Precisamos entender o que a tecnologia pode fazer e então escolher o algoritmo certo. Mas ter certeza de que ficamos dentro dos requisitos regulatórios.

A tecnologia vem sendo adotada sem que saibamos suas consequências?

A ingenuidade humana chegou a um nível tão alto que criamos algo que não conseguimos explicar como funciona. Quando a IA alucina, por exemplo, produz um resultado distante do que os reguladores realmente querem. Então, de novo, é caso de pensar: “vamos usar essa tecnologia para nossos objetivos ou deixá-la fazer o que quiser?”

Isso diz respeito apenas a reguladores ou também a negócios?

Na segunda edição do meu livro, faço a seguinte pergunta: “quão lenta é sua estratégia de IA?” Porque todo mundo está correndo atrás de seu uso, mas é preciso desacelerar e perguntar quais ferramentas cada tecnologia oferece e como aprender com cada uma delas. É preciso ser bastante seletivo de acordo com o objetivo de cada empresa. Na verdade, a grande pergunta a ser respondida é “onde queremos ir, como negócio?” A empresa quer crescer expandindo o número de seus clientes? Quer ir a outros países? O que faz como negócio para ser mais lucrativo? Uma vez que se entenda esse objetivo, é possível determinar se estou usando ou não a melhor a tecnologia para me apoiar nessa meta. Vejo muito no Reino Unido, especialmente em relação ao ChatGPT, muitas empresas embarcarem e reportarem seu uso sem se preocupar com riscos ou consequências negativas. Elas têm colocado dados em risco e enfrentado desafios, sem saber o motivo. Há algoritmos opacos que têm tomada de decisões e consistência impossíveis de entender. É preciso fazer uma curadoria de uso bastante cuidadosa.

As empresas deveriam adotar um protocolo na adoção de IA?

As empresas precisam ter uma estratégia de IA, que implica gerenciar dados, construir e fazer a curadoria dos algoritmos. Assumir a propriedade de cada passo é muito importante. Para desenhar essa estratégia, recomendo olhar para o negócio como se desmontasse um carro, olhando para cada um dos milhares de pedaços que o compõem. É quase decompor todo o negócio para entender seu funcionamento, processos e responsáveis. Com esse tipo de visão, é possível entender como cada processo gera lucro e, a partir daí, adotar uma estratégia para IA. Deixe-me lhe dar um exemplo. Quando você vai jogar tênis, põe salto alto? Quando vai jogar golfe, calça botas de caminhada? O ponto é: como é necessário escolher calçados certos para diferentes atividades, precisamos ser inteligentes e bem informados no uso de algoritmos e do tipo certo de IA para a tarefa. Não é só escolher o mais caro, o mais sofisticado, mas o certo. Se conseguir isso, já é o vencedor de parte da batalha.