A inteligência artificial tem ampliado sua presença na rotina das empresas e já participa de processos que vão da triagem de currículos à definição de estratégias de marketing, passando por diagnósticos médicos e automação no agronegócio.

De acordo com o relatório The State of AI: How organizations are rewiring to capture value, da McKinsey, a tecnologia está incorporada tanto a tarefas operacionais, como agendamentos e pagamentos, quanto a atividades mais sensíveis, como diagnósticos clínicos e sistemas de direção autônoma.

Com a expansão do uso, cresce também a preocupação com a confiabilidade das respostas geradas. Apesar da fluidez e da aparência de consistência, os conteúdos produzidos por sistemas de IA podem apresentar imprecisões ou informações incorretas.

Levantamento do relatório State of Generative AI in the Enterprise, da Deloitte, aponta que a falta de confiança está entre os principais entraves para a adoção em larga escala da tecnologia.

“Por trás de uma resposta bem construída, pode haver uma informação imprecisa ou até inexistente, o que nem sempre é perceptível em um primeiro momento”, afirma Augusto Coutinho, coordenador de Marketing da BOXGroup e especialista em Inteligência de Negócios pela Universidade Federal do Paraná (UFPR).

Esse cenário está relacionado ao funcionamento dos modelos generativos, que operam com base em probabilidades. Um dos efeitos desse processo é a chamada “alucinação”, quando o sistema apresenta respostas incorretas com alto grau de confiança, sem indicar incerteza.

Diante desse contexto, a governança de IA passa a ser considerada um elemento central para o uso da tecnologia nas organizações. A prática envolve a definição de diretrizes, critérios de uso e mecanismos de validação das informações.

“A governança de IA trata da gestão das implicações da tecnologia no dia a dia das empresas, incluindo o acesso a dados, a integridade das informações e a definição de limites de uso”, explica Coutinho.

O tema foi discutido em encontro promovido pela Assespro-PR, que reuniu executivos e especialistas para abordar os limites entre eficiência e risco no uso da tecnologia.

Entre os exemplos apresentados, estão os veículos autônomos, já utilizados em países como Estados Unidos e China, mas que ainda registram acidentes, inclusive fatais, mantendo o debate sobre segurança e regulação.

Outro ponto abordado foi a propriedade intelectual. Com sistemas capazes de gerar soluções inéditas, cresce a discussão sobre autoria e proteção jurídica dessas criações.

Para Adriano Krzyuy, presidente da Assespro-PR, o uso da tecnologia exige atenção. “A inteligência artificial amplia a produtividade e cria vantagem competitiva, mas, sem controle, pode representar riscos para as organizações”, afirma.

Adriano Krzyuy, presidente da Assespro-PR

Assessoa