Inteligência artificial nas empresas: promessa de eficiência se transforma em novo risco operacional

Adoção acelerada de IA pelas empresas amplia riscos de falhas, aumenta custos com interrupções e exige governança, monitoramento e resiliência para evitar prejuízos operacionais.
inteligencia-artificial-riscos-empresas

IA corporativa: da promessa de confiabilidade ao paradoxo do risco

A inteligência artificial (IA) tem sido vista como a solução definitiva para reduzir falhas operacionais, eliminando erros humanos e prevenindo interrupções antes mesmo que clientes percebam problemas. No entanto, um novo relatório da Splunk aponta que a realidade é mais complexa: a IA, ao invés de apenas resolver, também está criando novos tipos de riscos para as empresas.

O tempo de inatividade, causado por falhas inesperadas em sistemas e aplicativos, pode gerar grandes prejuízos. Esses eventos não impactam apenas vendas, mas também afetam processos logísticos, reputação e a experiência do cliente. Por anos, empresas investiram pesado em automação e IA acreditando que, assim, eliminariam erros humanos. Entretanto, o cenário atual revela que a própria IA está introduzindo modos de falha silenciosos e difíceis de prever.

Crescimento dos custos e falhas associadas à IA

De acordo com o estudo da Splunk, realizado em parceria com a Oxford Economics e com mais de 2.000 executivos da Global 2000, os gastos anuais medianos com sistemas de IA para evitar interrupções chegam a US$ 24,5 milhões por empresa. Ainda assim, metade das organizações analisadas já enfrentou paralisações devido a automações de IA incorretas ou desvio de modelo, enquanto quase um terço atribui falhas a bugs gerados pela integração da IA aos sistemas de produção.

O impacto financeiro dessas falhas é expressivo: o tempo de inatividade não planejado custa aproximadamente US$ 600 bilhões por ano às empresas, um aumento de 50% em apenas dois anos. Cada minuto parado pode custar até US$ 15.000, e a média de perdas anuais chega a US$ 300 milhões antes que a situação seja reconhecida como crise.

O paradoxo da confiabilidade e os desafios de governança

O relatório destaca o chamado “paradoxo da confiabilidade”: quanto mais as empresas apostam na IA para minimizar riscos, mais precisam lidar com uma nova categoria de ameaças, menos previsíveis e mais complexas. Segundo Kamal Hathi, vice-presidente sênior da Splunk, muitas organizações implantam IA em sistemas críticos sem definir fluxos claros de escalonamento ou monitoramento ajustado para identificar desvios de modelos, e sem uma liderança definida para assumir a responsabilidade quando algo falha.

Além disso, o prejuízo vai além do departamento de TI. Quedas no valor das ações, aumento dos pagamentos por ataques de ransomware e multas regulatórias, que já somam em média US$ 51 milhões, ampliam o impacto das falhas relacionadas à IA.

Implantação acelerada aumenta riscos e ataques sofisticados

A busca por agilidade na adoção de IA, especialmente com agentes autônomos, torna os sistemas mais vulneráveis a falhas e ataques. O relatório mostra que 44% das organizações já utilizam IA de forma autônoma, mas 68% temem comportamentos imprevisíveis desses sistemas.

O avanço de ataques como prompt injection e envenenamento de dados preocupa: quase um quarto das empresas já enfrentou incidentes desse tipo. Além disso, 77% dos líderes de tecnologia acreditam que cibercriminosos armados com IA generativa aumentarão o tempo de inatividade em suas operações.

Hathi ressalta que a implantação da IA deve ser incremental, com governança e visibilidade em cada etapa. Implementar primeiro e monitorar depois pode gerar riscos desnecessários e dificultar a detecção de falhas.

O modo de falha silencioso: desafios na detecção e resposta

Greg Leffler, diretor de evangelismo de desenvolvedores da Splunk, destaca que as falhas relacionadas à IA frequentemente não se manifestam de forma dramática. Em muitos casos, ocorre uma degradação lenta do sistema, causada por desvio de modelo — quando a automação, antes eficaz, passa a operar com dados desatualizados — ou integrações quebradas, em que decisões tomadas a partir de dados incompletos desencadeiam erros em sistemas interligados.

Esses problemas minam a confiança gradualmente até que colapsos críticos aconteçam. Muitas empresas partem do princípio de que sistemas de IA são autocorretivos, mas raramente implementam práticas de engenharia robustas, como testes incrementais e reversão. Segundo Leffler, apenas 38% dos executivos afirmam conseguir identificar consistentemente a causa raiz dos incidentes, mesmo após grandes investimentos em monitoramento.

A crescente automação também reduz a experiência prática das equipes de engenharia, dificultando o diagnóstico de falhas. Isso se agrava com o uso intenso de soluções externas e IA de terceiros, criando camadas de risco pouco visíveis ou controláveis.

Shadow AI: quando a inteligência artificial foge do controle corporativo

Além dos riscos nos sistemas oficiais, o relatório chama atenção para a Shadow AI — uso de ferramentas de IA não autorizadas por funcionários. Segundo a pesquisa, 66% das organizações identificaram colaboradores utilizando IA para escrever códigos, automatizar tarefas e gerar entregas de negócios, sem controle ou visibilidade centralizada sobre os dados acessados ou as recomendações feitas.

Diferente da Shadow IT tradicional, a Shadow AI pode influenciar decisões operacionais sem deixar rastros claros, dificultando ainda mais a governança e a segurança. O desafio, segundo Hathi, é implementar políticas, visibilidade e sistemas de monitoramento que acompanhem o uso da IA em toda a empresa, não apenas na infraestrutura oficial.

Para avançar, as empresas precisam de uma camada de telemetria baseada em logs, métricas e rastreamentos, além de sistemas capazes de identificar e corrigir comportamentos problemáticos antes que se transformem em crises. Como destaca Hathi, em um cenário onde todos têm acesso às mesmas tecnologias, a diferença estará na resiliência, governança e observabilidade.

Para saber mais sobre Shadow AI, veja também: Shadow AI: como evitar que a inteligência artificial vire uma inimiga.

Como as empresas podem se proteger dos riscos da IA

Embora a IA traga ganhos de eficiência, é fundamental que as empresas adotem boas práticas de governança, monitoramento contínuo e políticas claras para uso dessas tecnologias. A criação de processos de escalonamento, a definição de responsáveis por incidentes e o investimento em resiliência operacional são passos essenciais para transformar a IA em aliada dos negócios, não em geradora de novos riscos.

Em resumo, o avanço da IA nas empresas exige uma abordagem equilibrada entre inovação, responsabilidade e controle, garantindo que a busca por eficiência não comprometa a segurança e a continuidade das operações.

FAQ:

Quais são os principais riscos da adoção de IA nas empresas?

Os principais riscos incluem falhas inesperadas, bugs introduzidos pela IA, ataques sofisticados como prompt injection, perda de controle com Shadow AI e dificuldades em identificar causas raiz de incidentes.

Como a Shadow AI impacta a segurança corporativa?

A Shadow AI permite que funcionários usem ferramentas de IA não autorizadas, dificultando o controle, a visibilidade e a governança sobre dados e decisões, aumentando riscos de segurança, compliance e falhas operacionais.

O que as empresas devem fazer para mitigar riscos ligados à IA?

Devem investir em governança, monitoramento contínuo, políticas claras de uso, definir responsáveis por incidentes e adotar práticas de resiliência e observabilidade para antecipar e corrigir falhas antes que virem crises.

Conteúdo elaborado com auxílio de inteligência artificial e submetido à revisão humana antes da publicação.