Desafios na implementação da inteligência artificial
A adoção da inteligência artificial (IA) nas empresas enfrenta um obstáculo crescente: a segurança dos dados. Segundo um relatório global da Hitachi Vantara, a estruturação dos dados, a governança e a infraestrutura são os três pilares que mais preocupam os executivos ao implementar IA. Com o avanço da tecnologia generativa, o ambiente digital ficou mais suscetível a falhas de cibersegurança, sobretudo pela ausência desses elementos fundamentais.
Shane Gibson, especialista técnico sênior para as Américas na Hitachi Vantara, alerta que a introdução de agentes de IA traz riscos inéditos. “Esses agentes podem executar ações com efeitos não intencionais se não forem monitorados constantemente, e há uma grande confusão sobre seu funcionamento”, explica. Para ele, o entusiasmo exagerado das empresas tem levado à implementação apressada de soluções de IA, sem a devida avaliação do impacto, criando vulnerabilidades significativas.
O cenário dos dados não estruturados e a realidade brasileira
O relatório evidencia que aproximadamente 91% das interações com agentes de IA ainda enfrentam problemas de “alucinação” — erros na geração de respostas. Isso ocorre em meio a um volume expressivo de dados corporativos não estruturados, que representam 76% do total e são justamente os mais explorados pelas aplicações de IA.
No Brasil, o panorama apresenta peculiaridades. O país está em plena digitalização, muitas vezes amparada por sistemas legados e heterogêneos. A Hitachi Vantara aponta que os executivos brasileiros tendem a ser mais cautelosos na adoção da IA. Joshua Wick, líder global de riscos e compliance da empresa, observa que há um esforço maior para realizar uma due diligence detalhada antes de investir. “Existe uma apreensão quanto ao valor inicial, respaldada por estudos recentes”, comenta.
Leia também: OpenAI lança GPT-6 Astra e declara início da era da Inteligência Artificial Geral
Fonte: ocuiaba.com.br
Leia também: Segurança de Dados é o Maior Desafio na Adoção da IA, Indica Estudo da Hitachi Vantara
Fonte: edemossoro.com.br
Educação e governança como caminhos para segurança
Essa postura mais conservadora é vista como positiva pelos especialistas, que defendem o uso moderado da IA. Wick sugere que o primeiro passo deve ser questionar se o problema pode ser resolvido sem recorrer à inteligência artificial. A capacitação dos usuários é outro ponto-chave para evitar riscos, pois é fundamental que eles compreendam o funcionamento e as implicações do uso da IA.
Gibson destaca que a pressa em colocar a IA em produção pode ser prejudicial. “É preciso definir claramente os objetivos, entender os riscos envolvidos e realizar testes prévios. Muitas organizações negligenciam esses aspectos”, afirma.
Segurança em foco e o impacto nos modelos de linguagem
O estudo também revela que a segurança de dados se tornou a maior preocupação entre as lideranças: 56% apontam esse tema como o principal desafio na implementação da IA, um salto de 19 pontos percentuais em relação ao ano anterior. Esse cenário tem influenciado o uso dos modelos de linguagem em larga escala (LLMs), como ChatGPT e Copilot, cuja taxa de sucesso percebida caiu de 95% para 81%.
Em resposta, as empresas aumentaram o investimento em governança e qualidade dos dados. O percentual de organizações que aprimoram os dados para treinamento subiu de 39% para 49%, enquanto a adoção de frameworks de governança avançou de 32% para 45%. Auditorias regulares tiveram crescimento semelhante, passando de 36% para 44%, e a ausência de estratégias para explicar os modelos caiu de 42% para 24%.
Leia também: Com check-in digital, hóspede pode chegar a hotel com ficha preenchida
Fonte: atividadenews.com.br
Gibson reforça que a IA, apesar dos benefícios iniciais, apresenta riscos devido à sua natureza não determinística. “Os problemas de alucinação e o retorno incerto sobre o investimento indicam que a IA pode ameaçar o negócio se não for bem gerenciada”, observa.
Perspectivas para o futuro da inteligência artificial
Apesar dos desafios, o caminho não é frear a inovação. Para os especialistas, a governança e a segurança servem para potencializar o uso da IA com responsabilidade, preservando a integridade dos negócios. Gibson projeta que, futuramente, as interfaces de IA serão ainda mais integradas, permitindo solicitações simples que gerem resultados imediatos.
“A tecnologia seguirá evoluindo, mas é imprescindível que as organizações se preparem estruturalmente antes de avançar”, conclui.