IA Generativa é sua aliada, mas são necessários cuidados adicionais de cibersegurança

Incremento será necessário para integrar proteção a novas superfícies de ataque, como prompts ou camadas de orquestração

Ao analisar as principais tendências recentes de segurança cibernética e orientar as ações que os CISOs devem tomar para permitir uma jornada segura da inteligência artificial generativa em suas organizações, os especialistas que participaram do Gartner Security & Risk Management Summit, evento que aconteceu em Sydney, na Austrália, chamaram a atenção para o fato de que essa nova tecnologia exigirá cuidados adicionais e o desenvolvimento de novos recursos de segurança cibernética, podendo resultar em um aumento de até 15% no volume de investimentos em cibersegurança.

Ao falar sobre o assunto, o Analista Diretor Sênior do Gartner, Richard Addiscott, explicou que os CISOs devem atualizar as práticas de segurança de aplicativos e dados para integrar novas superfícies de ataque, como prompts ou camadas de orquestração, para instrumentar modelos de IA.

Para o Fernando Guimarães, Head da Stone Age, vertical de negócios de Crédito e Antifraude da TIVIT, a estimativa pode ser até conservadora à medida em que, além da necessidade de proteger aplicações que trabalham com IA generativa, existe uma tendência de que cada vez mais a IA Generativa seja integrada em ferramentas de combate aos fraudadores. Os benefícios da IA Generativa são inquestionáveis e com um potencial enorme de crescimento, no entanto, tais benefícios devem ser acompanhados com cuidados e investimentos de cyber segurança.  “O resultado líquido será na maioria dos casos muito positivo, porém não existe almoço grátis”, afirma Guimarães.

Ele comenta que este movimento foi realizado pela própria Stone Age com a incorporação da solução de inteligência artificial generativa Athena, desenvolvida pela TIVIT nas suas soluções. No início de 2024, a tecnologia passou a ser oferecida como uma nova funcionalidade presente no Identify, produto focado na validação de identidade para processos de onboarding e vendas.

Lançada em dezembro do ano passado pela TIVIT, a Athena permite ao Identify realizar, entre outras coisas, a leitura inteligente dos dados de um contrato social em 30 segundos de forma automática. Além disso, extrair destes documentos informações estruturadas, as quais imediatamente se transformam em insights colaborativos para alimentar a esteira de dados que viabiliza uma tomada de decisão mais efetiva e rápida.

Guimarães comenta que a adoção da Athena confere à Identify novas funcionalidades que tornam a jornada de utilização da ferramenta muito mais completa. Na prática, de acordo com ele, agora a empresa tem uma versão 2.0 que consegue avançar no sentido da eficiência operacional, com a redução da intervenção manual, aumento da assertividade nas decisões, além de atuar na diminuição de custos, com a viabilidade de trabalhar com equipes de atendimento e análise menores.

“Acredito que este tipo de ganho possa ser disseminado por diversas outras soluções no mercado. Desta forma, considerando os benefícios trazidos pela IA Generativa para a cibersegurança, o aumento de investimentos para incrementar o uso dessa tecnologia se torna plenamente justificável”, conclui.

Uma alternativa para o uso da IA de forma mais segura, é utilizar soluções que sejam customizáveis para a necessidade da empresa. Segundo Daniel Galante, CCO e CPO da TIVIT a AI veio para tornar os processos e empresas mais ágeis, contudo, é preciso utilizar de maneira muito assertiva.

“Imaginem um grande escritório de advocacia, que atende a importantes clientes e que todos os advogados ficam imputando dados dos clientes e dos processos em um ambiente 100% aberto, que pode se tornar público. Isso poderia gerar um grande problema tornando esses dados expostos para o público em geral. Uma alternativa para isso é usar uma AI Generativa que seja customizável, como a Athena por exemplo, em que o cliente pode selecionar quais serão as bases de consultas, tornar todos os dados expostos somente nos locais pré-determinados e com os acessos restritos a quem deva realmente ter. Essa é a melhor forma de utilizar a AI, trazendo o ganho de agilidade que ela possui, mas ao mesmo tempo a segurança necessária para um processo como este” afirma Galante.