Especialista Gabriel Paiva alertou empresários sobre os riscos do uso de inteligência artificial sem governança e defendeu um modelo de defesa em que máquinas e humanos atuam juntos

A inteligência artificial já faz parte da rotina das empresas, e também da rotina de quem tenta atacá-las. Esse foi o ponto de partida da palestra "O Último Humano no Loop: quanto poder você pode entregar a uma máquina?", ministrada por Gabriel Paiva na quinta-feira (15) no Yumit Hub, em Cuiabá. O evento foi realizado pela Associação das Empresas de Tecnologia da Informação de Mato Grosso (Asseiti-MT) em parceria com o Yumit Hub e reuniu associados, convidados e empresários do setor de tecnologia.

Com 15 anos de atuação na proteção de empresas contra ameaças digitais, Gabriel é CEO e fundador da Dfense, ViperX, CisoX e ZenoX, além de investidor em mais de 10 startups. Ele chegou a Cuiabá logo depois de palestrar no maior evento de cibersegurança da América Latina.
Na abertura, Fernando Pereira, Presidente da Asseiti-MT e fundador do Yumit Hub, destacou que o encontro faz parte de um trabalho contínuo da associação com o hub para fortalecer o ecossistema de inovação no estado.

"A gente tem feito esse trabalho na associação, em parceria com o Yumit Hub, de cada vez mais fomentar o ecossistema de inovação aqui de Mato Grosso e promover momentos como esse, de busca de conhecimento, insights e networking", afirmou. "São nesses momentos que a gente cresce."
Segundo Gabriel, a IA está "pronta para uso tanto para a defesa quanto para os atacantes", e os criminosos digitais já a utilizam de forma agêntica, ou seja, com agentes autônomos que executam tarefas por conta própria e entregam resultados cada vez mais eficientes.

"A importância é mostrar para as pessoas os riscos que a gente tem com o uso de IA e como a gente consegue mitigar esses riscos, além de mostrar como as equipes de segurança estão conseguindo se defender desse aumento de ataques", explicou.

Para o especialista, a resposta passa por equilibrar velocidade e controle. A proposta apresentada é uma defesa que opere em "velocidade de máquina", mas sempre sob supervisão humana. "É essa junção de agentes de inteligência artificial com o humano que vai trazer o benefício de a gente conseguir chegar, de forma em igualdade de condições, à defesa dos ataques que estão sendo feitos com IA", disse. Ele também chamou atenção para a diferença entre capacidade e autoridade: o fato de um agente conseguir executar uma ação não significa que ele deveria ter permissão para isso.

Durante a palestra, Gabriel apresentou incidentes que ilustram como os riscos podem vir tanto de atacantes quanto dos próprios usuários. Em um deles, um link malicioso acionava o assistente de IA da própria vítima para extrair informações, sem que o invasor precisasse acessar documentos diretamente. Em outro, funcionários da Samsung inseriram o código-fonte de uma aplicação em uma versão não corporativa do ChatGPT, expondo dados sensíveis de um projeto desenvolvido havia muito tempo.

Ele também citou episódios em que agentes de IA, ao tentar cumprir uma tarefa, executaram ações não autorizadas e acabaram expondo milhares de capturas de tela com informações financeiras e de planejamento das empresas. "São cenários que servem de aviso, um alerta para os empresários", resumiu.

Questionado sobre como as empresas devem agir, Gabriel foi direto: é preciso ter uma solução de controle que acompanhe como os colaboradores usam a IA e o que os agentes estão fazendo. "Se você já tem agentes no seu ambiente executando tarefas e entregando resultados, eles precisam ser monitorados. Se não forem, vai acabar acontecendo algum problema", alertou.

Esse controle, segundo ele, deve cobrir os prompts enviados, as respostas geradas pela IA e as ações que os agentes estão autorizados a executar.

Ao final, Gabriel ressaltou o papel de iniciativas como a da Asseiti MT e do Yumit Hub para levar o tema além dos especialistas. "Se a gente não tiver ambientes desse jeito, a gente não estimula as pessoas a aprender e a identificar problemas que às vezes não estão no nosso dia a dia", afirmou. "Esses lugares servem para trocar experiências, mostrar nossos aprendizados e nossos erros. É muito mais fácil aprender com os erros dos outros."