Durante muitos anos, quando falávamos sobre risco humano em segurança cibernética, os exemplos eram relativamente previsíveis. Uma pessoa poderia clicar em um phishing, reutilizar uma senha, compartilhar uma informação com alguém indevido, instalar um software não autorizado ou cometer algum outro erro capaz de criar uma oportunidade para um atacante.
A Inteligência Artificial não elimina nenhum desses riscos. Na verdade, ela adiciona uma nova dimensão ao problema.
Hoje, uma pessoa pode copiar informações de uma reunião para uma ferramenta de IA e pedir um resumo. Pode utilizar um assistente para analisar uma planilha financeira, revisar um contrato, escrever código, preparar uma apresentação ou responder uma mensagem. Pode conectar uma aplicação de IA a documentos corporativos, utilizar extensões no navegador ou adotar ferramentas que automatizam parte do seu trabalho.
Em muitos desses casos, existe uma intenção perfeitamente legítima: trabalhar melhor e mais rápido.
É justamente isso que torna o tema interessante do ponto de vista de risco humano.
O problema não é simplesmente que as pessoas estão utilizando Inteligência Artificial. A questão é que estamos colocando uma tecnologia extremamente poderosa entre as pessoas e uma quantidade crescente de informações, sistemas e decisões corporativas. Isso muda a superfície de risco.
Imagine uma pessoa preparando um relatório. Antes da IA generativa, ela poderia consultar documentos, analisar algumas informações e produzir o texto. Agora pode carregar diversos documentos em uma ferramenta, pedir que sejam analisados, comparar informações e produzir uma primeira versão em segundos.
O ganho de produtividade pode ser enorme.
Mas observe o que também aconteceu: a quantidade de informação que aquela pessoa consegue movimentar, processar e transformar aumentou significativamente.
O mesmo acontece com desenvolvimento de software. Um desenvolvedor utilizando IA consegue produzir e revisar código mais rapidamente. Uma pessoa de marketing consegue criar campanhas em escala. Uma área jurídica consegue analisar documentos. Um profissional financeiro consegue trabalhar com grandes volumes de informações.
Isso significa que uma decisão individual pode passar a afetar muito mais informação e produzir muito mais resultados em menos tempo.
Do ponto de vista de Human Risk Management, essa mudança é fundamental.
Durante muito tempo, analisamos risco humano principalmente observando aquilo que uma pessoa fazia. Com a IA, precisamos também considerar aquilo que uma pessoa consegue fazer com a ajuda de sistemas capazes de ampliar enormemente sua capacidade.
Quando ferramentas de IA generativa começaram a ganhar espaço nas empresas, uma das primeiras preocupações foi relativamente óbvia: o que as pessoas estão colocando nesses sistemas?
Código-fonte, contratos, informações financeiras, estratégias comerciais, dados pessoais e outros conteúdos corporativos começaram a aparecer em discussões sobre uso seguro de IA.
Essa preocupação continua válida.
Dependendo da ferramenta, da configuração contratual e dos controles existentes, enviar determinadas informações pode representar riscos relacionados à confidencialidade, privacidade, propriedade intelectual e compliance.
Por isso, muitas organizações começaram criando políticas de uso aceitável, bloqueando algumas ferramentas ou definindo quais soluções poderiam ser utilizadas. Era um primeiro passo necessário.
Mas reduzir o risco da IA ao problema de “não coloque informações confidenciais no ChatGPT” simplifica demais o que está acontecendo. A utilização corporativa de IA está deixando de ser apenas uma conversa entre uma pessoa e um chatbot.
A próxima etapa da adoção de Inteligência Artificial muda novamente a discussão. Sistemas de IA começam a deixar de apenas responder perguntas para também executar tarefas. Podem consultar documentos, interagir com aplicações, acessar bases de dados, utilizar APIs, produzir arquivos, enviar informações e participar de fluxos automatizados.
É a diferença entre uma IA que ajuda alguém a decidir e uma IA que também consegue agir. Quando isso acontece, a relação entre pessoas, identidades e sistemas se torna muito mais importante.
Quem autorizou aquele agente? Em nome de quem ele está executando a tarefa? Quais informações consegue acessar? Quais sistemas consegue utilizar? Que ações pode executar? Qual é o impacto potencial caso receba uma instrução inadequada ou seja manipulado?
Essas perguntas tradicionalmente pertenciam ao universo de identidade, segurança de aplicações e gestão de acessos. Agora também começam a fazer parte da discussão sobre risco humano. Porque, em muitos casos, o agente existe, recebe permissões e executa ações a partir de decisões tomadas por pessoas.
[](#fale-com-especialista)
Uma maneira interessante de pensar sobre esse cenário é considerar que determinadas ferramentas de IA começam a funcionar como uma extensão da capacidade de uma identidade humana. Uma pessoa possui função, responsabilidades, acessos e autoridade dentro da organização. Ao utilizar IA, parte dessa capacidade pode ser ampliada ou delegada.
Se um assistente consegue acessar os documentos aos quais aquela pessoa possui acesso, analisar suas mensagens ou interagir com aplicações corporativas, o risco não está apenas na ferramenta nem apenas na pessoa. Está na relação entre os dois.
Isso cria uma pergunta que considero cada vez mais importante para Human Risk Management:
**qual é o risco associado a uma pessoa quando parte de sua capacidade de acessar informações, tomar decisões ou executar tarefas passa a ser ampliada por Inteligência Artificial?**
Uma identidade que antes conseguia realizar determinadas ações manualmente pode agora realizá-las em escala. Uma decisão equivocada que antes afetaria um documento pode atingir centenas. Um compartilhamento inadequado pode acontecer em segundos. Uma automação mal configurada pode repetir uma ação inúmeras vezes.
O comportamento humano continua presente. O que mudou foi o alcance desse comportamento.
O uso de ferramentas de IA não autorizadas merece atenção. Se a organização não sabe quais aplicações estão sendo utilizadas, quais informações estão sendo compartilhadas e quais integrações foram criadas, torna-se muito difícil gerenciar o risco.
Mas mesmo quando todas as ferramentas são autorizadas, o risco não desaparece. Uma pessoa pode utilizar uma ferramenta corporativa aprovada e compartilhar uma informação que não deveria. Pode confiar excessivamente em uma resposta incorreta. Pode permitir que um sistema execute uma ação sem revisão adequada. Pode criar uma automação com permissões maiores do que o necessário.
Essa distinção é importante porque segurança não pode reduzir sua estratégia de IA a uma lista de aplicações permitidas e proibidas.
Governança de ferramentas é necessária. Governança de comportamento também é. Precisamos saber quais ferramentas podem ser utilizadas, mas também precisamos ajudar as pessoas a entender como utilizá-las de forma segura.
Outro aspecto importante da IA é que ela produz respostas de uma forma que transmite confiança.
Textos podem ser bem escritos. Análises podem parecer estruturadas. Código pode parecer correto. Recomendações podem soar convincentes.
Isso cria um tipo diferente de risco humano: a delegação excessiva de julgamento. Quando uma pessoa começa a aceitar resultados sem validação, a questão deixa de ser apenas proteção de informações e passa a envolver qualidade das decisões.
Uma resposta incorreta pode ser incorporada a um documento. Uma interpretação equivocada pode influenciar uma decisão. Um código inseguro pode chegar a produção. Uma informação inventada pode ser utilizada em uma comunicação.
Quanto maior a autonomia da IA, maior precisa ser nossa clareza sobre onde a revisão humana continua necessária.
O desafio é que simplesmente dizer “sempre revise tudo que a IA produz” também pode não ser suficiente. À medida que o volume de utilização cresce, precisamos definir onde a revisão é realmente crítica, quais decisões exigem validação adicional e quais ações nunca deveriam ser executadas automaticamente. Isso é governança, mas também é comportamento.
A Inteligência Artificial não está apenas mudando a forma como as pessoas trabalham. Está mudando também a maneira como elas podem ser atacadas.
Mensagens de phishing podem ser produzidas com melhor qualidade e maior personalização. Informações públicas podem ser utilizadas para criar abordagens mais convincentes. Vozes podem ser clonadas. Vídeos podem ser manipulados. Conversas podem ser conduzidas em escala. Isso enfraquece alguns dos sinais que tradicionalmente ensinamos às pessoas.
Durante anos, treinamentos de phishing destacaram erros gramaticais, linguagem estranha e mensagens mal construídas. Esses sinais nunca foram suficientes, mas se tornaram ainda menos confiáveis. Da mesma forma, reconhecer a voz de alguém deixou de ser uma evidência tão forte quanto já foi. E estamos caminhando para um ambiente em que até mesmo uma videoconferência precisará ser interpretada com mais cuidado em situações sensíveis. Isso significa que conscientização também precisa mudar.
Em vez de ensinar apenas como identificar uma mensagem falsa, precisamos ensinar como validar uma solicitação importante. A diferença é significativa.
Quanto mais convincentes se tornam as falsificações, menos podemos depender exclusivamente da capacidade humana de perceber alguma coisa estranha. Uma mensagem pode estar perfeitamente escrita. Uma voz pode parecer legítima. Uma imagem pode parecer real. Nesse ambiente, processos de verificação ganham importância.
Uma solicitação financeira incomum precisa possuir mecanismos adicionais de validação. Mudanças sensíveis precisam seguir processos conhecidos. Pedidos urgentes que tentam contornar controles precisam ser tratados com cuidado. Identidade não deveria ser confirmada apenas porque uma mensagem parece ter vindo da pessoa certa.
Isso não significa criar uma cultura de desconfiança permanente. Significa reconhecer que alguns sinais que utilizávamos como prova de autenticidade estão perdendo força e que precisamos compensar isso com processos melhores.
Mais uma vez, comportamento e tecnologia precisam funcionar juntos.
As organizações naturalmente começaram a incluir Inteligência Artificial em seus programas de conscientização. É importante explicar quais ferramentas podem ser utilizadas, quais informações não devem ser compartilhadas, como validar resultados e quais políticas precisam ser seguidas.
Mas existe um risco de repetirmos o mesmo modelo utilizado em outros temas: realizar um treinamento, registrar conclusão e considerar o problema resolvido. O uso de IA muda rápido demais para isso.
Novas ferramentas aparecem, funcionalidades são adicionadas e integrações passam a permitir ações que anteriormente não eram possíveis. Uma política publicada hoje pode precisar ser revisada em poucos meses.
Por isso, conscientização sobre IA precisa ser contínua e contextual.
Uma pessoa que utiliza IA apenas para melhorar um texto possui necessidades diferentes de alguém que utiliza IA para desenvolvimento de software. Um profissional que trabalha com dados pessoais enfrenta riscos diferentes de alguém que cria conteúdo público. Uma pessoa que configura agentes capazes de executar ações precisa de uma preparação muito mais específica.
Mais uma vez, treinar todos exatamente da mesma maneira começa a fazer menos sentido.
É aqui que a discussão se conecta diretamente com Human Risk Management. Se queremos compreender o risco associado a uma identidade, talvez não seja mais suficiente observar apenas comportamento em phishing, conclusão de treinamentos, privilégios, exposição e acesso a informações.
O uso de IA começa a se tornar parte desse contexto.
Isso não significa monitorar todas as conversas que uma pessoa possui com uma ferramenta. Esse tipo de abordagem pode criar problemas de privacidade, confiança e proporcionalidade. O objetivo deveria ser identificar sinais relevantes para segurança.
Quais tipos de ferramentas são utilizadas? Existem aplicações não autorizadas? Há interação com informações sensíveis? A identidade utiliza sistemas capazes de executar ações? Quais permissões estão associadas a essas integrações? Existe exposição adicional decorrente dessas capacidades?
Essas informações podem ajudar a compreender uma dimensão que anteriormente não existia. Não estamos mais olhando apenas para uma pessoa e seus acessos. Podemos estar olhando para uma pessoa, seus acessos e um conjunto de sistemas inteligentes capazes de ampliar aquilo que ela consegue fazer.
Nos próximos anos, acredito que veremos uma mudança importante na maneira como organizações representam identidades e risco. Hoje pensamos principalmente em pessoas, contas, dispositivos, aplicações e serviços. Com a adoção de agentes de IA, começaremos a ter também identidades não humanas capazes de agir dentro dos ambientes corporativos.
Esses agentes poderão possuir responsáveis, permissões, dados acessíveis e diferentes níveis de autonomia.
Em muitos casos, será difícil analisar o risco de um agente sem compreender sua relação com as pessoas. Da mesma maneira, será difícil analisar completamente o risco de uma pessoa sem compreender quais agentes e ferramentas ampliam sua capacidade.
Isso pode levar a uma visão em que Human Risk Management e gestão de risco de agentes precisam conversar.
Não porque humanos e agentes sejam a mesma coisa, mas porque estarão cada vez mais conectados.
Uma pessoa poderá criar um agente. Um agente poderá agir em nome de uma pessoa. Um usuário poderá aprovar ações propostas por um agente. Um agente poderá possuir seus próprios acessos e interagir com diversas identidades humanas. O risco começa a formar uma rede.
Existe uma maneira muito fácil de lidar mal com tudo isso: apresentar Inteligência Artificial apenas como ameaça. Esse caminho provavelmente falhará.
As pessoas estão utilizando IA porque ela resolve problemas reais. Aumenta produtividade, acelera tarefas e permite realizar atividades que antes exigiam muito mais tempo. Segurança precisa reconhecer esse valor.
O objetivo não deveria ser impedir que as pessoas utilizem IA. Deveria ser permitir que utilizem essas capacidades sem aumentar o risco de forma descontrolada. Isso exige políticas, controles técnicos, gestão de identidade, proteção de dados e arquitetura segura. Mas exige também compreender como as pessoas realmente estão utilizando a tecnologia.
É justamente por isso que IA também é um tema de risco humano.
Talvez essa seja a principal mudança que precisamos compreender. As pessoas sempre tomaram decisões, compartilharam informações, utilizaram sistemas e cometeram erros. A Inteligência Artificial não inventou nenhuma dessas situações. Ela aumentou a velocidade, o volume e o alcance.
Uma pessoa consegue processar mais informações. Produzir mais conteúdo. Automatizar mais tarefas. Interagir com mais sistemas. Delegar mais decisões. Isso cria enormes oportunidades para as empresas.
Também significa que precisamos atualizar a forma como pensamos sobre risco.
Human Risk Management não pode olhar apenas para aquilo que uma pessoa fez ontem. Precisa começar a compreender quais capacidades essa pessoa possui hoje, quais tecnologias ampliam essas capacidades e qual pode ser o impacto quando comportamento, identidade, acesso e Inteligência Artificial se encontram.
Talvez a pergunta mais importante deixe de ser simplesmente: **“Qual é o risco desta pessoa?”.,** e passe a ser: **“Qual é o risco desta pessoa considerando tudo aquilo que a tecnologia agora permite que ela faça?”**
É nessa interseção entre pessoas, identidade e Inteligência Artificial que uma nova camada de risco humano está começando a surgir.