Os teus funcionários mais produtivos podem ser o teu maior risco de IA

Um funcionário cola notas confidenciais de uma reunião no ChatGPT para resumir rapidamente as acções antes de uma chamada do cliente, outro carrega uma folha de cálculo com dados de clientes numa ferramenta de IA para ajudar a preparar uma apresentação e um gestor confia nas recomendações geradas pela IA para apoiar uma decisão comercial sem verificar a origem da informação.

Nenhuma destas acções é maliciosa; na maior parte dos casos, provêm de funcionários que tentam cumprir prazos e trabalhar de forma mais eficiente.

É isso que torna o risco da IA difícil de gerir. As pessoas que criam a exposição são muitas vezes as que tentam ser úteis e proactivas.

À medida que a IA generativa se torna parte do trabalho quotidiano, as organizações têm de descobrir como os funcionários podem utilizar estas ferramentas de forma segura sem perder o controlo dos dados sensíveis, da tomada de decisões e da segurança.

Quando a produtividade ultrapassa a consciencialização

O local de trabalho moderno é construído com base na conveniência. Quando uma ferramenta ajuda alguém a realizar uma tarefa em metade do tempo, rapidamente se integra nas rotinas diárias. As plataformas de IA são particularmente eficazes neste aspeto, oferecendo valor imediato com muito pouca fricção ou formação necessária.

Um funcionário a trabalhar para cumprir um prazo pode carregar um relatório numa ferramenta de IA para produzir um resumo conciso para a liderança. Outra pessoa pode colar dados de clientes num chatbot para ajudar a elaborar uma resposta personalizada. Um gestor pode confiar em informações geradas por IA para informar uma decisão sem compreender totalmente como essas informações foram produzidas.

Em todos os casos, a intenção é trabalhar de forma mais inteligente. No entanto, o resultado pode implicar a partilha externa de informações sensíveis, o processamento de dados de formas que escapam aos controlos organizacionais ou a influência de decisões com base em resultados que não foram validados.

Estes comportamentos raramente parecem arriscados no momento. Sente-se eficiente, útil e totalmente e totalmente alinhados com as pressões que os funcionários enfrentam todos os dias.

A ilusão das ferramentas seguras e «internas»

Um dos pressupostos mais comuns que moldam a utilização da IA é a crença de que certas ferramentas são inerentemente seguras. Se uma plataforma é amplamente utilizada, recomendada por colegas ou parece funcionar num ambiente controlado, é frequentemente considerada de baixo risco.

Isto cria uma falsa sensação de segurança.

Os funcionários podem não ter em conta onde são armazenados os dados que introduzem, como são processados ou se são utilizados para treinar modelos futuros. Podem assumir que a utilização da IA num contexto de trabalho a torna automaticamente compatível com as políticas organizacionais. Na realidade, as fronteiras entre as ferramentas de IA pessoais, públicas e empresariais nem sempre são claras e os riscos associados a cada uma podem variar significativamente.

Há também um pressuposto crescente de que todas as ferramentas de IA funcionam da mesma forma. Os funcionários podem acreditar que a utilização de uma versão gratuita ou pública de uma ferramenta oferece as mesmas protecções que uma subscrição empresarial ou paga. Em muitos casos, isso não é verdade. As ferramentas de nível empresarial são frequentemente configuradas com controlos mais rigorosos em relação ao tratamento, privacidade e retenção de dados, enquanto as versões públicas podem processar e armazenar dados de formas menos visíveis e menos controladas.

Sem essa compreensão, as informações sensíveis podem ser partilhadas com o pressuposto de que permanecem privadas, quando na realidade podem ser expostas muito para além do controlo da organização.

Sem uma orientação clara, os empregados são deixados a fazer os seus próprios juízos de valor. Essas decisões são normalmente tomadas em função da conveniência e não da segurança.

Decisões baseadas em resultados não verificados

Para além da exposição de dados, há uma segunda camada de risco que se está a tornar cada vez mais significativa. À medida que as ferramentas de IA são utilizadas com mais frequência para gerar informações, resumos e recomendações, começam também a influenciar os processos de tomada de decisões.

Embora estas ferramentas possam ser altamente eficazes, não são infalíveis. Os resultados podem ser incompletos, tendenciosos ou totalmente incorrectos, especialmente quando se baseiam em dados limitados ou mal compreendidos. Quando os empregados aceitam estes resultados pelo seu valor nominal, sem verificação ou avaliação crítica, o potencial de erro aumenta.

Em ambientes de alta pressão, onde se dá prioridade à velocidade e os recursos são limitados, a tentação de confiar em conteúdos gerados por IA pode ser forte. Com o tempo, isto pode levar a uma erosão gradual da supervisão, em que as decisões são tomadas com uma confiança crescente mas com uma certeza decrescente.

Por que é que a sensibilização tradicional fica aquém do esperado

Muitas organizações já introduziram políticas ou orientações sobre a utilização da IA. No entanto, as políticas, por si só, não são suficientes para influenciar o comportamento de uma forma significativa.

O problema não é a falta de informação, mas o fosso entre a compreensão e a ação.

Se for dito aos empregados para não utilizarem ferramentas de IA não autorizadas para dados sensíveis sem lhes ser mostrado como e quando esse risco pode ocorrer, a orientação permanece abstrata. Se forem avisados sobre as imprecisões da IA sem verem exemplos reais de como essas imprecisões se manifestam, a mensagem é fácil de ignorar.

A sensibilização eficaz para a segurança automatizada requer contexto. Tem de refletir as decisões que os funcionários tomam em tempo real, sob pressões reais e nos ambientes específicos em que operam.

Sem isso, mesmo os indivíduos bem-intencionados adoptarão os comportamentos que os ajudam a trabalhar mais depressa e de forma mais eficiente.

Criar uma perceção que reflita a realidade

Para enfrentar os riscos associados à utilização da IA, as organizações têm de ir além da educação genérica e concentrar-se na aprendizagem prática e baseada em cenários que espelham o comportamento no mundo real.

Começa por ajudar os empregados a reconhecerem onde é provável que ocorram riscos. Em vez de apresentar a IA como uma ameaça ampla ou abstrata, a formação deve centrar-se em situações quotidianas, como a elaboração de e-mails, a análise de folhas de cálculo ou o resumo de relatórios. Ao basear a sensibilização em tarefas familiares, as organizações podem tornar os riscos mais tangíveis e mais fáceis de compreender.

É igualmente importante fornecer ferramentas aprovadas e alternativas claras. Se se espera que os empregados evitem certas plataformas, precisam de ter acesso a opções seguras que lhes permitam alcançar os mesmos resultados sem introduzir fricções desnecessárias. Sem alternativas viáveis, é provável que os comportamentos de risco persistam.

A comunicação também desempenha um papel fundamental. As mensagens devem ser simples, relevantes e alinhadas com os objectivos da empresa. Quando os colaboradores compreendem não só o que devem fazer, mas porque é que isso é importante no contexto da sua função, é mais provável que se empenhem nas orientações fornecidas.

Por último, a sensibilização não deve ser tratada como uma iniciativa isolada. À medida que as ferramentas de IA continuam a evoluir, o mesmo acontece com a forma como são utilizadas. O reforço contínuo, apoiado por exemplos do mundo real e cenários em evolução, é essencial para garantir que os comportamentos se adaptam à tecnologia.

Medidas práticas que as organizações podem tomar agora

Reduzir os riscos relacionados com a IA não significa proibir totalmente as ferramentas de IA. Na maioria das organizações, os colaboradores vão continuar a usá-las para poupar tempo e melhorar a produtividade, quer sejam formalmente aprovadas ou não.

É preciso concentrar-se em dar aos colaboradores limites claros, melhor orientação e ferramentas aprovadas que sejam fáceis de aceder e utilizar.

Algumas medidas práticas que as organizações podem tomar incluem:

• Criar orientações claras sobre o que os funcionários podem e não podem partilhar com as ferramentas de IA
• Dotar as plataformas de IA aprovadas de controlos de segurança mais rigorosos
• Usando cenários de formação baseados na vida real que refletem a forma como os colaboradores utilizam efetivamente a IA no trabalho
• Incentivar os colaboradores a verificarem se os resultados gerados pela IA fazem sentido antes de agirem com base neles
• Revisar as políticas de classificação de dados para que a informação sensível seja claramente definida e protegida
• Monitorização da utilização de ferramentas de IA não autorizadas ou de alto risco em toda a organização
• Reforçando que a conveniência não deve prevalecer sobre a segurança nem sobre os requisitos de conformidade

As ferramentas de IA estão a evoluir rapidamente, o que significa que a sensibilização e as orientações em matéria de segurança também têm de acompanhar esse ritmo.

Trabalha com o MetaCompliance

Na MetaCompliance, reconhecemos que o risco da IA não é criado apenas pela tecnologia, mas pela forma como as pessoas interagem com ela. A nossa abordagem centra-se em ajudar as organizações a compreender e a influenciar estes comportamentos, criando programas de sensibilização que reflectem as realidades do trabalho moderno.

A nossa formação em IA foi concebida para ir além da política e da teoria, utilizando uma aprendizagem prática e baseada em cenários para mostrar aos funcionários como o risco se desenvolve nas tarefas diárias. Ao combinar a perceção comportamental com resultados mensuráveis, permitimos que as organizações identifiquem onde é mais provável que a exposição ocorra e tomem medidas específicas para a reduzir.

Também apoiamos as organizações na integração de práticas seguras de IA na sua cultura de segurança mais alargada, assegurando que os funcionários têm os conhecimentos, as ferramentas e a confiança para utilizar a IA de forma responsável, sem abrandar a produtividade.

À medida que a IA continua a moldar a forma como o trabalho é feito, as organizações bem-sucedidas serão aquelas que conseguirem equilibrar a inovação com o controlo, permitindo que os seus colaboradores avancem rapidamente, mantendo-se seguros.

Se pretendes criar uma abordagem mais eficaz e centrada no ser humano ao risco da IA, entra em contacto com a nossa equipa para saberes como podemos ajudar ou explorar mais recursos.