Com 55% dos líderes de TI a admitirem falta de confiança na implementação de soluções de Inteligência Artificial (IA) com as devidas salvaguardas, e 48% a considerarem que a sua infraestrutura de dados não está preparada para esta tecnologia, a Salesforce está a reforçar a sua abordagem com a segurança, conformidade e confiança nos Agentes de IA.

A abordagem integrada da Salesforce visa garantir que estes agentes – capazes de transformar a forma como as empresas interagem com clientes e otimizam processos – operam sobre bases seguras, éticas e bem governadas. Numa altura em que os benefícios da IA são claros, mas os riscos permanecem significativos, a Salesforce quer assegurar às organizações que é possível implementar agentes de IA de forma responsável, transparente e segura.

Implementar agentes de IA de confiança exige mais do que modelos potentes. Requer uma base de dados robusta, práticas de desenvolvimento seguras e supervisão contínua ao longo de todo o ciclo de vida da IA. Com uma plataforma unificada, a Salesforce oferece às empresas as ferramentas necessárias para enfrentar este desafio com confiança:

1. Estabelecer uma Base de Dados Unificada e Governada

Os agentes de IA são tão fiáveis e seguros quanto os dados a que têm acesso e sobre os quais atuam. Tudo começa por garantir que os dados principais do CRM e das aplicações Salesforce estão seguros, em conformidade e resilientes. A plataforma contém soluções integradas concebidas para este fim:

• Garantir a Resiliência dos Dados: Soluções como o Salesforce Backup & Recover (anteriormente Own Recover) oferecem cópias de segurança automáticas e restauro preciso, assegurando 100% de proteção dos dados e metadados críticos da Salesforce. Combinado com o Salesforce Archive, as organizações podem cumprir políticas de retenção sem comprometer o desempenho. Não se pode construir uma IA de confiança sobre uma base de dados frágil.
• Proteger Dados Sensíveis para Desenvolvimento e Testes: O desenvolvimento e teste seguros de agentes de IA exigem dados realistas, mas expor dados reais de produção representa um risco. O Data Mask & Seed protege e povoa os dados em Sandbox à escala, permitindo ambientes de teste seguros e eficientes.

• Reforçar a Visibilidade e a Postura de Segurança: Ferramentas como o Shield 2.0 oferecem maior visibilidade da atividade dos utilizadores e deteção proativa de ameaças, essenciais para monitorizar como os agentes e utilizadores interagem com os dados. O Security Center 2.0 simplifica a gestão da postura de segurança com classificação de dados e avaliação de riscos mais rápidas.

Além do CRM principal, agentes eficazes precisam muitas vezes de aceder a dados de toda a empresa. Aqui, o Salesforce Data Cloud é fundamental — agrega dados estruturados e não estruturados para oferecer uma visão unificada e fiável do cliente, acionável em todas as aplicações de front office. A Governança do Data Cloud permite uma governação de dados e metadados em grande escala para gerir, aceder e aplicar políticas consistentes em toda a plataforma.

• Classificação e Etiquetagem Baseada em IA: Com etiquetas recomendadas por IA, os administradores podem classificar e etiquetar registos automaticamente — por exemplo, como “HIPAA”, “RGPD” ou “PII”, garantindo a gestão e proteção adequada dos dados conforme o enquadramento legal e empresarial.
• Governação Baseada em Políticas: Permite criar, gerir e aplicar facilmente políticas detalhadas (ao nível de campo, objeto ou registo) em todos os dados. Estas políticas aplicam-se automaticamente em todo o Data Cloud, assegurando consistência e segurança em funcionalidades como o Agentforce, a Análise de Dados e a Segmentação.
• Espaços de Dados: Permitem segregar dados, metadados e processos por marca, unidade de negócio ou região, para que cada unidade mantenha controlo sobre os seus dados, utilizando apenas uma instância do Data Cloud.

• Políticas Dinâmicas de Mascaramento de Dados: Facilitam a criação de políticas que ocultam ou mostram dados automaticamente com base no perfil de acesso, ajudando a manter as informações sensíveis seguras.

2. Proteger as Interações dos Agentes de IA e Estender a Governação às APIs

Os agentes de IA, incluindo os construídos com Agentforce, interagem frequentemente com outros sistemas e fontes de dados via APIs. Garantir a segurança destas ligações é essencial para prevenir vulnerabilidades. A Solução de Gestão de APIs do MuleSoft permite às organizações proteger, gerir e governar todas as APIs, aplicando políticas de segurança e boas práticas. Importante para os agentes, o MuleSoft Flex Gateway suporta protocolos como o Agent2Agent (A2A) e o Model Context Protocol (MCP), permitindo interações seguras e governadas entre agentes e sistemas externos.

3. Construir, Testar e Implementar Agentes de IA de confiança com salvaguardas incorporadas

A confiança na implementação do Agentforce nasce de testes rigorosos e controlos integrados. A plataforma unificada da Salesforce fornece capacidades que integram confiança no ciclo de vida do Agentforce:

• Ambientes Seguros de Desenvolvimento e Testes: Utilizar Sandboxes seguras e o Agentforce Testing Center para o desenvolvimento e teste com segurança, usando dados realistas em ambientes isolados. Ferramentas como a geração de dados sintéticos e a injeção de estado aceleram esta fase crítica.

• Controlo Granular dos Agentes: No próprio Agentforce, funcionalidades como Variáveis e Filtros permitem controlar a lógica e as ações dos agentes com base no contexto. Os Checks de Aderência às Instruções monitorizam o comportamento dos agentes face às instruções esperadas, emitindo alertas e facilitando a resolução de problemas.

4. Proteger os Dados em Cada Prompt

Uma inovação central na plataforma Salesforce é o Trust Layer (Camada de Confiança). Este intermediário seguro fica entre a interface do utilizador/agente e os Modelos de Linguagem de Grande Escala (LLMs), permitindo o uso seguro de IA generativa através de salvaguardas como:

• Mascaramento Configurável de Dados: Remove ou oculta automaticamente dados sensíveis antes de serem processados por um LLM externo.
• Retenção Nula de Dados: Garante que os dados sensíveis não são armazenados pelo fornecedor do LLM.

• Deteção de Toxicidade nas Entradas e Saídas: Identifica e sinaliza linguagem potencialmente prejudicial ou enviesada.

Esta camada integrada permite às empresas tirar partido do poder da IA generativa sem comprometer informações sensíveis dos clientes. O potencial da IA para as empresas é evidente, mas para o concretizar é necessário um foco deliberado na confiança, na segurança e na governação.

Como afirma Rahul Auradkar, vice-presidente executivo e diretor geral da Data Cloud: “Temos vindo a construir soluções seguras e de confiança há mais de 25 anos… e estamos numa posição única para ajudar as empresas a navegar esta nova evolução tecnológica. Ao unificarmos os dados de forma fluida na Data Cloud, disponibilizarmos ferramentas intuitivas low-code para criar agentes mais inteligentes, e ao incorporarmos governação e segurança desde a base, estamos a capacitar cada cliente para implementar IA empresarial que é simultaneamente poderosa e responsável.”

Passar de projetos-piloto de IA para uma implementação transversal exige uma plataforma onde a confiança seja inegociável. Ao fornecer acesso unificado a dados, ferramentas de desenvolvimento robustas e segurança e governação integradas, a Salesforce permite que as organizações implementem com confiança agentes e aplicações de IA inteligentes — incluindo os construídos com o Agentforce — que geram valor real para o negócio, melhoram a experiência dos clientes e aumentam a eficiência operacional, de forma segura e responsável.