Segurança em fluxos e agentes de inteligência artificial

Os fluxos de IA da Looplex combinam documentos, dados, modelos e ferramentas para realizar trabalhos jurídicos. A segurança acompanha esse percurso: começa na entrada das informações, continua na seleção do contexto e no uso de ferramentas e alcança a entrega dos resultados e a manutenção dos registros.

Esses controles se aplicam aos modos Copilot e Autopilot. No Copilot, o usuário conduz a interação; no Autopilot, a plataforma coordena o trabalho delegado. Em ambos, as operações permanecem sujeitas ao escopo autorizado e às políticas da organização.

Conteúdo externo e instruções maliciosas

Documentos, e-mails, páginas e respostas de ferramentas podem conter instruções que tentem alterar o objetivo do trabalho ou induzir uma ação indevida. Esse tipo de ataque, conhecido como injeção de prompt, pode ocorrer mesmo quando o usuário apenas solicita a análise de um arquivo. A OWASP descreve esse risco em aplicações que incorporam conteúdo externo ao contexto de modelos.

A Looplex identifica a origem das informações e separa o conteúdo consultado das instruções que definem a execução. As entradas passam por verificações e filtros compatíveis com o formato e a atividade, incluindo texto extraído de imagens e documentos.

O conteúdo recuperado não concede permissões nem altera, por si só, as ferramentas habilitadas ou as aprovações exigidas. As verificações de autorização permanecem nos serviços da plataforma, de forma independente da interpretação do modelo.

Essas medidas reduzem a probabilidade e o impacto de uma manipulação. A proteção combina controles de entrada, acesso e execução, pois a identificação de instruções maliciosas pode falhar.

Contexto autorizado e separação de dados

Antes de disponibilizar documentos ou trechos ao modelo, a plataforma verifica sua associação à organização e as permissões aplicáveis à execução. A seleção considera a finalidade do trabalho e limita o contexto às informações pertinentes.

A separação abrange repositórios, índices de pesquisa, representações vetoriais, caches e estados de execução. Informações disponíveis em um trabalho não são automaticamente disponibilizadas a outro usuário, organização ou atividade.

A memória de colaboração com o usuário segue controles próprios de acesso, gravação e retenção, quando o recurso está habilitado. Conteúdos externos não são promovidos automaticamente a instruções permanentes ou a preferências do usuário.

O estado de um trabalho em Autopilot preserva seu andamento. A retomada utiliza as permissões vigentes para novos acessos e ações.

Ferramentas e permissões de execução

Cada execução possui identidade, escopo e ferramentas habilitadas. As credenciais utilizadas nas integrações ficam sob gestão dos serviços responsáveis, com acesso restrito e permissões adequadas à finalidade.

A plataforma valida a ferramenta solicitada, seus parâmetros, os recursos envolvidos e a autorização da operação. Dados produzidos pelo modelo são tratados como entradas a verificar antes de alcançar bancos de dados, sistemas externos ou mecanismos de execução.

Conectores MCP e outras integrações seguem os mesmos critérios. Descrições de ferramentas, interfaces e componentes externos são avaliados e versionados para evitar que uma alteração amplie inadvertidamente as capacidades de um agente.

O acesso à rede e os destinos de envio são limitados conforme a atividade e as políticas configuradas. A existência de um endereço em um documento não autoriza a transmissão de informações para ele.

Aprovação humana e ações com efeitos externos

Os fluxos definem pontos de revisão de acordo com o risco e a natureza da ação. A supervisão considera operações como compartilhar documentos, modificar registros, enviar comunicações ou encaminhar materiais para protocolo.

A solicitação de aprovação apresenta a ação, seu escopo, os destinatários ou sistemas envolvidos e o resultado que será utilizado. A aprovação fica vinculada a esses elementos. Alterações relevantes exigem nova validação antes da execução.

No Autopilot, o Workbench reúne o acompanhamento, as entregas e as solicitações de participação humana. Em outros fluxos ou integrações, a revisão ocorre no ambiente previsto para a atividade. A organização define os responsáveis e as alçadas, respeitando as restrições do produto.

Limites e isolamento da execução

A plataforma controla tempo, consumo de recursos, quantidade de chamadas e tentativas de repetição. Esses limites reduzem o risco de ciclos sem término, consumo excessivo e propagação de falhas entre etapas.

Atividades que executam código ou processam arquivos em ambientes de trabalho utilizam isolamento e restrições sobre recursos, rede e credenciais. As capacidades concedidas correspondem às necessidades da tarefa.

Antes de repetir uma operação com efeitos externos, o fluxo verifica o estado conhecido e as condições para evitar duplicidade. Uma resposta incerta de um sistema conectado pode exigir conciliação ou intervenção humana antes de uma nova tentativa.

Verificação dos resultados

Os resultados passam por verificações de formato, consistência e adequação à etapa seguinte. Dados estruturados são validados antes da gravação ou do uso por outras ferramentas. Documentos e análises preservam referências às fontes utilizadas quando aplicável à atividade.

A revisão jurídica permanece com os profissionais responsáveis. As verificações técnicas apoiam essa revisão, mas a correção de uma resposta, a adequação de uma estratégia e a autorização de uma ação exigem avaliações próprias.

Rastreabilidade e resposta a incidentes

A execução registra os componentes utilizados, as chamadas a ferramentas, as transições de estado e as aprovações relevantes. Esses registros permitem relacionar uma entrega aos dados, às versões e às operações que participaram do trabalho.

O registro limita a exposição de dados sensíveis e credenciais. Seu acesso e sua retenção seguem a finalidade de cada categoria, distinguindo logs operacionais, registros de segurança e documentos ou resultados que integram o acervo do cliente.

Diante de uma suspeita, a Looplex pode interromper execuções, restringir ferramentas, revogar credenciais e preservar evidências. A suspensão de um trabalho bloqueia a continuidade controlada pela plataforma; ações já concluídas em sistemas externos são tratadas pelos procedimentos de recuperação ou correção aplicáveis.

Modelos e fornecedores

O roteamento utiliza os modelos e provedores habilitados para o produto e a implantação. A seleção considera a finalidade, as condições de tratamento de dados e as políticas aplicáveis ao trabalho.

Restrições de modelo, localização, retenção e serviços externos são aplicadas conforme a solução contratada. A nota de transparência de IA explica as condições de processamento, treinamento e armazenamento.

Padrão da plataforma e responsabilidades

Padrão da plataforma. Identificação das execuções, aplicação de permissões, separação entre organizações, validação de ferramentas, controles de consumo e registro de eventos integram a operação dos fluxos. A Looplex administra esses mecanismos e avalia mudanças nos componentes sob sua gestão.

Dependente de configuração. Acervos acessíveis, modelos, conectores, memória, destinos permitidos, limites específicos e pontos adicionais de aprovação variam conforme o produto, o plano e a implantação. A configuração define o alcance de cada trabalho dentro dos limites da plataforma.

Responsabilidade do cliente. A organização define quem pode delegar, consultar e aprovar; administra as autorizações em sistemas conectados; e mantém playbooks e critérios de revisão adequados. Os profissionais responsáveis revisam resultados e ações, especialmente quando produzirem efeitos jurídicos, financeiros ou externos.