Moderação de Conteúdo e Segurança - ISMS Copilot

O ISMS Copilot utiliza moderação automática de conteúdo para detectar e prevenir conteúdo inapropriado ou prejudicial em mensagens de chat. Este processo é executado em segundo plano para manter um ambiente seguro, em conformidade para todos os usuários, preservando sua privacidade e a velocidade do fluxo de trabalho.

Como a Moderação Funciona

Quando você envia uma mensagem de chat, o ISMS Copilot a salva imediatamente e entrega a resposta da IA sem atraso. Em paralelo, uma verificação de moderação de conteúdo é executada em segundo plano:

1. Mensagem analisada, Sua mensagem é enviada para uma API de moderação (OpenAI por padrão, Mistral AI para usuários com Proteção Avançada de Dados)
2. Categorias verificadas, A API verifica violações de políticas, incluindo discurso de ódio, assédio, violência, automutilação e outros conteúdos prejudiciais
3. Resultado registrado, O resultado da moderação é armazenado em nossos registros de auditoria com pontuações de categorias e carimbos de data/hora
4. Administradores alertados, Se o conteúdo for sinalizado, nossa equipe recebe um alerta automático para revisão

Provedores de Moderação

O ISMS Copilot utiliza diferentes APIs de moderação com base nas configurações de proteção de dados:

• API de Moderação da OpenAI, Padrão para todos os usuários. Verifica: conteúdo sexual, ódio, assédio, violência, automutilação
• API de Moderação da Mistral AI, Utilizada quando a Proteção Avançada de Dados está ativada. Verifica: conteúdo sexual, ódio e discriminação, violência e ameaças, conteúdo perigoso e criminoso, automutilação, saúde, financeiro, direito, informações pessoalmente identificáveis (PII)

Proteção Avançada de Dados e Moderação

Se você ativou a Proteção Avançada de Dados, suas mensagens de chat normalmente não são armazenadas em nossos servidores ou enviadas a provedores de IA de terceiros. No entanto, a moderação de conteúdo cria uma exceção:

• Mensagens limpas, O conteúdo da mensagem NÃO é armazenado; apenas metadados e pontuações de moderação são retidos por 30 dias
• Mensagens sinalizadas, O conteúdo completo é sempre armazenado por 1 ano e incluído em alertas para administradores, independentemente da configuração de ADP

Esta sobrescrita é baseada em interesse legítimo sob o Artigo 6(1)(f) do GDPR, prevenir danos e aplicar nossa Política de Uso Aceitável é um interesse legítimo que prevalece sobre as preferências individuais de proteção de dados em casos sinalizados.

Retenção de Dados

Os eventos de moderação são retidos de acordo com o seguinte cronograma:

• Eventos não sinalizados, Metadados e pontuações de moderação retidos por 30 dias; conteúdo da mensagem NÃO é armazenado
• Eventos sinalizados, Conteúdo completo da mensagem e metadados retidos por 1 ano para fins de auditoria e conformidade legal

O conteúdo de mensagens sinalizadas pode ser retido por mais tempo se necessário para investigações em andamento, processos legais ou obrigações regulatórias.

O Que Acontece Quando o Conteúdo É Sinalizado

Quando a API de moderação sinaliza sua mensagem como potencialmente violadora de nossas políticas:

1. Alerta enviado, Nossa equipe de administradores recebe uma notificação via webhook com as categorias sinalizadas, carimbo de data/hora e visualização da mensagem
2. Revisão humana, Um membro da equipe revisa a mensagem e o contexto para confirmar se viola nossa Política de Uso Aceitável
3. Ação (se confirmado), Podemos entrar em contato com você, emitir um aviso, suspender funcionalidades ou encerrar sua conta, dependendo da gravidade e de violações repetidas
4. Falsos positivos, Se a sinalização estiver incorreta (por exemplo, uma discussão legítima sobre conformidade), nenhuma ação é tomada

Privacidade e Transparência

Estamos comprometidos com a transparência em relação às nossas práticas de moderação:

• Sem censura silenciosa, Não bloqueamos ou filtramos suas mensagens em tempo real. A moderação é para aplicação de segurança, não para controle de conteúdo
• Processadores de terceiros, OpenAI (com sede nos EUA) e Mistral AI (com sede na França) atuam como subprocessadores apenas para moderação. Consulte nosso Registro de Atividades de Processamento para mais detalhes
• Divulgação completa, Esta política e nossa Política de Privacidade documentam todos os fluxos de dados de moderação e bases legais

Base Legal

A moderação de conteúdo é baseada em:

• Interesse legítimo (Art. 6(1)(f) do GDPR), Prevenir abusos, aplicar nossos termos e manter a segurança da plataforma
• Necessidade contratual (Art. 6(1)(b) do GDPR), Aplicar nossos Termos de Serviço e Política de Uso Aceitável
• Obrigação legal (Art. 6(1)(c) do GDPR), Cumprir leis aplicáveis que exigem a remoção ou denúncia de conteúdo ilegal

Seus Direitos

Sob o GDPR, você tem direitos em relação aos seus dados de moderação:

• Acesso, Solicitar cópias dos eventos de moderação associados à sua conta
• Retificação, Solicitar correção de registros de moderação imprecisos
• Apagamento, Solicitar a exclusão de dados de moderação não sinalizados (dados sinalizados podem ser retidos para conformidade legal)
• Oposição, Opor-se ao processamento de moderação, embora possamos continuar se tivermos motivos legítimos convincentes (segurança, obrigações legais)

Para exercer seus direitos ou fazer perguntas sobre moderação, entre em contato conosco em contact@ismscopilot.com.

Dúvidas?

Para mais informações sobre nossas práticas de privacidade e segurança, consulte:

• Política de Privacidade
• Política de Uso Aceitável
• Modo de Proteção Avançada de Dados
• Registro de Atividades de Processamento (ROPA)