Modération de contenu et sécurité - ISMS Copilot

ISMS Copilot utilise une modération automatisée du contenu pour détecter et prévenir les contenus inappropriés ou nuisibles dans les messages de chat. Ce processus s'exécute en arrière-plan afin de maintenir un environnement sûr et conforme pour tous les utilisateurs, tout en préservant votre vie privée et la rapidité de votre flux de travail.

Fonctionnement de la modération

Lorsque vous envoyez un message de chat, ISMS Copilot le sauvegarde immédiatement et vous délivre la réponse de l'IA sans délai. En parallèle, une vérification de modération de contenu s'exécute en arrière-plan :

1. Message analysé — Votre message est envoyé à une API de modération (OpenAI par défaut, Mistral AI pour les utilisateurs en mode Protection avancée des données)
2. Catégories vérifiées — L'API recherche les violations de politique, notamment les discours de haine, le harcèlement, la violence, l'automutilation et d'autres contenus nuisibles
3. Résultat enregistré — Le résultat de la modération est stocké dans nos journaux d'audit avec les scores par catégorie et les horodatages
4. Alertes aux administrateurs — Si du contenu est signalé, notre équipe reçoit une alerte automatisée pour examen

Fournisseurs de modération

ISMS Copilot utilise différentes API de modération en fonction de vos paramètres de protection des données :

• API de modération OpenAI — Par défaut pour tous les utilisateurs. Vérifie : contenu sexuel, haine, harcèlement, violence, automutilation
• API de modération Mistral AI — Utilisée lorsque la Protection avancée des données est activée. Vérifie : contenu sexuel, haine et discrimination, violence et menaces, contenu dangereux et criminel, automutilation, santé, financier, droit, informations personnellement identifiables (PII)

Protection avancée des données et modération

Si vous avez activé la Protection avancée des données, vos messages de chat ne sont normalement pas stockés sur nos serveurs ni envoyés à des fournisseurs d'IA tiers. Cependant, la modération de contenu crée une exception :

• Messages propres — Contenu du message NON stocké ; seules les métadonnées et les scores de modération sont conservés pendant 30 jours
• Messages signalés — Contenu complet toujours stocké pendant 1 an et inclus dans les alertes aux administrateurs, quel que soit le paramètre ADP

Cette dérogation est basée sur un intérêt légitime au sens de l'article 6(1)(f) du RGPD — la prévention des dommages et l'application de notre Politique d'utilisation acceptable constituent un intérêt légitime qui prime sur les préférences individuelles en matière de protection des données dans les cas signalés.

Conservation des données

Les événements de modération sont conservés selon le calendrier suivant :

• Événements non signalés — Métadonnées et scores de modération conservés pendant 30 jours ; contenu du message NON stocké
• Événements signalés — Contenu complet du message et métadonnées conservés pendant 1 an à des fins d'audit et de conformité légale

Le contenu des messages signalés peut être conservé plus longtemps si nécessaire pour des enquêtes en cours, des procédures judiciaires ou des obligations réglementaires.

Que se passe-t-il lorsque du contenu est signalé

Lorsque l'API de modération signale votre message comme potentiellement violant nos politiques :

1. Alerte envoyée — Notre équipe d'administration reçoit une notification par webhook avec les catégories signalées, l'horodatage et un aperçu du message
2. Examen humain — Un membre de l'équipe examine le message et son contexte pour confirmer s'il viole notre Politique d'utilisation acceptable
3. Action (si confirmé) — Nous pouvons vous contacter, émettre un avertissement, suspendre des fonctionnalités ou résilier votre compte en fonction de la gravité et des violations répétées
4. Faux positifs — Si le signalement était incorrect (par exemple, une discussion légitime sur la conformité), aucune action n'est entreprise

Vie privée et transparence

Nous nous engageons à la transparence concernant nos pratiques de modération :

• Pas de censure silencieuse — Nous ne bloquons ni ne filtrons vos messages en temps réel. La modération sert à faire respecter la sécurité, pas à contrôler le contenu
• Sous-traitants — OpenAI (basé aux États-Unis) et Mistral AI (basé en France) agissent en tant que sous-traitants pour la modération uniquement. Consultez notre Registre des activités de traitement pour plus de détails
• Divulgation complète — Cette politique et notre Politique de confidentialité documentent tous les flux de données de modération et les bases légales

Base légale

La modération de contenu repose sur :

• Intérêt légitime (Art. 6(1)(f) du RGPD) — Prévenir les abus, faire respecter nos conditions et maintenir la sécurité de la plateforme
• Nécessité contractuelle (Art. 6(1)(b) du RGPD) — Appliquer nos Conditions d'utilisation et notre Politique d'utilisation acceptable
• Obligation légale (Art. 6(1)(c) du RGPD) — Se conformer aux lois applicables exigeant le retrait ou le signalement de contenus illégaux

Vos droits

Conformément au RGPD, vous disposez de droits concernant vos données de modération :

• Accès — Demander des copies des événements de modération associés à votre compte
• Rectification — Demander la correction des enregistrements de modération inexacts
• Effacement — Demander la suppression des données de modération non signalées (les données signalées peuvent être conservées pour des raisons de conformité légale)
• Opposition — Vous opposer au traitement de modération, bien que nous puissions le poursuivre si nous avons des motifs légitimes impérieux (sécurité, obligations légales)

Pour exercer vos droits ou poser des questions sur la modération, contactez-nous à l'adresse contact@ismscopilot.com.

Des questions ?

Pour plus d'informations sur nos pratiques en matière de confidentialité et de sécurité, consultez :

• Politique de confidentialité
• Politique d'utilisation acceptable
• Mode Protection avancée des données
• Registre des activités de traitement (ROPA)