Réduire les risques
Chez JUMBOO, nous appliquons une stratégie de modération proportionnée, qui ne repose pas uniquement sur la suppression des contenus illégaux ou abusifs. De nombreux contenus, bien que légalement tolérés, peuvent induire en erreur, nuire au débat public, heurter certains publics ou amplifier des dynamiques toxiques.
Dans ces cas, nous privilégions des mesures de réduction de portée, de visibilité ou de fonctionnalité, conformes aux principes de liberté d’expression, de sécurité numérique et d’intérêt général.
Maîtriser l’impact des contenus sensibles
Pourquoi réduire plutôt que supprimer ?
Nous estimons que tout ne relève pas de la censure. Réduire la portée d’un contenu permet de :
- Limiter la viralité de propos trompeurs, manipulatoires ou choquants, sans porter atteinte au droit d’expression ;
- Prévenir les spirales de désinformation ou de panique morale, tout en documentant les faits ;
- Protéger les publics vulnérables, notamment les mineurs, sans invisibiliser les sujets sensibles ;
- Favoriser un climat de débat apaisé en évitant les mises en avant d’interactions hostiles ou polarisantes.
Mesures appliquées
Les mesures de réduction sont graduées et décidées manuellement, après analyse humaine. Elles incluent notamment :
1. Réduction de portée algorithmique
- Retrait du contenu des flux « Pour toi » ou « Explorer »
- Non-indexation dans les suggestions de recherche
- Baisse du score de recommandation
2. Désactivation partielle des fonctionnalités
- Désactivation des commentaires ou des partages
- Blocage temporaire de la monétisation ou de la promotion sponsorisée
- Suspension de l’éligibilité à certaines tendances ou badges
3. Restriction de visibilité contextuelle
- Floutage ou recadrage automatique d’images choquantes
- Application d’un filtre d’âge ou d’un avertissement avant lecture
- Limitation géographique ou par langue selon les risques locaux
4. Signalement contextuel
- Ajout d’un label de contexte (ex. : « contenu non vérifié », « satire », « sujet sensible »)
- Lien vers des sources fiables ou des notes explicatives validées par des partenaires experts
Exemples typiques de contenus concernés
- Rumeurs virales non vérifiées, informations sorties de leur contexte
- Montages ou deepfakes à but satirique, ambigus pour une partie du public
- Propos conspirationnistes sans appel à la haine, mais porteurs de confusion
- Contenus à forte charge émotionnelle (crimes, accidents, suicides) diffusés sans avertissement
- Contenus sexualisés ou suggestifs, bien que non explicites, visant des audiences jeunes
Encadrement éthique et juridique
Nos mesures de réduction s’appuient sur :
- L’article 14 du Digital Services Act (DSA) : obligations de proportionnalité et de justification des mesures restrictives ;
- Le premier amendement (USA) et la section 230 (CDA) : protection de la liberté d’expression tout en modulant l’amplification algorithmique ;
- La Charte des droits fondamentaux de l’UE, notamment les articles 8 (protection des données) et 11 (liberté d’expression).
Transparence & contestation
- Chaque contenu réduit fait l’objet d’un journal de décision interne, avec identifiant unique ;
- Un avertissement est visible pour l’auteur, expliquant la mesure, sa durée et les recours disponibles ;
- Un formulaire de recours est accessible dans l’interface utilisateur ou via dpo@jumboo.io ;
- Les statistiques de réduction sont publiées dans notre rapport de transparence semestriel.