Qu'est-ce que c'est ?
Pour faciliter la vente et la distribution d'applications logicielles (« applications ») aux utilisateurs d'appareils informatiques et de communication modernes, diverses sociétés ont lancé leur service en ligne généralement appelé « magasin d'applications » qui permet aux développeurs de mettre leurs applications à la disposition des consommateurs. Les magasins d'applications doivent généralement respecter des directives liées aux caractéristiques et à la conception acceptables des applications, mais les applications qui facilitent certains types d'exploitation sexuelle des enfants sont parfois approuvées pour la distribution.
Position du NCMEC :
Les magasins d'applications qui distribuent ou facilitent la distribution d'applications dont ils savent ou devraient raisonnablement savoir qu'elles violent les politiques du magasin d'applications en rendant possible de manière unique l'exploitation sexuelle des enfants facilitée par la technologie devraient être tenus responsables des préjudices causés par ces applications.
Pourquoi est-ce important ?
Les enfants sont exploités sexuellement par des criminels qui utilisent une variété de plateformes en ligne, d'applications, de services de communication et d'appareils. Les sociétés devraient engager de multiples actions responsables pour mieux protéger les enfants contre l'exploitation, y compris les enfants qui ne sont pas des utilisateurs des produits de ces sociétés.
Les exploitants de magasins d'applications ne se contentent pas de créer un marché permettant aux consommateurs de télécharger et d'acheter diverses applications ; ils se positionnent également en tant que gardiens entre les développeurs d'applications et les consommateurs. Cette fonction de gardien inclut la création et l'application de politiques et de normes concernant les types d'applications autorisées pour les utilisateurs d'un certain âge. Lorsque les exploitants de magasins d'applications distribuent des applications dont ils savent ou devraient raisonnablement savoir qu'elles violent leurs propres politiques en matière de protection de l'enfance, ils devraient être soumis à une responsabilité partagée pour les préjudices qui en résultent.
Le problème en question ici est étroitement axé sur les responsabilités des exploitants de magasins d'applications. Le NCMEC a abordé ailleurs la question de la responsabilité civile des plateformes en ligne de manière plus générale.
Quel contexte est pertinent ?
Les utilisateurs peuvent accéder à une variété de services sur divers appareils de communication, notamment les ordinateurs de bureau et portables, les smartphones, les tablettes, etc., par le biais d'applications de première partie (développées par un fabricant d'appareils ou un développeur de système d'exploitation) ou d'applications de tiers (développées par une autre société). Pour faciliter la distribution des applications, les sociétés ont créé des services, des portails ou des magasins spécifiques à chaque plateforme. Il s'agit entre autres du Google Play Store, de l'Apple App Store, de l'Amazon Appstore et du Microsoft Store. Chacun de ces magasins a publié des politiques interdisant spécifiquement les applications qui incluent certains types de contenus ou de fonctionnalités préjudiciables.
Collectivement, des millions d'applications ont été supprimées (après avoir été préalablement approuvées) ou rejetées (lors de l'examen initial) par les exploitants des magasins d'applications en raison de violations des politiques des magasins. Les directives d'Apple concernant l'examen des applications interdisent « les applications susceptibles d'inclure des contenus pornographiques ou d'être utilisées pour faciliter la prostitution, ou le trafic et l'exploitation d'êtres humains » (section 1.1.4) ou « les applications qui sollicitent, promeuvent ou encouragent un comportement criminel ou manifestement répréhensible... » (section 5). La politique de la Google Play Console relative à la mise en danger des enfants interdit « l'utilisation d'applications visant à promouvoir un comportement prédateur envers les enfants, tel que... la sexualisation d'un mineur... »
Pourtant, certaines applications qui violent des politiques claires interdisant les comportements abusifs, prédateurs ou nuisibles envers les enfants semblent avoir échappé à un examen et à une suppression en temps opportun, malgré la présence de politiques et de pratiques d'examen du magasin d'applications qui auraient dû interdire que ces applications ne soient jamais proposées au public.
En 2023, la police espagnole a enquêté sur des circonstances dans lesquelles 20 filles ont été victimes de la création et de la distribution d'images les représentant dévêtues, générées par une application utilisant l'intelligence artificielle pour modifier des images innocentes existantes. Une telle application semble violer les politiques claires des principaux magasins d'applications. En 2024, Apple et Google ont déclaré avoir supprimé plusieurs applications après la diffusion dans les médias de publicités vantant spécifiquement la capacité des applications à générer des images « nues » d'adultes et des images « nues » d'enfants non consensuelles, une utilisation qui viole les politiques des magasins d'applications.
Qu'en ont dit les survivants ?
Les survivants ont manifesté leur intérêt pour que les exploitants des magasins d'applications soient soumis à une responsabilité dans certaines circonstances. Tout comme un restaurant ou un bar peut voir sa responsabilité engagée pour avoir servi de l'alcool de manière inappropriée, par exemple à des clients mineurs ou déjà visiblement en état d'ébriété, les exploitants des magasins d'applications devraient également être tenus responsables pour avoir distribué ou facilité la distribution d'applications dont ils savent ou devraient raisonnablement savoir qu'elles violent ses politiques en rendant possible l'exploitation sexuelle des enfants facilitée par la technologie.
Si les violations manifestes des politiques existantes sont faciles à découvrir, l'absence de politiques globales, de rapports de transparence accessibles au public ou de mécanismes d'application peut dissimuler d'autres problèmes. C'est pourquoi les survivants ont demandé que les politiques des magasins d'applications répondent à des normes minimales (p. ex., exiger des mesures de vérification ou d'assurance de l'âge au niveau de l'interface du magasin, plutôt que de s'appuyer uniquement sur le contrôle parental défini sur l'appareil).
Les sociétés technologiques qui choisissent d'exploiter des magasins d'applications devraient être assujetties au même niveau de responsabilité que toute autre société proposant un produit ou un service. Lorsque des applications enfreignent les politiques du magasin et que des enfants en sont victimes, la responsabilité de ces crimes ne s'arrête pas au criminel. Les sociétés technologiques ne devraient pas pouvoir tirer profit des applications distribuées par l'intermédiaire de leurs magasins et se dégager de toute responsabilité lorsque ces profits sont générés par l'abus et l'exploitation d'enfants.
- Un(e) survivant(e)
Sur quoi s'appuient les points de vue opposés ?
Les principaux exploitants de magasins d'applications ont mis en place des politiques et des pratiques de filtrage des demandes soumises par les développeurs. Les rapports de transparence indiquent que de nombreux exploitants de magasins d'applications ont pris des mesures à l'encontre de millions d'applications qui violaient leurs politiques. Ces exploitants pourraient faire valoir que si les contrevenants échappent au rejet ou à la suppression, il s'agit de rares exceptions, et que les efforts déployés de bonne foi pour écarter les applications contrevenantes justifient l'exonération de responsabilité des exploitants de magasins d'applications. Certains pensent également que la responsabilité afférente aux applications qui exploitent les enfants devrait incomber entièrement aux développeurs des applications criminelles et/ou aux personnes qui les utilisent à mauvais escient pour causer du tort.