¿Qué es?
Para facilitar la venta y distribución de aplicaciones de software («apps») a los usuarios de dispositivos informáticos y de comunicación modernos, distintas empresas han lanzado servicios en línea, comúnmente denominados «app stores», donde los desarrolladores ponen sus aplicaciones a disposición de los consumidores. Las tiendas de aplicaciones típicamente tienen directrices relacionadas a las funciones y diseño aceptables de las aplicaciones; a pesar de ello, a veces se aprueba la distribución de aplicaciones que facilitan determinados tipos de explotación sexual infantil.
Posición del NCMEC:
Las tiendas de aplicaciones que distribuyen o facilitan la distribución de aplicaciones que saben, o razonablemente deberían saber, que infringen las políticas de la tienda al habilitar distintivamente la explotación sexual infantil facilitada por tecnología deberían estar sujetas a responsabilidad por los perjuicios ocasionados con sus aplicaciones.
¿Por qué importa?
Los delincuentes explotan sexualmente a los menores mediante muchas plataformas en línea, aplicaciones, servicios de comunicación y dispositivos diferentes. Hay múltiples puntos en los cuales las empresas deberían tomar medidas responsables para proteger mejor a los menores de la explotación, incluidos los menores que no son usuarios de los productos de las empresas.
Los operadores de las tiendas de aplicaciones no solo crean un mercado para que los consumidores descarguen y compren distintas aplicaciones; también se colocan como guardianes entre los desarrolladores de aplicaciones y los consumidores. Dicha función de guardián incluye la creación y puesta en práctica de políticas y normas acerca de qué tipos de aplicación se permiten para usuarios de determinadas edades. Cuando los operadores de tiendas de aplicaciones distribuyen apps que saben, o razonablemente deberían saber, que infringen sus propias políticas relacionadas con la protección de menores, deberían estar sujetos a la responsabilidad compartida por el perjuicio que ocasionan.
El tema en debate aquí se centra estrechamente en las responsabilidades de los operadores de tiendas de aplicaciones. NCMEC ha abordado la responsabilidad civil de las plataformas en línea más ampliamente en otro documento.
¿Qué contexto es relevante?
Los usuarios pueden acceder a una variedad de servicios en distintos dispositivos de comunicación, incluidos ordenadores de escritorio y portátiles, teléfonos inteligentes, tabletas, etc., mediante aplicaciones propias (desarrolladas por un fabricante de dispositivos o desarrollador del sistema operativo) o aplicaciones de terceros (desarrolladas por otra empresa). Para facilitar la distribución de aplicaciones, las empresas han creado servicios, portales o tiendas específicas de la plataforma. Estas incluyen Google Play Store, Apple App Store, Amazon Appstore, Microsoft Store y otras. Cada una de estas tiendas ha publicado políticas que específicamente prohíben las aplicaciones que incluyen determinados tipos de contenido o funciones perjudiciales.
En conjunto, los operadores de tiendas de aplicaciones han eliminado (después de ser aprobadas) o rechazado (en la revisión inicial) millones de aplicaciones por infracciones a las políticas de las tiendas. App Review Guidelines de Apple prohíbe «aplicaciones que pueden incluir pornografía o usarse para facilitar la prostitución o el tráfico y explotación de personas» (sección 1.1.4) o «aplicaciones que solicitan, promueven o alientan conductas criminales o claramente irresponsables...» (sección 5). La política Console Child Endangerment de Google Play prohíbe el «uso de aplicaciones que promueven conductas predatorias hacia los menores, como...sexualización de un menor...».
Aún así, parece que algunas aplicaciones que infringen políticas claras que prohíben conductas de explotación, predatorias o perjudiciales hacia los menores eludido la revisión y eliminación oportunas, a pesar de la existencia de políticas y prácticas de revisión de las tiendas que deberían haber prohibido la oferta al público de dichas aplicaciones.
En 2023, la policía en España investigó circunstancias en las que 20 niñas fueron victimizadas por la creación y distribución de imágenes que las representaban desnudas generadas con una aplicación con inteligencia artificial para modificar imágenes inocuas existentes. Parecería que dicha aplicación infringe políticas claras de las principales tiendas de aplicaciones. En 2024, Apple y Google informaron eliminar múltiples aplicaciones después de informes de noticias de anuncios que promovían específicamente la capacidad de la aplicación de generar imágenes de «desnudos» no consentidos de adultos e imágenes de «desnudos» de menores, un uso que infringe las políticas de las tiendas de aplicaciones.
¿Qué dicen los sobrevivientes?
Los sobrevivientes han expresado interés en que los operadores de tiendas de aplicaciones estén sujetos a responsabilidad en determinadas circunstancias. De la misma forma que un restaurante o bar está sujeto a responsabilidad por servir alcohol inapropiadamente, como a clientes menores de edad o visiblemente intoxicados, los operadores de tiendas de aplicaciones deberían también enfrentar la responsabilidad por distribuir o facilitar la distribución de aplicaciones que la tienda sabe, o debería razonablemente saber, que infringe sus políticas al facilitar la explotación sexual infantil facilitada por la tecnología.
Mientras que las infracciones claras a las políticas existentes se descubren fácilmente, la falta de políticas integrales, informes de transparencia disponibles públicamente o mecanismos de aplicación pueden ocultar problemas adicionales. Por lo tanto, los sobrevivientes han pedido normas mínimas para las políticas de las tiendas de aplicaciones (por ej., solicitar medidas de verificación de edad / aseguramiento en las interfaces de las tiendas en lugar de confiar únicamente en el conjunto de controles parentales del dispositivo).
Las empresas de tecnología que deciden operar tiendas de aplicaciones deberían regirse por los mismos estándares de responsabilidad que cualquier otra empresa que ofrece un producto o servicio. Cuando las aplicaciones infringen las políticas de las tiendas y, como resultado, se victimiza a los menores, la responsabilidad de dichos delitos no termina con el delincuente. Las empresas tecnológicas no deberían beneficiarse de las aplicaciones distribuidas vía sus tiendas y, después, evitar la responsabilidad cuando los ingresos de dichas aplicaciones se generan mediante el abuso y la explotación de menores.
- Sobreviviente
¿Que impulsa los puntos de vista de oposición?
Los principales operadores de tiendas de aplicaciones tienen políticas y prácticas para filtrar las presentaciones. Los informes de transparencia indican que muchos operadores de tiendas de aplicaciones han tomado medidas contra millones de aplicaciones por infringir sus políticas. Estos operadores podrían argumentar que los infractores que eluden el rechazo o la eliminación constituyen raras excepciones y los esfuerzos de buena fe existentes para rechazar las aplicaciones en infracción justifican proteger a los operadores de tiendas de aplicaciones de la responsabilidad. Algunos también consideran que la responsabilidad de las aplicaciones que explotan a menores debería caer completamente en sus desarrolladores y/o las personas que las usan indebidamente para ocasionar perjuicios.