¿Qué es?
Seguridad desde el diseño es un enfoque al desarrollo de productos o servicios en el cual la seguridad es una función y preocupación central desde el inicio en lugar de una idea adicional o complemento después de lanzar el producto o servicio.
Posición del NCMEC:
Los gobiernos deberían requerir y/o incentivar a las plataformas en línea y los fabricantes de dispositivos a acatar un mínimo de principios de seguridad desde el diseño para promover la protección de menores de los perjuicios en línea.
¿Por qué importa?
Los nuevos productos y servicios para facilitar las actividades en línea a menudo están desarrollados con tecnologías relativamente nuevas con el objetivo de resolver un problema o necesidad existente o crear nuevas oportunidades y funciones para el consumidor. Cuando las consideraciones de seguridad, especialmente para los menores, se tienen en cuenta solo después de lanzar el producto o servicio, la seguridad depende del diseño y funciones del proyecto y, a menudo, se ignoran. Esto deja a los usuarios menores y a menores que no son usuarios en riesgo de perjuicios.
Seguridad desde el diseño requiere que las consideraciones de seguridad sean el tema central desde el comienzo del proceso de desarrollo de nuevos productos o servicios. Esto incluiría incorporar consideraciones de seguridad en las decisiones de diseño junto con otras consideraciones como funcionalidad, experiencia de usuario preferida y seguridad de los datos. La seguridad de los menores se promueve cuando las plataformas en línea incorporan funciones y características, aplicables específicamente al nuevo producto o servicio que se está diseñando, para prevenir, detectar, interrumpir y facilitar las denuncias de explotación sexual infantil en línea.
¿Qué contexto es relevante?
Seguridad desde el diseño es un concepto ampliamente aceptado en la fabricación y producción global de productos de consumo. Como ejemplo, las normas de seguridad internacionales comunes para automóviles, incluidos los cinturones de seguridad y airbags, se han convertido en señales universales de seguridad desde el diseño en el sector automotriz. Los gobiernos, mediante organismos legislativos y/o agencias de reglamentación, pueden imponer normas de seguridad a las plataformas en línea, de la misma manera que lo han hecho durante muchos años en relación con automóviles, electrodomésticos, productos alimenticios y farmacéuticos. La seguridad desde el diseño en el ámbito en línea es necesaria para crear un impacto internacional similar en la protección de los menores de perjuicios en línea.
Desde 2018, la Comisionada de eSafety en Australia ha promovido la seguridad desde el diseño en el sector tecnológico, específicamente respecto de las plataformas en línea. La Comisionada de eSafety promueve tres principios clave de seguridad desde el diseño: responsabilidad de los prestadores de servicios, empoderamiento y autonomía de los usuarios y transparencia y responsabilidad. Mediante su autoridad reglamentaria, la Comisionada de eSafety también aplica las obligaciones legales de las plataformas en línea según la ley australiana.
Los debates acerca de la seguridad en línea, similares a los de privacidad de los datos, a menudo se centran en la protección de los usuarios, pero muchos menores explotados en línea no son usuarios de las plataformas donde se les perjudica. Asimismo, mientras los fabricantes de dispositivos a menudo destacan las funciones de seguridad y protección en sus productos, como la detección de choques de Apple y la codificación de datos biométricos en el dispositivo, la mayoría de los dispositivos carecen de funciones para proteger a los menores del uso de un delincuente de un dispositivo para crear CSAM, compartir CSAM con otros delincuentes o cometer otros actos de explotación sexual infantil.
Se perjudica a los menores no solo cuando los delincuentes se comunican directamente con ellos con fines de explotación sino también cuando los delincuentes usan los servicios en línea para cometer delitos relacionados con CSAM sin interactuar directamente con los menores. Se perjudica a los menores cuando un delincuente les coacciona para crear imágenes de explotación de sí mismos y cuando los delincuentes producen CSAM que representa a un menor que no usa un dispositivo. Los esfuerzos de seguridad desde el diseño que se centran exclusivamente en la seguridad de los usuarios ignoran las amenazas a menores que no son usuarios.
En marzo de 2024, durante una audiencia de un comité del Congreso de EE. UU., NCMEC identificó que las empresas de inteligencia artificial generativa (IAG) no respetaban los principios de seguridad desde el diseño y esto era un factor que contribuía a la explotación de menores en línea. Cuatro meses más tarde, las organizaciones tecnológicas sin fines de lucro Thorn y All Tech is Human colaboraron con once desarrolladores de IAG para comprometerse públicamente con los principios de seguridad desde el diseño para «proteger contra la creación y difusión de material de abuso sexual infantil generado por IA...y otros perjuicios sexuales contra los menores». Un documento formal acompañó al anuncio público para establecer los principios y compartir estrategias sobre cómo las distintas partes interesadas pueden implementarlos.
En el caso de las plataformas que no han sido desarrolladas con los principios de seguridad desde el diseño, la «seguridad desde el rediseño» es posible mediante una evaluación reflexiva de los riesgos y el desarrollo e implementación de medidas de atenuación para mejorar la seguridad de usuarios y no usuarios.
¿Qué dicen los sobrevivientes?
Los sobrevivientes respaldan el requisito de seguridad desde el diseño pero han expresado preocupación acerca de la aplicación y responsabilidad en el cumplimiento. Elogian la legislación sancionada en Australia (Online Safety Act en 2021) e introducida en Canadá (Bill C-63, Online Harms Act de 2024) como ejemplos de marcos legales que, por lo menos en parte, promueven la seguridad desde el diseño.
Las plataformas en línea deberían contratar a sobrevivientes como consultores en respaldo al desarrollo de los esfuerzos de seguridad desde el diseño. Los desarrolladores deberían considerar la seguridad de todo aquel que pueda verse perjudicado por el uso indebido de sus productos y servicios y no solo de sus usuarios.
La tecnología debería diseñarse con la seguridad como prioridad. Las empresas deberían considerar las experiencias de los sobrevivientes y sus familiares y ser proactivas en la implementación de medidas de seguridad en sus tecnologías.
- Sobreviviente
Las plataformas de redes sociales continúan presentando nuevos productos, cambios o funciones adicionales en sus productos anteriores y actualizaciones de software todo el tiempo. ¿Por qué mis necesidades como sobreviviente siguen dejándose de lado en estas actualizaciones simplemente porque no uso sus servicios? ¿Dónde se pone el límite de que la seguridad no importa cuando aún existe contenido en circulación de víctimas y sobrevivientes inocentes que jamás se han suscrito ni han participado en la carga en estas plataformas en línea?
- Sobreviviente
¿Que impulsa los puntos de vista de oposición?
Los argumentos opuestos a la seguridad desde el diseño para la protección de menores en línea plantean preocupaciones acerca de las restricciones a la libertad de expresión por una posible sobremoderación mediante el filtrado de contenido y limitaciones al acceso a contenido legal. Otras críticas se basan en problemas de privacidad (especialmente en lo que respecta a la moderación de contenido), dudas acerca de la eficacia de las medidas de seguridad desde el diseño, preocupaciones que incorporar las consideraciones de seguridad desde el diseño desacelerará la innovación y el coste financiero de la implementación.