Esta semana se rumoreó que Apple trabaja en sistemas para frenar el abuso infantil. A poco de esas especulaciones, la compañía californiana confirmó oficialmente esos desarrollos que llegarán a finales de este año con el lanzamiento de iOS 15, el nuevo iPadOS, macOS Monterrey y WatchOS 8. Es decir, los cambios se verán en un amplio abanico de dispositivos de la marca: iPhone, iPad, Mac y Watch.
Tal como contamos acá, la especulación indicaba que la empresa de la manzana mordida desplegará un algoritmo para detectar pornografía infantil en los dispositivos de los s. Se dijo que ese proceso se realizaría en forma automática y que, en caso de encontrar fotografías que coincidan con ese contenido indebido, se enviarán reportes a revisores humanos.
El supuesto lanzamiento de esa función derivó en un debate. Por un lado, expertos notaron que los sistemas de detección automática usualmente arrojan falsos positivos y que eso es un gran problema a la hora de denunciar posibles casos de abuso infantil. Por otra parte, indicaron que una tecnología de esa especie (que actúa en forma silenciosa y automática en los dispositivos) podría ser empleada por organismos y gobiernos para espiar otras actividades de los s y, en tanto, hacer mella en la pretendida privacidad.
Apple explica sus intenciones
Los de Cupertino, California, informaron que añadirán en iOS y iPadOS herramientas que detectarán cuando alguien cargue contenido en iClod que muestre a menores involucrados en actos sexuales. Siguiendo a Engadget, en lugar de escanear fotos cuando se cargan en la nube el sistema utilizará una base de datos en el dispositivo de imágenes “conocidas” proporcionadas por el Centro Nacional para Niños Desaparecidos y Explotados (NCMEC) y otras organizaciones.
Apple dice que esa base asigna un parámetro a las fotos, que actúa como una especie de “huella digital” y permite encontrar coincidencias que delaten el contenido indebido.
En ese marco prometen que el método empleado para detectar contenido de abuso sexual infantil está diseñado teniendo en cuenta la privacidad del . En concreto, explican que solamente podrán acceder al material de las galerías cuando el sistema detecta que se supera el “umbral” itido. “El umbral está establecido para proporcionar un nivel extremadamente alto de precisión y garantiza menos de uno en un billón de posibilidades por año de marcar incorrectamente una cuenta determinada”, dijeron.
Tal como se había rumoreado en la previa, indicaron que cuando el algoritmo encuentre coincidencias se revisará manualmente cada informe para confirmar la presencia de ese material. En ese caso, se desactivará la cuenta de iClod y se enviarán informes al NCMEC. Pr su parte, los s pueden apelar la suspensión si creen que su cuenta ha sido marcada por error.
Apple: más cambios para combatir al abuso infantil
Además de la revisión de la galería de imágenes de los equipos en busca de material de abuso a menores, la empresa estadounidense prepara más herramientas que procuran generar entornos más seguros para los nenes. En la aplicación Messages sumarán notificaciones para advertir tanto a los niños como a los padres cuando se envíen o reciban fotos sexualmente explícitas. En ese caso, aparecerán mensajes como el siguiente: “No es tu culpa, pero las fotos y videos sensibles pueden usarse para lastimarte”. Para detectar ese tipo de fotografías, usarán aprendizaje automático.
También tienen previstos cambios en Siri que apuntan a esa búsqueda. Igual que en las búsquedas que se realicen en macOS, el asistente ofrecerá más recursos de seguridad infantil. Por caso, actualizarán a ese software para que ayude a realizar denunciar e intervenga cuando se busque contenido relacionado al abuso sexual infantil.
De acuerdo a la fuente mencionada, es probable que estos cambios anunciados por Apple sean parte de una intención de trabajar en forma más estrecha con las fuerzas del orden y los gobiernos locales. Esto supone un cambio en una compañía que en el pasado se mostró reticente a colaborar con las autoridades cuando le solicitaron a dispositivos de s involucrados en casos judiciales.
