La Comisión Europea propone obligar a los proveedores a buscar automáticamente contenidos sospechosos en todos los chats, mensajes y correos electrónicos privados, de forma generalizada e indiscriminada. El objetivo declarado: perseguir penalmente el material de explotación sexual infantil (CSEM). El resultado: vigilancia masiva mediante vigilancia totalmente automatizada en tiempo real de mensajes y chats y el fin de la privacidad de la correspondencia digital.

Otros aspectos de la propuesta incluyen un bloqueo ineficaz de la red, la revisión del almacenamiento personal en la nube, incluidas fotos privadas, la verificación obligatoria de la edad que resulte en el fin de la comunicación anónima, la censura de las tiendas de aplicaciones y la exclusión de los menores del mundo digital.

Chat Control 2.0 en todos los smartphones

El 11 de mayo de 2022, la Comisión Europea presentó una propuesta que haría obligatoria la búsqueda de controles de chat para todos los proveedores de correo electrónico y mensajería y que se aplicaría incluso a los servicios de comunicación cifrados de extremo a extremo de forma segura hasta ahora. Antes de la propuesta, una consulta pública había revelado que la mayoría de los encuestados, tanto ciudadanos como partes interesadas, se oponían a imponer la obligación de utilizar controles de chat. Más del 80% de los encuestados se oponían a su aplicación a las comunicaciones cifradas de extremo a extremo.

Actualmente, existe una normativa que permite a los proveedores escanear las comunicaciones de forma voluntaria (el llamado “Chat Control 1.0”). Hasta ahora, solo algunos servicios de comunicaciones estadounidenses no cifrados, como GMail, Facebook/Instagram Messenger, Skype, Snapchat, iCloud email y X-Box, aplican el control de chat de forma voluntaria (más detalles aquí ). Como resultado de la propuesta obligatoria de Chat Control 2.0, la Comisión espera un aumento de 3,5 veces en los informes de escaneo (en un 354% ).

El Parlamento se ha posicionado casi unánimemente contra el control indiscriminado de los chats. Ante la oposición irreconciliable de los partidarios y detractores del control obligatorio de los chats entre los gobiernos de la UE (Consejo de la UE) y la falta de una posición común adoptada, la UE ha adoptado una prórroga de dos años del control voluntario de los chats 1.0 en 2024 (véase cronología y documentos ). Una víctima de abuso sexual infantil y el eurodiputado pirata Patrick Breyer han presentado demandas para detener el escaneo voluntario indiscriminado por parte de las grandes empresas tecnológicas estadounidenses (control de los chats 1.0).

Cambios propuestos por el Parlamento Europeo

En noviembre de 2023, el Parlamento Europeo aprobó casi por unanimidad un mandato de negociación para el proyecto de ley. El eurodiputado del Partido Pirata Patrick Breyer, el opositor más decidido al control del chat, se sentó a la mesa de negociaciones. El resultado: el Parlamento quiere arrancarle los siguientes colmillos al proyecto extremo de la Comisión Europea:

1. Queremos proteger el secreto digital de la correspondencia y acabar con los planes de control generalizado de los chats , que violan los derechos fundamentales y no tienen ninguna posibilidad en los tribunales. El control voluntario actual de los chats de mensajes privados (no de las redes sociales) por parte de las empresas de Internet estadounidenses se está eliminando gradualmente. La vigilancia y los registros selectivos de las telecomunicaciones solo se permitirán con una orden judicial y se limitarán a personas o grupos de personas sospechosas de estar vinculadas a material de abuso sexual infantil.
2. Queremos proteger la confianza en el cifrado seguro de extremo a extremo . Excluimos claramente el llamado escaneo del lado del cliente, es decir, la instalación de funciones de vigilancia y vulnerabilidades de seguridad en nuestros teléfonos inteligentes.
3. Queremos garantizar el derecho a la comunicación anónima y eliminar la obligación de verificación de edad para los usuarios de los servicios de comunicación. De esta forma, los denunciantes podrán seguir filtrando irregularidades de forma anónima sin necesidad de mostrar su documento de identidad o su rostro.
4. Eliminar en lugar de bloquear: el bloqueo del acceso a Internet debe ser opcional. Bajo ninguna circunstancia se debe bloquear colateralmente el contenido legal.
5. Impedimos el arresto domiciliario digital: No queremos obligar a las tiendas de aplicaciones a impedir que los jóvenes menores de 16 años instalen aplicaciones de mensajería, redes sociales y juegos “para su propia protección”, como se propone. Se mantiene el Reglamento General de Protección de Datos.

El Parlamento quiere proteger a los jóvenes y a las víctimas de abusos de forma mucho más eficaz que la propuesta extrema de la Comisión Europea:

1. Seguridad desde el diseño: Para proteger a los jóvenes del acoso sexual, el Parlamento quiere que los servicios y aplicaciones de Internet sean seguros desde el diseño y por defecto. Debe ser posible bloquear y denunciar a otros usuarios. Solo a petición del usuario se le debe poder contactar públicamente y ver mensajes o fotos de otros usuarios. Se debe pedir a los usuarios que confirmen antes de enviar datos de contacto o fotos de desnudos. Se debe advertir a los posibles agresores y víctimas cuando sea apropiado, por ejemplo, si intentan buscar material de abusos utilizando determinadas palabras clave. Se deben moderar los chats públicos con alto riesgo de acoso sexual.
2. Para limpiar la red de material de abuso sexual infantil, el Parlamento quiere que el nuevo Centro de Protección Infantil de la UE busque automáticamente y de forma proactiva contenido de Internet de acceso público en busca de material de abuso sexual infantil conocido. Este rastreo también podría utilizarse en la red oscura y, por lo tanto, es más eficaz que las medidas de vigilancia privadas de los proveedores.
3. El Parlamento quiere obligar a los proveedores que detecten material claramente ilegal a retirarlo , a diferencia de la propuesta de la Comisión Europea. Las autoridades policiales que detecten material ilegal estarían obligadas a informar al proveedor para que lo retire. Esta es nuestra reacción al caso de la plataforma de la darknet Boystown, donde el peor material abusivo se difundió durante meses con el conocimiento de Europol.

tención: este es solo el mandato de negociación del Parlamento , que normalmente solo prevalece parcialmente. La mayoría de los gobiernos de la UE siguen apoyando la propuesta original de control del chat de la Comisión Europea sin grandes concesiones. Sin embargo, muchos otros gobiernos se oponen a tal posición (la llamada minoría de bloqueo). Tan pronto como los gobiernos de la UE hayan alcanzado un acuerdo en el Consejo, el Parlamento, el Consejo y la Comisión iniciarán las llamadas negociaciones tripartitas sobre la versión final del reglamento.

Enmiendas discutidas por los gobiernos de la UE

En junio de 2024, una “minoría de bloqueo” extremadamente estrecha de gobiernos de la UE impidió que el Consejo de la UE aprobara el control del chat. Los defensores del control del chat lograron el 63,7% del umbral del 65% de los votos requerido en el Consejo de la UE para una mayoría cualificada.

Se encuentran sobre la mesa en el Consejo cambios menores a la propuesta para cortejar a los gobiernos críticos:

• Las órdenes de detección de control de chats se limitarían a los servicios de “alto riesgo”. Los gobiernos tendrían amplia discreción en cuanto a la clasificación de riesgo, y el anonimato, el cifrado o las comunicaciones en tiempo real se consideran per se de “alto riesgo”, lo que significa que, en la práctica, el control de chats se seguiría aplicando de forma indiscriminada y a todos los servicios y aplicaciones pertinentes con funciones de comunicación. En cualquier caso, el servicio utilizado no justifica la búsqueda de chats privados de millones de ciudadanos que no están ni remotamente relacionados con ningún delito.
• Las tecnologías utilizadas para la detección en servicios cifrados de extremo a extremo serían “examinadas” en cuanto a su eficacia, su impacto en los derechos fundamentales y los riesgos para la ciberseguridad. Sin embargo, el llamado “escaneo del lado del cliente” en nuestros teléfonos inteligentes crea riesgos de piratería y abuso, y destruye la confianza en la confidencialidad de las comunicaciones privadas. Dado que varios proveedores (Signal, Threems) han anunciado que preferirían dejar de ofrecer servicios en la UE antes que implementar errores en sus aplicaciones, la propuesta cortaría de hecho la comunicación de los europeos con otros usuarios de estas aplicaciones.
• El escaneo se limitaría al contenido visual y a las URL, pero es precisamente el escaneo del contenido visual lo que, según el actual sistema voluntario, expone fotos familiares íntimas a la vista de personas desconocidas, da lugar a miles de falsos positivos y conduce a la criminalización masiva de adolescentes.
• El uso de inteligencia artificial para buscar automáticamente material de abuso sexual infantil previamente desconocido daría como resultado la divulgación de chats solo después de dos resultados. Pero esta limitación generalmente será ineficaz, ya que las fotos de playa falsas o el sexting consensuado rara vez implican una sola foto. La propia Comisaria de Asuntos Internos de la UE ha declarado que tres de cada cuatro de los chats y fotos revelados no son procesables para la policía. Los algoritmos y las bases de datos hash generalmente no son confiables para distinguir el contenido legal del ilegal.
• El escaneo (“moderación de carga”) se aplicaría solo a los usuarios que lo consientan. Si un usuario no está de acuerdo con el escaneo de sus chats, aún podrá usar el servicio para enviar mensajes de texto, pero ya no podrá enviar ni recibir imágenes, videos, iconografía, stickers o URL. Claramente, esto no les da a los usuarios una opción real, ya que usar los servicios de mensajería solo para enviar mensajes de texto no es una opción en el siglo XXI.
• Las cuentas profesionales de los servicios de inteligencia, la policía y el ejército quedarían exentas del análisis de chats y mensajes. Esta excepción demuestra que los ministros del Interior saben perfectamente lo poco fiables y peligrosos que son los algoritmos de espionaje que quieren utilizar contra nosotros los ciudadanos. Los propios ministros no quieren sufrir las consecuencias de la destrucción de la privacidad digital de la correspondencia y del cifrado seguro que nos impondrían.

A continuación se presenta una lista de los cambios integrales que faltan para que la propuesta sea aceptable.

A partir de septiembre de 2024, la nueva presidencia húngara propone además eliminar la obligación de utilizar inteligencia artificial para buscar automáticamente material de abuso sexual infantil desconocido hasta ahora (seguiría siendo voluntaria). Sin embargo:

• Esto no aborda las preocupaciones fundamentales sobre el control del chat, incluido el monitoreo masivo indiscriminado de las comunicaciones privadas y el fin del cifrado seguro de extremo a extremo que nos mantiene a salvo.
• El Servicio Jurídico del Consejo reafirmó que persisten sus preocupaciones sobre una posible violación del derecho fundamental a la privacidad.
• Los informes sobre el intercambio de material de abuso sexual infantil conocido son descartados rutinariamente por las fuerzas del orden por no ser relevantes desde el punto de vista penal o “no procesables”, por ejemplo, porque no está claro si los participantes actuaron intencionalmente, qué edad tienen las personas o por las especificidades del derecho penal nacional en un país específico (por ejemplo, si el material de ficción o de dibujos animados es delictivo). Ningún algoritmo puede realizar una evaluación legal fiable. Según Meta, que es la fuente de la gran mayoría de los informes, actualmente solo buscan material de abuso sexual infantil conocido en las comunicaciones de la UE y, sin embargo, al menos el 50% del NCMEC de los informes presentados a las fuerzas del orden alemanas no son relevantes desde el punto de vista penal, según la agencia federal contra el delito (BKA). El comisario de la UE Johansson admitió a finales de 2023 que el 75% de los informes del NCMEC no son de una calidad con la que la policía pueda trabajar.
• Buscar la recurrencia de material conocido no salvará a los niños del abuso continuo
• El procesamiento masivo de casos conocidos de abuso sexual infantil desviará los recursos necesarios para investigar el abuso de contacto

¿Cómo te afecta esto?

Escaneo de control de mensajería y chat:

• Todas tus conversaciones de chat y correos electrónicos se analizarán automáticamente para detectar contenido sospechoso. Nada permanece confidencial ni secreto. No es necesario que exista una orden judicial ni que exista una sospecha inicial para analizar tus mensajes. El análisis se realiza siempre y de forma automática.
• Si un algoritmo clasifica el contenido de un mensaje como sospechoso, sus fotos privadas o íntimas pueden ser vistas por el personal y los contratistas de corporaciones internacionales y las autoridades policiales. También sus fotos privadas de desnudos pueden ser vistas por personas que usted no conoce, en cuyas manos sus fotos no están seguras.
• Los empleados y contratistas de corporaciones internacionales y autoridades policiales pueden leer los coqueteos y mensajes de sexo , porque los filtros de reconocimiento de texto que buscan “acoso infantil” con frecuencia detectan falsamente chats íntimos.
• Se puede denunciar e investigar falsamente a alguien por difundir material de explotación sexual infantil. Se sabe que los algoritmos de control de mensajes y chats marcan fotos de niños en la playa que son completamente legales, por ejemplo. Según las autoridades de la policía federal suiza, el 80% de todos los informes generados por máquinas resultan ser infundados. Del mismo modo, en Irlanda, solo el 20% de los informes del NCMEC recibidos en 2020 fueron confirmados como “material de abuso infantil” real. Casi el 40% de todos los procedimientos de investigación penal iniciados en Alemania por “pornografía infantil” tienen como objetivo a menores.
• En su próximo viaje al extranjero, puede esperar grandes problemas. Es posible que los informes generados por máquinas sobre sus comunicaciones se hayan transmitido a otros países, como los EE. UU., donde no existe privacidad de datos, con consecuencias incalculables.
• Los servicios de inteligencia y los piratas informáticos pueden espiar sus chats y correos electrónicos privados. La puerta estará abierta para cualquiera que tenga los medios técnicos para leer sus mensajes si se elimina el cifrado seguro para poder filtrar los mensajes.
• Esto es sólo el principio . Una vez que se haya establecido la tecnología para el control de la mensajería y el chat, será muy fácil utilizarlas para otros fines. ¿Y quién garantiza que estas máquinas incriminatorias no se utilizarán en el futuro en nuestros teléfonos inteligentes y ordenadores portátiles?

Verificación de edad:

• Ya no es posible crear cuentas anónimas de correo electrónico o mensajería instantánea ni chatear de forma anónima sin necesidad de presentar un documento de identidad o el rostro, lo que hace que seas identificable y corres el riesgo de que se filtren datos. Esto impide, por ejemplo, los chats sensibles relacionados con la sexualidad, las comunicaciones anónimas de los medios de comunicación con fuentes (por ejemplo, denunciantes) y la actividad política.
• Si tienes menos de 16 años, ya no podrás instalar las siguientes aplicaciones de la tienda de aplicaciones (razón aducida: riesgo de acoso): aplicaciones de mensajería como Whatsapp, Snapchat, Telegram o Twitter, aplicaciones de redes sociales como Instagram, TikTok o Facebook, juegos como FIFA, Minecraft, GTA, Call of Duty, Roblox, aplicaciones de citas, aplicaciones de videoconferencia como Zoom, Skype, Facetime.
• Si no utilizas una tienda de aplicaciones, se verificará y aplicará igualmente el cumplimiento de la edad mínima del proveedor. Si tienes menos de 16 años, ya no podrás utilizar WhatsApp debido a los requisitos de verificación de edad propuestos; lo mismo se aplica a las funciones en línea del juego FIFA 23. Si tienes menos de 13 años, ya no podrás utilizar TikTok, Snapchat o Instagram.

Haga clic aquí para obtener más argumentos en contra del control de la mensajería y el chat

Haga clic aquí para saber qué puede hacer para detener el control de mensajes y chats

Este  artículo fue publicado originariamente por https://www.patrick-breyer.de/.Lea el original.