Amnistía Internacional, el Chaos Computer Club y otras organizaciones están pidiendo el fin de los nuevos poderes para las agencias de seguridad. Los sistemas planificados para la búsqueda biométrica y el análisis automatizado de datos amenazan la protección de datos, la libertad de reunión y la autodeterminación informativa.
Los planes del gobierno alemán para ampliar los poderes de las autoridades de seguridad en registros digitales ponen en peligro derechos fundamentales. Esta es la conclusión a la que llegaron varias organizaciones de la sociedad civil en su declaración conjunta sobre los proyectos de ley del Ministerio Federal de Justicia y del Ministerio Federal del Interior. «Enfatizamos que un diseño de estos poderes conforme a los derechos fundamentales no sería alcanzable ni siquiera mediante mejoras en el derecho procesal», dice el comunicado: «Las deficiencias mencionadas no son meros errores de diseño, sino sintomáticas del déficit estructural de todo el proyecto regulatorio.»
Las organizaciones, incluyendo Amnistía Internacional y el Chaos Computer Club, critican, entre otras cosas, la falta de una reserva judicial, la insuficiente transparencia para los afectados y la documentación insuficiente sobre el funcionamiento de los sistemas de IA. Tampoco hubo restricciones sobre la forma y el alcance de los datos incluidos ni sobre los métodos de análisis. Además, existe la amenaza de graves violaciones de derechos fundamentales por parte de empresas privadas.
Como consecuencia, la declaración recomienda la retirada total de los proyectos de ley y, en su lugar, una prohibición legal de los «sistemas biométricos de reconocimiento masivo», así como normas vinculantes sobre transparencia, control y responsabilidad en el análisis algorítmico de datos.
Cualquiera que pueda ser visto en Internet se ve afectado
El gobierno federal quiere permitir que la policía busque rostros en Internet en el futuro para las fuerzas del orden y la lucha contra el terrorismo. Una foto policial debería poder compararse biométricamente con todas las caras que se pueden encontrar en Internet público. La ministra federal de Justicia, Stefanie Hubig (SPD), y el ministro federal del Interior, Alexander Dobrindt (CSU), han acordado varios proyectos de ley.
La alianza critica que esto crearía de facto la infraestructura para la trazabilidad nacional de la población. El comunicado describe el uso de sistemas de IA como PimEyes o Clearview AI para búsquedas biométricas como una intromisión «en el derecho a la autodeterminación informativa de todas las personas que publican fotos, vídeos y otros contenidos con características biométricas en Internet sin darles una razón para hacerlo». Esto no es compatible con el derecho fundamental a la autodeterminación informativa ni con el derecho a la protección de los datos personales.
Incluso las personas que aparecen en el fondo de material de imagen públicamente disponible sin su propia acción se ven amenazadas con el procesamiento de sus datos biométricos. Indirectamente, esto también restringe la libertad de expresión y de reunión: cualquiera que tenga que temer ser registrado biométricamente por su participación en una asamblea puede renunciar por completo a ella; existe el riesgo de un efecto disuasorio que impida el ejercicio de los propios derechos fundamentales.
Los datos empíricos también muestran que las personas de color, en particular, a menudo se ven injustamente afectadas por las medidas policiales. Por tanto, existe el riesgo de poner en peligro la prohibición de la discriminación.
Sistemas de IA para crear una «super base de datos» policial
Otro proyecto de ley prevé el análisis automatizado de datos mediante sistemas de IA como Palantir. Se deben fusionar y evaluar algorítmicamente bases de datos masivas de las autoridades policiales federales y estatales para este propósito, independientemente del caso individual. Los datos de víctimas, testigos y personas completamente ajenas pasarían entonces a formar parte de la misma «superbase de datos». El resultado serían perfiles de personalidad en profundidad basados en bases de datos masivas evaluadas algorítmicamente.
Dicho análisis permite sacar conclusiones «que van mucho más allá de los propósitos originales de recogida de los datos analizados y también más allá del objetivo de la consulta de búsqueda real hacia el sistema de análisis», dice la afirmación: «Estos sistemas son estructuralmente propensos a errores, no transparentes y promueven la discriminación. Esto se aplica aún más a los sistemas de IA, que siguen siendo autoaprendices incluso después de su introducción y no están excluidos de los diseños.»
El plan del gobierno alemán está vinculado al debate sobre el llamado paquete de seguridad en otoño de 2024. El entonces gobierno del semáforo fracasó con sus planes porque los poderes de vigilancia previstos no iban lo suficientemente lejos para los estados.
Según el Reglamento de IA, la Unión Europea prohíbe en realidad el procesamiento masivo de imágenes faciales en bases de datos biométricas. Por tanto, los borradores actuales del gobierno alemán representan un intento de eludir la prohibición de la UE. La Conferencia de Autoridades Independientes de Supervisión de la Protección de Datos de la Federación y los Länder (DSK) también critica las iniciativas legislativas para ampliar los poderes de investigación digital y llega a la conclusión: «En la forma prevista, estos poderes no son compatibles con los requisitos constitucionales. Ponen en grave peligro los derechos constitucionalmente protegidos de las partes no implicadas.»
Este artículo fue publicado originalmente en https://netzpolitik.org/ Lea el original.