Página 1 de 1

Así funciona la nueva herramienta de reconocimiento facial

NotaPublicado: Sab, 19 Nov 2022, 01:21
por Bávaro
Gafas Balisticas Wiley-X

Oferta 99 euros
uspsuministros.com
Así funciona la nueva herramienta basada en el reconocimiento facial que ya prueba la Policía Nacional

En un principio solo se usará en investigaciones de delitos graves, pero el empleo de estas tecnologías biométricas sigue generando polémica en cuanto a la protección de datos

Belén Collado
Tiempo de lectura: 3' 16 nov 2022 - 20:31 Actualizado 20:55

La Policía Nacional, la Guardia Civil y el resto de cuerpos de seguridad regionales (excepto la Ertzaintza, ya que su base de datos no está conectada con el resto) pronto tendrán a su disposición una nueva herramienta para combatir el crimen: un sistema automático de reconocimiento facial. Por el momento, el programa ABIS (siglas en inglés de sistema automático de identificación biométrica) se encuentra en fase de pruebas y constituyendo su base de datos, según ha declarado el Ministerio del Interior.

El sistema, desarrollado por la empresa francesa Thales, utiliza inteligencia artificial para identificar a sospechosos en pocos segundos a partir de cualquier imagen. ¿Cómo funciona esto? El programa coteja la imagen introducida por los agentes, sacada por ejemplo de una cámara de seguridad, con las fotografías disponibles en el sistema para buscar coincidencias. En primer lugar, busca y ubica en qué parte de la fotografía hay una cara. A continuación, aplica un algoritmo a ese rostro para obtener un patrón que lo represente y lo distinga de los demás. Los sistemas de inteligencia artificial permiten buscar ese patrón, que es único para cada individuo y que no varía con el paso de los años.

La base de datos con la que contará la herramienta será de unos cinco millones de fotografías de detenidos y sospechosos que ya estaban fichados, según Interior. La idea es que a ese fondo de datos se irán las fotos de quienes sean arrestados desde el momento en el que se empiece a utilizar el sistema. En ningún caso, indican desde la Policía Nacional, se podrán usar registros de bases de datos civiles, como la que contiene las fotografías de los DNI.

Una vez que esté lista esa base de datos, se desplegarán estaciones de trabajo en los servicios centrales de la policía científica para que prueben su uso con casos reales. Interior lleva al menos tres años trabajando en el proyecto, que ha sufrido varios retrasos por culpa de la pandemia, pero parece que todavía quedan meses para que se ponga en marcha oficialmente.

Hasta el momento, la Policía contaba con dos principales herramientas para identificar sospechosos, el análisis de huellas dactilares y el de ADN. El reconocimiento facial abrirá una tercera vía no tan invasiva como las anteriores, ya que no necesita muestras físicas del sujeto. Simplemente con una descripción o alguna imagen será posible iniciar una vía de investigación. De todas formas, no se dependerá únicamente del sistema biométrico para determinar si realmente se trata de un sospechoso o no. Será siempre una persona, y no el ordenador, quien corroborará si hay o no parecido. En un segundo paso, si se quiere validar al candidato para la investigación o su detención, se procederá a hacer un estudio forense, igual que sucedía hasta ahora con las huellas dactilares o el ADN.

El reconocimiento facial ya es habitual en otros países

La aplicación de sistemas automáticos de reconocimiento facial en investigaciones policiales está empezando a calar en Europa. Varios países, como Francia, Holanda o Alemania, han realizado pruebas piloto o ya cuentan con herramientas en uso. Esta tecnología se empezará a usar a principios del año que viene en las fronteras de la UE para registrar solo a los ciudadanos no comunitarios que entren en territorio comunitario. En el Reino Unido se ha dado un paso más y la policía ha colocado furgones con cámaras dotadas con sistemas de reconocimiento facial en las bocas del metro de Londres.

Fuera de las fronteras de Europa, China, sin duda, se lleva la palma en cuanto a avances en el uso de tecnologías biométricas. Las grandes ciudades del gigante asiático están inundadas de cámaras que cuentan con sistemas de reconocimiento facial en vivo capaces de encontrar a cualquier ciudadano en cuestión de horas.

La controversia con este tipo de tecnologías biométricas

En cuanto esté listo el sistema español, se empleará en investigaciones policiales, en un principio solo en el caso de delitos graves. Interior asegura que en ningún caso se usará para el reconocimiento en vivo de personas en espacios públicos.

Precisamente, la Agencia Española de Protección de Datos (AEPD) está en contacto con Interior para estudiar el impacto que podría tener el programa ABIS en materia de privacidad de los datos. La agencia deberá determinar si el tratamiento de este tipo de datos personales supone o no un riesgo tolerable para los derechos y libertades de los ciudadanos. También deberá intentar establecer si la policía puede quedarse para siempre con esos datos faciales o se deben aplicar límites temporales, o quién puede tener acceso a esos datos.

Entre los principales riesgos del uso de estas tecnologías biométricas, está que los algoritmos fallan. Y es que no es lo mismo que se equivoque al recomendarte una película o un restaurante que identificando a un sospechoso. El del estadounidense Robert Williams es el primer caso documentado de detención irregular por culpa de un sistema de reconocimiento facial: la herramienta lo confundió con otra persona y la policía lo detuvo directamente sin comprobar si se parecía al sospechoso.

Escucha en directo COPE, la radio de los comunicadores mejor valorados. Si lo deseas puedes bajarte la aplicación de COPE para iOS (iPhone) y Android.

Y recuerda, en COPE encontrarás el mejor análisis sobre la actualidad, las claves de nuestros comunicadores para entender todo lo que te rodea, las mejores historias, el entretenimiento y, sobre todo, aquellos sonidos que no puedes encontrar en ningún otro lado.


https://www.cope.es/actualidad/tecnolog ... 16_2402360



El algoritmo de reconocimiento facial que entrena la Policía Nacional lleva al límite las líneas rojas del futuro Reglamento de la IA

Alberto R. Aguiar
18 nov. 2022 9:34h.

Esta semana se conocían nuevos detalles de un algoritmo de reconocimiento facial que podrán emplear las policías españolas para identificar sospechosos.
Además de ser objeto de un Reglamento de IA que todavía está bajo debate, la herramienta también contravendría resoluciones de la Eurocámara y resoluciones del Comité Europeo de Protección de Datos.

El Ministerio de Interior está entrenando con millones de fotos de ciudadanos que han sido arrestados un algoritmo llamado ABIS —siglas en inglés de sistema automático de identificación biométrica— que ha hecho saltar todas las alarmas en el mundo de la privacidad y la ética tecnológica.

Este modelo de inteligencia artificial ha sido adquirido a la compañía francesa Thales, contaba hace unos díasEl País. El objetivo del programa es ayudar a policías de toda España —tanto a la nacional como a la Guardia Civil o a cuerpos autonómicos— a identificar sospechosos a partir de cualquier tipo de imagen.

Esta IA de reconocimiento facial funciona como cualquier otra: primero es entrenada con una base de datos de caras. Una vez entrenada, si los agentes necesitan identificar a un "sospechoso", aplican el programa sobre la imagen que tengan —una grabación, por ejemplo— y el algoritmo buscará coincidencias entre los rostros que en ella se vean con los de su base de datos.

De esta manera, la herramienta ofrecerá una serie de resultados en los que presentará varios rostros. Un porcentaje determina si las facciones del rostro que aparece en la imagen coinciden más o menos con esas caras de su base de datos. Si es del 100%, es plausible que la persona grabada sea la dueña del rostro que también esté en la base de datos, y de esta manera es identificada.

Así ponen España, Bruselas y el resto de Europa pies en pared ante los desafíos éticos y sociales que provoca el auge de la inteligencia artificial

Falla el reconocimiento facial con mascarilla
Sin embargo, este tipo de herramientas arrojan también un elevado número de falsos positivos. Tanto, que no solo expertos, sino también organismos públicos, están haciendo un llamamiento a la regulación de esta tecnología.

En 2020, en plena oleada de protestas del Black Lives Matter en EEUU, varios proveedores de esta tecnología anunciaron que paralizaban sus ventas a las fuerzas del orden. IBM, Amazon o Microsoft dejaron de ofrecer esta herramienta hasta que no existiera una regulación sobre ella. Trabajadores de Google exigieron a sus directivos que hiciesen lo propio.

Esto impulsó el debate regulacionista sobre los desafíos éticos de la inteligencia artificial, y la Comisión Europea presentó a mediados del año pasado el borrador de su futuro reglamento en la materia. De forma paralela, el Parlamento Europeo aprobó una declaración sobre el uso de estas herramientas automáticas en manos de las fuerzas y cuerpos de seguridad.

Hoy se da una singularidad: ese futuro Reglamento de la IA que los colegisladores comunitarios negocian se probará en España antes que en cualquier otro país del mundo, gracias a un cajón regulatorio —sandbox— que propuso la Secretaría de Estado de Digitalización e IA. Al mismo tiempo, Interior prepara un algoritmo que podría vulnerar de los preceptos de ese Reglamento.

Al límite del futuro Reglamento de la Inteligencia Artificial
Hay muchos detalles que todavía no se conocen. Por ejemplo, una de las líneas rojas que dibuja el futuro Reglamento de la IA contempla la prohibición de sistemas de reconocimiento biométrico —reconocimiento facial, reconocimiento por huella dactilar, reconocimiento de voz— en espacios de acceso público con un matiz: "en tiempo real".

El futuro Reglamento, sobre el que el Consejo de la Unión Europea tendrá una reunión en unos días para aprobar su versión definitiva —que después se tendrá que negociar con la versión definitiva de la Eurocámara— contempla explícitamente lo siguiente:

"Están prohibidas las siguientes prácticas de IA (...): El uso de sistemas de información biométrica remota "en tiempo real" en espacios de acceso público con fines de aplicación de la ley". Contempla excepciones, la IA podrá ser utilizada en esos ámbitos para la búsqueda de víctimas de un delito, menores desaparecidos, o la prevención de una amenaza o un atentado.

Esas excepciones tendrán en cuenta "la gravedad, probabilidad y magnitud" de la posible amenaza, así como "las consecuencias" que usar la IA tendría "para los derechos y libertades de las personas implicadas".

Interior ha asegurado a El País que "en ningún caso se usará para labores de vigilancia ni para reconocimiento en vivo de personas en espacios públicos". Sin embargo, las dudas son múltiples. La policía también ha aclarado al mismo diario que para entrenar el modelo no se están utilizando las imágenes del DNI de los españoles.

En cualquier caso, la prohibición exclusiva de los sistemas de reconocimiento biométrico en espacios públicos y en tiempo real es algo que todavía está sujeto a debate. Es uno de los puntos calientes de la norma. En los últimos compases de estas conversaciones se reintrodujo el término remoto de la expresión "uso de sistemas de información biométrica remota".

La presidencia eslovena del Consejo eliminó el término al entender que generaba confusión, rememoraEuractiv. Ahora la palabra aparece en el texto en esta versión, entendiendo por remoto que el sistema se usa "a distancia" y que la identificación tiene lugar "sin la activa participación" de la persona.

Hace apenas unos días una decena de eurodiputados y representantes de la coalición Reclaim Your Face —"reclama tu cara", en inglés—, que reúne a 76 ONG, discutieron sobre las amenazas que representan la vigilancia biométrica. La coalición pide la prohibición absoluta de esta tecnología.

Ella Jakubowska, asesora de European Digital Rights (EDRi), una de las asociaciones que integran la coalición, intervino en aquel debate que tuvo lugar en Bruselas. "Hemos visto gente sin hogar e inmigrantes sujetos a vigilancia inteligente que les condena en lugar de ayudarlos". "Aficionados deportivos tratados como delincuentes". "Manifestantes y periodistas reprimidos".

"También sabemos que hay compañías ahora mismo en España, Países Bajos, República Checa y probablemente en más países vendiendo estas tecnologías biométricas, que permiten generar perfiles automáticamente basándose en las emociones y comportamiento, género y rasgos de las personas", denunció.

Una resolución de la Eurocámara contraviene a la policía
Reclaim Your Face no es la única entidad que ha animado a poner coto a esta tecnología que está entrenándose por la policía y el Ministerio de Interior español. La Agencia Española de Protección de Datos (AEPD) conoció las intenciones del Ministerio a mediados de este año, y está ya en contacto con el mismo para definir cuáles son los riesgos de esa tecnología.

El Supervisor Europeo de Protección de Datos —EDPS, la AEPD de las instituciones comunitarias— y el Comité Europeo de Protección de Datos —EDPB, la entidad que aglutina a las agencias nacionales de los estados miembros— ya llamaron hace meses a vetar el uso de estas tecnologías de reconocimiento biométrico en espacios públicos, sin entrar en el concepto de "en tiempo real".

"Teniendo en cuenta los riesgos extremadamente altos que plantea la identificación biométrica remota en personas en espacios de acceso público, el EDPB y el EDPS piden un veto general de cualquier uso de la IA para el reconocimiento automático de rasgos humanos en espacios de acceso público, como reconocimiento facial, huellas dactilares, ADN, de voz, pulsaciones de teclas...".

La Eurocámara se suma al veto de los sistemas de IA policiales para reconocimiento biométrico y vigilancia masiva con una votación no vinculante

Inteligencia Artificial desarrollada
El Reglamento de la IA no es el único documento que llama a contener esta tecnología. El año pasado la Eurocámara adoptó una resolución no vinculante con la que se pedían "fuertes restricciones en el uso de las tecnologías IA por parte de las fuerzas de orden público", según reconoce un documento de seguimiento de dicha resolución consultado por Business Insider España.

Dicha resolución va "más allá de la propuesta de la Comisión" con su Reglamento y "recomienda restringir sustancialmente las posibilidades de que las autoridades policiales y fronterizas usen la IA para la evaluación de riesgos individuales, el análisis del comportamiento en lugares públicos y el uso de controles fronterizos automatizados".

Todo ello lo podrían hacer las Fuerzas y Cuerpos de Seguridad del Estado con el algoritmo que ahora entrena Interior. El departamento de Fernando Grande-Marlaska ha estado bajo el foco de una intensa polémica por las declaraciones que su titular ha hecho en todo momento sobre la presunta violencia en el salto a la valla de Melilla. Ceuta y Melilla tendrán "fronteras inteligentes con IA".

Batería de preguntas a Interior
La noticia de que el Ministerio de Interior y la Policía Nacional están entrenando a este algoritmo ABIS ha sorprendido y llamado la atención de activistas y especialistas en ética tecnológica, pero también a expertos en Protección de Datos. Uno de ellos es Gonzalo Oliver, asesor jurídico en materia de Protección de Datos, Privacidad y Ciberseguridad en OZONIA Consultores.


Oliver ha trasladado una solicitud de información a Interior. Concretamente, una batería de 11 preguntas que se pueden contestar con "sí" y con "no". Son las siguientes:

1. ¿Ha realizado el Ministerio del Interior la Evaluación de Impacto de Protección de Datos previa a la puesta en marcha de este sistema conforme a lo establecido en el artículo 35 del Reglamento General de Protección de Datos 2016/679)?

2. ¿En qué zonas específicas tiene pensado el Ministerio utilizar este tipo de herramienta de Inteligencia Artificial?

3. ¿En qué fecha aproximada tiene pensado el Ministerio del Interior poner en marcha este sistema de reconocimiento facial?

4. ¿Qué tipo de delitos pretende perseguir el Ministerio del Interior en base al uso de esta herramienta de reconocimiento facial?


5. ¿Ha considerado el Misterio del Interior otra medida menos invasiva e intrusiva para los derechos y libertadores fundamentales de los ciudadanos españoles?

6. ¿Este sistema de reconocimiento facial se usará para nacionales españoles y europeos o solo para personas no comunitarias?

7. ¿Ha tenido en cuanta el Ministerio del Interior el Proyecto del Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial (Reglamento de Inteligencia Artificial)?

8. ¿La herramienta utilizada o desarrollada es propia o de un tercero?

9. En caso de que sea de un tercero, ¿tendrá ese tercero acceso a la base de datos o solo la tendrá el Ministerio del Interior?


10. ¿Tiene pensado el Ministerio del Interior esperar a la aprobación definitiva del Proyecto del Reglamento en materia de Inteligencia Artificial (Reglamento de Inteligencia Artificial) para aplicarlo en el territorio nacional?

11. ¿En qué fecha se ha puesto en contacto el Ministerio del Interior con la Agencia Española de Protección de Datos para solicitar el Informe sobre el uso de esta herramienta?


https://www.businessinsider.es/algoritm ... ia-1157085

Re: Así funciona la nueva herramienta de reconocimiento faci

NotaPublicado: Sab, 19 Nov 2022, 10:00
por bur
Cuchillos Serie Policia

Police-air force-swat
militariapiel.es
Igual que hubo un tiempo en el que los malos iban sin guantes, hasta que las huellas dactilares les delataban, ahora irán con mascarilla (o pasamontañas, pero eso llama más la atención) para burlar el reconocimiento facial....

Re: Así funciona la nueva herramienta de reconocimiento faci

NotaPublicado: Lun, 28 Nov 2022, 18:47
por SEBASTIÁN

Re: Así funciona la nueva herramienta de reconocimiento faci

NotaPublicado: Lun, 28 Nov 2022, 23:49
por McN