Los Juegos Olímpicos de París introdujeron un sistema que podría considerarse de vigilancia masiva, según la regulación europea: era capaz de identificar a las personas con reconocimiento facial. Algunas asociaciones alertaron sobre sus peligros, principalmente relacionados con la privacidad y los sesgos: es decir, que la IA discrimine por cuestiones de género, raza o edad, entre otros.

Sin embargo, ya existen muchas iniciativas que han comenzado a desarrollar sistemas, más o menos sofisticados, para integrar IA en la videovigilancia sin traspasar esa línea. En estos casos, las cámaras se entrenan para "la detección de patrones y movimientos sospechosos en la zona protegida, la clasificación de objetos y la notificación al equipo de seguridad", según explica Ignacio González, responsable de BauWatch España, una de las empresas que desarrolla esta tecnología.

En su caso se han centrado en aplicar este tipo de soluciones en el sector de la construcción, especialmente "vulnerable a riesgos relacionados con la seguridad, como el robo de materiales, actos de vandalismo y peligros laborales". También es un sector que normalmente necesita vigilar espacios muy grandes, a veces aislados del núcleo urbano.

Uno de los retos más primordiales es precisamente entrenar los algoritmos para garantizar que son imparciales y equitativos, según incide González. Por eso se centran en la "detección de la actividad humana", sin entrar en valorar atributos personales de las personas. Sin embargo, también reconocen que todavía hay margen de mejora en este ámbito: "Podrían surgir sesgos debido a las condiciones en las que se produce la detección, como lugares grandes o pequeños, de día o de noche, entornos despejados o desordenados".

En esta línea, se someten a auditorías para "identificar y corregir posibles sesgos" y también consultan a "expertos en ética de la IA". Para cumplir con la normativa, España obliga a "procesar los datos en servidores locales", para evitar así que las imágenes viajen a la nube. Además, la normativa de protección de datos obliga también a encriptar los datos.

Según indica González, su sistema es más eficiente y produce menos errores que un vigilante humano: "La IA puede detectar patrones y anomalías con una precisión mucho mayor que el ojo humano". Además, no se agota ni se distrae. Pero, aún así, su sistema está conectado a un equipo de seguridad que debe validarlo y "tomar acciones inmediatas".

Por lo tanto, los vigilantes continuarán siendo imprescindibles, aunque sus tareas se vean reducidas a la actuación puntual cuando sea detectada una actividad anómala a través de las cámaras.

Suscríbete a las newsletters de Informativos Telecinco y te contamos las noticias en tu mail. 

Síguenos en nuestro canal de WhatsApp y conoce toda la actualidad al momento.