Cámaras de seguridad con IA: ¿Cuáles son los riesgos?

Francia.

Hay cámaras que parecen comunes, de seguridad, pero hay nuevas que están equipadas con un sistema de videovigilancia automatizada, y esto se encuentra en pruebas o incluso en funcionamiento en muchos países. No son monitoreadas por un agente de seguridad humana, sino por inteligencia artificial entrenada para detectar patrones inusuales: el movimiento de una multitud, una persona tirada en el suelo, un auto yendo en sentido contrario, el inicio de un incendio. Entonces alerta a la policía que decide intervenir o no. 

A diferencia de un humano, la IA proporciona un monitoreo continuo y con muchas cámaras al mismo tiempo. Pero grupos de defensa de derechos humanos están preocupados por la videovigilancia automatizada. La misma tecnología, con una simple opción adicional, es capaz de reconocer rostros y así identificar a las personas. Con esta opción y una referencia cruzada con archivos policiales, puede convertirse en una herramienta de vigilancia masiva. 

En el sector privado puede usarse para combatir los hurtos en tiendas, pero también para publicidad dirigida u observar el comportamiento de los clientes en los comercios.

Los grupos de defensa de derechos temen que la IA desarrolle sesgos. Si se controla mal podría aprender a reproducir discriminación o identificar comportamiento inusual pero inofensivo como sospechoso.