San Francisco prohíbe la tecnología de reconocimiento facial
RACHEL METZ
SAN FRANCISCO - San Francisco, una de las ciudades más respetuosas con la tecnología y más inteligentes del mundo, es ahora la primera en los Estados Unidos que prohíbe a su gobierno usar tecnología de reconocimiento facial.
La prohibición es parte de una ley contra la vigilancia más amplia que la Junta de Supervisores de la ciudad aprobó el martes. Ocho de los 11 supervisores de la junta votaron a favor. La ordenanza, que prohíbe el uso de la tecnología de reconocimiento facial por parte de la policía y otros departamentos gubernamentales, también podría alentar a otros gobiernos locales a tomar medidas similares.
Los sistemas de reconocimiento facial son usados cada vez más en todas partes, desde departamentos de policía hasta conciertos de rock, hogares, tiendas y escuelas. Éstos están diseñados para identificar personas en específico a través de videos en vivo, grabaciones de video, fotografías, que frecuentemente se comparan con una serie de rostros (fotografías de arresto, por ejemplo).
La norma propuesta en San Francisco prohíbe el uso de la tecnología de reconocimiento facial a los 53 departamentos de la ciudad, incluyendo al Departamento de Policía de San Francisco, que no usan la tecnología actualmente, pero sí la probaron entre 2013 y 2017. Sin embargo, el decreto considera una excepción a las instalaciones bajo control federal como el aeropuerto y el puerto de San Francisco. El decreto no evita que los negocios o residentes utilicen el reconocimiento facial o la tecnología de vigilancia en general por ejemplo en sus cámaras de seguridad privadas. Tampoco limita a la policía de, digamos, utilizar las grabaciones de una cámara Nest de una persona para ayudarse en un caso criminal.
"Todos apoyamos el buen trabajo policial, pero ninguno quiere vivir en un estado policial”, dijo a CNN el supervisor Aaron Peskin de San Francisco que introdujo el proyecto de ley a principios de este año.
El decreto agrega más combustible al fuego que rodea a la tecnología de reconocimiento facial. A la vez que la tecnología se vuelve más popular, se ha puesto bajo un escrutinio de seguridad mayor mientras crecen las preocupaciones sobre su implementación, certeza e incluso el origen de los rostros que son utilizados para entrenar a los sistemas.
En San Francisco, Peskin está preocupado porque la tecnología es “tan fundamentalmente invasiva” que no debería ser utilizada.
"Creo que San Francisco tiene una responsabilidad de hacerse escuchar sobre las cosas que afectan al mundo entero que están sucediendo en nuestro patio”, dijo.
Leyes prematuras para el reconocimiento facial
El reconocimiento facial ha mejorado dramáticamente en años recientes debido a la popularidad de una poderosa forma de aprendizaje autónomo llamada deep learning. En un sistema típico, los rasgos faciales son analizados y comparados con rostros etiquetados en una base de datos.
Pero los investigadores de inteligencia artificial y grupos defensores de derechos civiles como el American Civil Liberties Union (ACLU, por sus siglas en inglés) están particularmente preocupados por la certeza y sesgo de los sistemas de reconocimiento facial. Existen preocupaciones sobre que no sean tan efectivos para reconocer correctamente a las personas “de color” y mujeres. Uno de los motivos de ello es que las bases de datos utilizadas para entrenar al software pueden ser exageradamente masculinas y blancas.
El ACLU es uno de muchos grupos de defensoría de los derechos civiles que apoyan al decreto. Matt Cagle, abogado experto en tecnología y derechos civiles del ACLU del norte de California dijo que la serie de problemas presentados por los sistemas de reconocimiento facial implican que la legislación propuesta por la ciudad podría prevenir el daño a los miembros de la comunidad. Él también espera que, de ser aprobada, incite a que otras ciudades sigan sus pasos.
Lee: Facebook enfrenta una demanda por su herramienta de reconocimiento facial
"Deberíamos poder vivir nuestras vidas sin que el gobierno monitoree y rastree todos nuestros movimientos”, dijo a CNN.
Actualmente no existen leyes a nivel federal que gestionen el uso de la inteligencia artificial, en general, o los sistemas de reconocimiento facial en particular, si bien una propuesta de ley presentada al senado estadounidense en marzo exigiría a las empresas a obtener el consentimiento de los usuarios antes de recolectar y compartir su información personal.
Algunos estados y gobiernos locales han realizado sus propios esfuerzos: Illinois, por ejemplo, cuenta con una ley que exige a las empresas a obtener el consentimiento de los clientes antes de recolectar información biométrica. El senado de California está considerando actualmente un proyecto de ley que prohibiría el uso de tecnología biométrica, tal como el reconocimiento facial a partir de grabaciones, a la policía del estado.
En el área de la Bahía de San Francisco, Berkeley, Oakland, Palo Alto y el condado de Santa Clara (del que forma parte Palo Alto) han adoptado sus propias leyes de tecnología de vigilancia. Oakland también está considerando si prohibir la tecnología de reconocimiento facial.
Cómo podría ser más dura la vigilancia en San Francisco
Bajo la ley propuesta en San Francisco, cualquier departamento que quiera usar tecnología o servicios de vigilancia (como si el departamento de policía estuviera interesado en adquirir nuevos lectores de placas, por ejemplo) primero necesitará la aprobación de la Junta de Supervisores. Este proceso incluirá presentar información sobre la tecnología y su uso en conjunto con una audiencia pública. Con la regla propuesta, cualquier departamento de la ciudad tendrá que decirle a la junta cómo es utilizada cualquier tecnología de vigilancia.
"Este decreto en realidad es sobre asegurarse de que, de haber programas de vigilancia, la comunidad tenga una voz y sea parte de las negociaciones”, dijo Cagle.
El decreto también establece que la ciudad tendrá que reportar a la Junta de Supervisores cada año si se están usando equipos y servicios de vigilancia en los modos para los que fueron aprobados e incluir detalles sobre qué información fue almacenada, compartida o eliminada.
En un comunicado, el Departamento de Policía de San Francisco dijo que “espera” trabajar con los supervisores de la ciudad, el ACLU y otros para desarrollar leyes que hablen sobre las preocupaciones relacionadas con la tecnología a la vez que "balanceen las preocupaciones sobre la seguridad de nuestra ciudad internacional en crecimiento”.
Recomendamos: ¿Pagar por medio de reconocimiento facial? En China ya es posible
"De acuerdo con la legislación, estamos en proceso de auditoría de nuestras tecnologías y políticas relacionadas”, afirma el comunicado.
La oposición enérgica
Algunos locales se han opuesto enérgicamente al decreto sobre vigilancia, incluyendo a varios grupos de residentes. Frank Noto, presidente de Stop Crime SF, un grupo enfocado en la prevención del crimen dijo que su organización reconoce las preocupaciones de privacidad y derechos civiles que pueden haber derivado en la introducción del decreto, pero la ve como una legislación fallida pues requiere que el departamento de policía obtenga la aprobación de la ciudad antes de obtener la tecnología de vigilancia.
Y, si bien Stop Crime SF reconoce las carencias de la tecnología de reconocimiento facial existente, también le preocupa su prohibición total. Noto sugirió que un cese programado de su uso, digamos por dos años, sea una mejor opción.
"La idea de prohibirlo para siempre no tiene sentido para nosotros”, dijo.
