Otro nuevo punto aborda "cualquier aplicación policial a nivel global" y prohíbe explícitamente el uso de "tecnología de reconocimiento facial en tiempo real" en cámaras móviles, como cámaras corporales y dashcams, para intentar identificar a una persona en entornos "sin control, en la naturaleza".
El medio especializado Techcrunch reportó que los cambios en la política llegan una semana después de que Axon, un fabricante de productos tecnológicos y armas para militares y fuerzas del orden, anunciara un nuevo producto que aprovecha el modelo de texto generativo GPT-4 de OpenAI para resumir audio de cámaras corporales.
Los críticos señalaron rápidamente posibles problemas, como alucinaciones, es decir, errores en el modelo sin que el usuario esté enterado, hasta prejuicios raciales introducidos desde los datos de entrenamiento. Esto es especialmente preocupante dado que se han reportado numerosos casos donde las personas de ciertas etnicidades, como la africana o latina, tienen muchas más probabilidades de ser detenidas por la policía.
No está claro si Axon estaba utilizando GPT-4 a través del Servicio Azure OpenAI, y, según el medio especializado, de ser así, si la política actualizada fue en respuesta al lanzamiento de este producto.
