La implementación de la Inteligencia Artificial (IA) se va ampliando y cada vez impacta en más sectores de la población. Es así como el desarrollo de la tecnología debe hacerse desde un enfoque ético, especialmente cuando se trata de dispositivos orientados a niños.
Uno de los riesgos principales es la posibilidad de que los datos de los niños se vulneren a través de campañas maliciosas o por brechas en los dispositivos. Si bien Amazon ha mejorado en este aspecto, hace unos años estuvo en el centro de la polémica por sus ligeras protecciones de privacidad.
Otro caso de vulnerabilidad tiene que ver con YouTube Kids, plataforma en la que se han colado videos relacionados a caricaturas infantiles, pero con escenas violentas que no correspondían al contenido infantil. Su algoritmo para crear subtítulos automáticamente ha tenido un problema similar, pues insertó lenguaje explícito en los videos.