¿Qué es Claude, la IA de Anthropic?
Otra de las propuestas interesantes en el área de las IA es Anthropic, una empresa que ha investigado con el fin de ampliar el alcance de la tecnología. Por ejemplo, uno de sus propósitos es ampliar el contexto que ofrece en cada una de sus respuestas. Según un documento, su máximo hito hasta ahora ha sido de unas 75,000 palabras.
Tal cantidad de palabras es suficiente para procesar una novela como El gran Gatsby en una única respuesta y es relevante, de acuerdo con la empresa, debido a que mejorará la calidad de las respuestas que da, además de que generará contenido con una mayor velocidad.
Otra de las principales características de Claude es la ética con la que trabaja, pues Anthropic generó una Constitución para que sus respuestas sean más seguras y útiles, ya que durante su entrenamiento, el modelo revisa sus propias respuestas con base en un conjunto de principios que le permiten determinar la respuesta más inofensiva.
Esta es una de las propuestas más relevantes hacia las críticas que han recibido modelos como ChatGPT o Bard, de Google, respecto a que reproduce contenido racista o machista o bien están entrenados a partir de sesgos.
Anthropic resaltó que esta Constitución también se basa en una serie de fuentes para garantizar las mejores prácticas de confianza y seguridad, como la Declaración de los Derechos Humanos de la ONU o bien profundas investigaciones de otras empresas en el campo.
Asimismo, la compañía también dijo que están buscando capturar perspectivas y principios no occidentales para nutrir sus reglas de uso, además de actualizar algunos valores que no estaban incluidos en los documentos de la ONU, como la privacidad de los datos o la suplantación de la identidad en línea.
