Investigación de Anthropic sobre un sistema de código abierto que demuestra criptográficamente qué modelo de IA respondió realmente(techcrunch.com)

- Según la fuente, Anthropic está desarrollando FlashProve, un sistema de código abierto que comprueba de qué modelo de IA procede un resultado específico. El objetivo es usar una prueba criptográfica para confirmar si la respuesta que recibe un usuario proviene del modelo que cree estar utilizando. - La fuente explica que podría servir para evitar que las empresas de IA cambien en secreto a modelos más baratos para reducir costos, o que usen modelos más caros para inflar las cifras de rendimiento. Esto es un posible uso sugerido por los investigadores y no un caso real confirmado. - El método consiste en publicar una huella digital (fingerprint) de cada modelo al lanzarlo, sin revelar los pesos. Después, los resultados se comparan criptográficamente con esa huella. La fuente indica que el sistema se diseñó para ser ligero, de modo que pueda verificarse incluso en dispositivos personales. - Parte de la especificación técnica y del código de funcionamiento se publicó en GitHub con una licencia abierta. La fuente indica que la investigación está en una etapa intermedia y que no hay planes de desplegarla en Anthropic ni en otros laboratorios.