Anthropic está desarrollando una solución que podría certificar, con una prueba criptográfica, cuál modelo de inteligencia artificial produjo una respuesta concreta. El proyecto, denominado FlashProve, busca abordar un dilema que hasta ahora no tenía solución: ante una consulta a una IA, no existe una forma fiable de saber si la respuesta provino del modelo elegido o de otro distinto.
La empresa dio a conocer la iniciativa a través de una publicación técnica, acompañada de la liberación del código, un informe detallado y pruebas formales bajo licencia de código abierto. Sus investigadores señalan que se trata de un “avance intermedio” y no de una herramienta terminada ni lista para uso en producción.
Hoy, cuando se envía una consulta a un modelo de IA, no hay una manera directa de confirmar el origen de la respuesta. El resultado podría haber sido generado por un modelo diferente, más económico o incluso manipulado por terceros para obtener beneficios.
FlashProve propone generar una prueba verificable que indique, de forma inequívoca, que la respuesta fue producida por el modelo vinculado a una huella digital publicada previamente, sin revelar los datos internos del sistema. En la práctica, funciona como una firma digital: permite constatar el origen de un mensaje sin exponer información confidencial del modelo o de su fabricante.
La iniciativa identifica varios escenarios en los que la verificación resulta necesaria. Evaluadores independientes que prueban modelos antes y después de su disponibilidad pública buscan garantizar que analizan exactamente el mismo sistema. Por otro lado, clientes que contratan un modelo a través de un intermediario quieren verificar que reciben respuestas del modelo por el que pagaron, y no de una versión sustituida sin aviso. Un tercer caso es la detección de manipulaciones externas: si un atacante compromete un servidor y genera respuestas haciéndose pasar por un modelo legítimo, el usuario podría no detectarlo analizando solo el resultado final.
La base técnica de FlashProve se apoya en el “argumento sucinto de conocimiento cero” (zkSNARK, por sus siglas en inglés). En términos simples, este recurso permite demostrar a otra parte que se realizó un cálculo concreto sin revelar los detalles internos del proceso.
El esquema propone dos etapas. En la primera, el proveedor del modelo publica una huella digital de sus pesos —los valores internos que definen el comportamiento del sistema— sin exponer esos pesos, que siguen siendo un activo valioso para empresas como Anthropic y OpenAI. En la segunda, cada vez que el modelo responde, se adjunta una prueba corta que certifica que esa respuesta provino del modelo asociado a la huella publicada. El destinatario puede verificar la validez de esa prueba en cuestión de segundos, incluso desde dispositivos comunes.
