La empresa tecnológica Anthropic presentó FlashProve, un nuevo sistema de código abierto que permite verificar si una respuesta fue generada por un modelo específico de inteligencia artificial (IA), con el objetivo de ofrecer mayor transparencia a los usuarios, empresas y evaluadores que utilizan estas tecnologías.
La compañía explicó que la herramienta se encuentra en fase de investigación y utiliza un procedimiento denominado inferencia demostrable, que consiste en generar una prueba criptográfica para confirmar que el modelo utilizado corresponde al seleccionado por el usuario. Este mecanismo busca evitar dudas sobre la procedencia de las respuestas, especialmente cuando los servicios de inteligencia artificial son proporcionados por terceros.
«Cuando un usuario envía una consulta a un modelo de IA, hoy no tiene forma de saber a ciencia cierta que el modelo que ha seleccionado es el que generó la respuesta», explicó Anthropic. La empresa reconoció que esta situación «no es preocupante» en la mayoría de las consultas, pero puede representar un problema para quienes necesitan comprobar la autenticidad de los resultados.
La tecnológica destacó que el sistema puede beneficiar principalmente a los evaluadores independientes, quienes necesitan confirmar que están examinando el modelo correcto antes y después de su implementación. También está dirigido a clientes que contratan servicios de inteligencia artificial mediante plataformas intermediarias y buscan asegurarse de recibir exactamente el servicio por el que pagaron.
«El objetivo de la ‘inferencia demostrable’ es permitir que un usuario con recursos computacionales limitados y sin información sobre los pesos pueda verificar que una respuesta provino del modelo solicitado», señaló Anthropic. Los pesos son parámetros internos que determinan el funcionamiento de un modelo de inteligencia artificial y que, en los sistemas más avanzados, generalmente permanecen bajo control privado de sus desarrolladores.
FlashProve utiliza una tecnología criptográfica conocida como argumento sucinto de conocimiento cero, mediante la cual el proveedor entrega una prueba digital junto con la respuesta generada. Esta evidencia permite comprobar el origen del contenido sin revelar los parámetros internos del modelo, lo que protege la información técnica de las empresas desarrolladoras.
Según los datos compartidos por Anthropic, el prototipo puede generar pruebas criptográficas utilizando una sola tarjeta gráfica H100, con una capacidad de procesamiento de 110 unidades de texto, conocidas como tokens, por segundo. Cada prueba ocupa aproximadamente 19 megabytes por cada paquete de 1,024 unidades, lo que facilita su transmisión por internet y permite verificarla en segundos desde una computadora convencional, incluso sin conexión a servidores externos.
La compañía considera que esta tecnología podría contribuir a fortalecer la seguridad y la confianza en los servicios de inteligencia artificial, además de proporcionar nuevas herramientas para auditores y organismos reguladores. Anthropic sostuvo «que este progreso tiene implicaciones significativas para la seguridad, el ritmo de desarrollo de la IA, la garantía de integridad para los clientes de IA, la facilitación de herramientas para auditores y reguladores, entre otros aspectos».
