Anthropic presentó FlashProve, un prototipo que busca permitir a usuarios y evaluadores comprobar qué modelo de inteligencia artificial produjo una respuesta. La propuesta, difundida por Infobae este 4 de noviembre, fue publicada por la empresa el día 2 y todavía pertenece al ámbito de la investigación.
El problema que intenta resolver aparece cuando una persona utiliza un chatbot a través de un servicio intermediario: leer una respuesta convincente no alcanza para comprobar que se usó el modelo anunciado.
Según el informe técnico, el proveedor primero registra una huella digital de los parámetros del modelo. Después genera una prueba criptográfica que permite contrastar una consulta y su resultado con esa huella. Quien verifica no necesita conocer los parámetros privados ni disponer del mismo equipamiento que ejecutó el modelo.
La diferencia importa: FlashProve verifica el cálculo realizado bajo condiciones definidas. No permite pegar cualquier texto de internet y descubrir automáticamente su autor. Tampoco certifica que la información contenida en una respuesta sea verdadera.
Por ahora existen límites importantes. El prototipo trabaja con contextos de hasta 1.024 tokens, las unidades en que los modelos procesan el texto. Además, está preparado para una arquitectura específica y una modalidad de cálculo que no cubre todas las formas habituales de generar respuestas.
Anthropic probó el sistema con Llama 4 Maverick. En sus mediciones, producir las pruebas demandó entre 70 y 95 veces más tiempo de GPU que procesar las consultas con vLLM, una herramienta de ejecución de modelos. Es un costo que condiciona su aplicación masiva.
El código quedó abierto para investigación y mejoras. La propuesta apunta a fortalecer las auditorías de sistemas de IA, pero no fue anunciada como una función disponible en todos los chatbots.
Fuentes: Infobae; presentación oficial de Anthropic; informe técnico de FlashProve.
La noticia también está publicada en Facebook de Equis San Pedro.