Un modelo pequeño para preguntas de rutina, y dónde lo detenemos
La mayoría de las preguntas en un flujo de documentos son pequeñas. Jev las responde en aproximadamente medio segundo, para los equipos que lo activan, y solo decide cuando tiene una confianza de al menos 0,9. Qué ve, dónde se ejecuta y qué no tiene permitido hacer.
Antes de que algo cambie en su portafolio, se hacen muchas preguntas pequeñas. ¿Este adjunto es un capital call, un informe de fondo o ninguno de los dos? ¿Este titular trata de la empresa que usted sigue o de otra con un nombre parecido? ¿A cuál de sus propias cuentas de gasto corresponde este comprobante?
Un modelo de lenguaje grande responde bien a todo esto. También es más lento de lo que la pregunta amerita, y en nuestra plataforma cada llamada consume créditos de su equipo. Por eso, para los equipos que lo activan, estas preguntas ahora van primero a Jev. Jev es un modelo de decisión de TypeSafe AI. Elige una respuesta de una lista fija e indica qué tan seguro está.
Más rápido, y más económico donde decide
Una respuesta de Jev llega en aproximadamente medio segundo. Si Jev está lo bastante seguro, su respuesta se mantiene y el modelo grande no se llama en ese paso. Un documento entrante que Jev clasifica no consume créditos por la clasificación. Lo mismo vale para un lote de titulares que Jev descarta por completo.
Cuando Jev no está seguro, nada cambia: decide el modelo en la UE, exactamente como antes. En el peor caso, esto cuesta medio segundo adicional.
La regla del 0,9
"Lo bastante seguro" es un número. En los documentos entrantes, la respuesta de Jev solo cuenta con una confianza de 0,9 o más. Esto aplica tanto cuando acepta un documento como informe de fondo o capital call como cuando lo descarta por no ser relevante.
Elegimos ese número así: volvimos a pasar por Jev 129 cargas anteriores de dos equipos y comparamos sus respuestas con el destino real de cada documento.
- Jev clasificó correctamente cada informe de fondo y cada capital call que respondió.
- Cada error fue un estado de préstamo o de intereses que Jev tomó por un informe de fondo. El más seguro de ellos obtuvo 0,79.
- Jev nunca descartó un documento real.
- Con 0,9, Jev decide 108 de los 129 documentos. Los otros 21 van al modelo en la UE.
Aceptar y descartar tienen umbrales separados, porque los dos errores cuestan cosas distintas. Una aceptación equivocada importa algo que usted borra. Un descarte equivocado puede hacer perder un capital call con fecha límite. Hoy ambos están en 0,9. El umbral para descartar no bajará del umbral para aceptar, porque en la prueba hubo pocos documentos no relacionados.
Es una muestra pequeña de dos equipos, y no la presentamos como más que eso. Basta para fijar un umbral prudente. La comparación sigue en la aplicación, así que podemos repetirla con documentos nuevos.
El mismo patrón, sin el error costoso
Cada uso de Jev tiene su propia regla, construida alrededor del error que más daño haría ahí:
- Cargas con un nombre de archivo vago. "Scan_0412.pdf" quedaba sin clasificar, y un capital call nunca llegaba a la extracción. Con 0,9 o más, Jev ahora puede fijar el tipo, pero solo capital call o informe de fondo, y nunca por encima de un tipo que eligió una persona.
- Comprobantes. Jev propone una cuenta de gasto con 0,8 o más, y solo del plan de cuentas propio de su libro. Nunca contabiliza nada. Las nóminas nunca se le envían.
- Noticias. Jev solo puede descartar un titular, y solo cuando tiene al menos un 90 % de certeza de que trata de otra empresa. Todo titular que podría ser relevante sigue yendo al modelo en la UE.
- Ediciones en la cuadrícula. Si un cambio parece inusual, Jev agrega una nota informativa. Nunca bloquea el guardado y ve las filas solo como "fila 1", "fila 2", sin nombres.
Qué ve Jev, y dónde
Le recomendamos leer esta parte con atención, porque aquí Jev se aparta del resto de nuestro procesamiento.
- Jev se ejecuta en Estados Unidos. Lo llamamos en TypeSafe AI, Inc. a través de Vercel AI Gateway. Cada solicitud está fijada a TypeSafe y no va a ningún proveedor que conservaría los datos. TypeSafe aún no tiene una región en la UE.
- Solo recibe texto enmascarado. Jev ve como máximo los primeros 8.000 caracteres de un documento, con marcadores en lugar de los nombres de su directorio. Nunca recibe el archivo ni el nombre del archivo. Los escaneos sin capa de texto no se envían.
- Está desactivado por defecto, para cada equipo. Un propietario o un administrador del equipo lo activa en la configuración del equipo y acepta a TypeSafe como subencargado. Cada cambio queda en el registro de auditoría de su equipo. Solo nuestro servidor puede cambiar esta configuración.
- La extracción sigue en la UE. Jev responde preguntas de rutina; no lee cifras de sus documentos. Cada documento que se conserva se sigue convirtiendo y leyendo en la UE, como se describe en cómo funciona.
TypeSafe AI, Inc. figura con nuestros demás subencargados en la página de seguridad.
Lo que Jev no hace
No extrae cifras, no contabiliza nada y no decide que una noticia es relevante. No ve un documento que no tiene permitido ver, y no se ejecuta para un equipo que no lo activó. Si falla, tarda demasiado o no está seguro, el trabajo vuelve al camino que seguía antes de Jev.
Esa es toda la idea. Un modelo pequeño y rápido resuelve los casos claros. Todo lo demás va a un modelo más lento que solo se ejecuta en la UE, y entre ambos hay un umbral cuya elección le podemos mostrar.