Capital Fund Management (CFM), con sede en París y activos bajo gestión de 15.500 millones de dólares, buscó mejorar el reconocimiento de entidades financieras en titulares de noticias.

Estrategia de etiquetado asistido por LLM y fine-tuning

Utilizando Llama 3.1-70B a través de Hugging Face Inference Endpoints, CFM generó etiquetas preliminares para un conjunto de 900.000 titulares de Benzinga, las cuales fueron revisadas manualmente en Argilla.

Tras curar una muestra de 2.714 ejemplos, se probaron modelos zero-shot como GLiNER y SpanMarker, obteniendo F1 de 87% y 47% respectivamente.

Tras aplicar fine-tuning en un GPU A10, GLiNER alcanzó 93,4% de F1 y SpanMarker 90,1%, acercándose al rendimiento de Llama 3.1-70B (92,7%) pero con un costo de inferencia hasta 80 veces menor.

• Costo de inferencia Llama 3.1-70B: ~8 $/hora
• Costo de modelos compactos: ~0,10 $/hora en CPU
• Reducción de gasto: hasta 80×