El entrenamiento de los modelos de lenguaje depende en gran medida de la calidad de los textos con los que se alimentan. Un conjunto de datos ruidoso o mal transcritos introduce errores que se propagan a la hora de generar respuestas, traducir o razonar. Por ello, la comunidad de IA ha puesto el foco en buscar fuentes de datos más limpias y precisas, especialmente cuando se trata de corpora históricos que pueden contener variaciones tipográficas, faltas de ortografía y problemas de escaneado.

FineBooks, una iniciativa conjunta entre Hugging Face y EleutherAI, realizó una prueba exhaustiva con 14 modelos de OCR de código abierto sobre más de 2.000 páginas de libros antiguos. El modelo que obtuvo la mayor precisión fue dots.mocr, que alcanzó un 97,6 % de exactitud de caracteres y un coste inferior a dos dólares por cada mil páginas, lo que lo sitúa dentro del rango aceptable para la generación de datos de entrenamiento masivo.

Sin embargo, el equipo advierte que esa precisión, aunque suficiente para entrenar IA a gran escala, no cumple los requisitos de transcripciones académicas, donde se demandan niveles de exactitud cercanos al 100 % y una mínima distorsión de mayúsculas, minúsculas y acentos. Los documentos históricos suelen presentar fuentes góticas, tipografías variables y errores de alineación que dificultan la obtención de una representación fiel del texto original.

El coste de dos dólares por mil páginas también es un factor a considerar en proyectos de gran envergadura. Para entrenar modelos con cientos de millones de ejemplos, la diferencia entre un 97 % y un 99 % de precisión puede traducirse en millones de correcciones manuales, lo que impacta tanto en el tiempo de desarrollo como en los recursos financieros.

Este escenario se inscribe dentro del creciente desafío de digitalizar patrimonios culturales. Mientras que servicios comerciales como Google Vision o Microsoft Azure ofrecen OCR de alta calidad a precios elevados, la comunidad de código abierto busca alternativas que combinen bajo costo con precisión suficiente para investigadores y editores. La falta de un estándar abierto que garantice tanto la exactitud como la reproducibilidad complica la creación de datasets fiables para entrenar modelos multilingües.

FineBooks planea mitigar esas limitaciones mediante la publicación de un dataset curado que combine imágenes de alta resolución con transcripciones verificadas por expertos. Además, la iniciativa fomenta la fine‑tuning de los modelos OCR existentes, permitiendo que la comunidad ajuste los algoritmos a los retos específicos de textos antiguos, como la detección de ligaduras o la normalización de variantes regionales.

La relevancia de este trabajo trasciende la mera mejora de la OCR. Al ofrecer datos más precisos, se reducen los sesgos que aparecen cuando los modelos aprenden de textos mal transcritos, lo que se traduce en sistemas de generación de lenguaje más coherentes y menos propensos a reproducir errores históricos. Para regiones con idiomas minoritarios, como el gallego o el asturiano, una transcripción fiable es esencial para preservar su patrimonio lingüístico y facilitar su inclusión en los modelos de IA.

En conclusión, FineBooks demuestra que la combinación de OCR de precisión razonable y un enfoque colaborativo puede acercar a la comunidad de IA a la meta de entrenar con datos de calidad académica, sin sacrificar la accesibilidad económica. Este avance abre la puerta a futuros proyectos que, partiendo de modelos libres, generarán corpora limpias para todo tipo de lenguas, reforzando la capacidad de la IA para comprender y generar contenido con matices culturales y lingüísticos propios de cada región.