Si la regulación es el nuevo requisito no funcional para el software moderno, entonces los datos utilizados para entrenar estos sistemas son la materia prima que debe ser auditada en cuanto a calidad, origen e integridad estructural. En Ambiente Ingegneria, a menudo hemos discutido cómo el entrenamiento de la IA requiere la misma precisión métrica y los mismos «muros de carga» éticos que la ingeniería civil. Hoy, sin embargo, somos testigos de un choque fundamental entre dos filosofías opuestas sobre cómo «alimentamos» a la máquina: el Modelo de Extracción y el Modelo Soberano.
Imagine la frustración de una artista como SZA al descubrir que más de 200 de sus canciones fueron ingeridas en un conjunto de entrenamiento sin su consentimiento, un proceso que ella describió como «asqueroso». Simultáneamente, la Comisión Europea está lanzando una licitación para siete «gigafactorías» de potencia de cálculo para escapar de la dependencia tecnológica de EE. UU. y Asia. Estas no son noticias aisladas; representan una bifurcación en el camino para la industria.
El Modelo de Extracción, que dominó la primera ola de la IA, prioriza el volumen sobre la procedencia. Al rastrear la web abierta de forma indiscriminada, crea herramientas que son potentes pero que a menudo conllevan sesgos «degenerativos». Estudios recientes muestran que los chatbots entrenados de esta manera exhiben críticas políticas sesgadas, siendo a menudo más restrictivos con los líderes occidentales que con los autoritarios. Para un estudio de ingeniería, este enfoque es el equivalente a construir un rascacielos con acero no certificado; se puede alcanzar la altura deseada, pero la integridad estructural es una apuesta. Este «salvaje oeste» de los datos también alimenta la propagación de información no verificada y noticias falsas, algo a lo que nos oponemos activamente.
En contraste, el Modelo Soberano —respaldado por las nuevas licitaciones de infraestructura de la UE y los recientes decretos sobre IA del gobierno italiano— trata el entrenamiento como un proceso controlado y transparente. Esta filosofía se alinea con el marco «Magnifica Humanitas» propuesto por el Papa León XIV, que aboga por una IA que sirva a la dignidad humana en lugar de ser solo potencia bruta de procesamiento.
En Ambiente Ingegneria, creemos que el futuro de las soluciones integradas de Machine Learning reside en este segundo camino. Ya sea que estemos desarrollando reconocimiento de imágenes para uso industrial o asistentes basados en RAG para el ERP Odoo, priorizamos el análisis riguroso de las bases de datos. No nos limitamos a dar un «prompt» a una caja negra; analizamos las estructuras SQL/NoSQL subyacentes para asegurar que el entrenamiento refleje una «verdad de base» (ground truth). Al adherirnos a los estándares internacionales y al sistema métrico de unidades para el seguimiento del rendimiento, garantizamos que nuestras soluciones de IA sean tan fiables como los edificios que diseñamos. La elección es clara: podemos heredar los sesgos de una extracción global de datos o construir sistemas sobre la base sólida de una ingeniería soberana y ética.