Si la “brecha salarial de la IA” que discutimos recientemente nos enseñó algo, es que el entusiasmo económico eventualmente choca con el duro muro de la realidad. Hoy, ese muro está apareciendo tanto en las aulas como en los pasillos regulatorios. Estamos pasando de debatir el costo de la IA a navegar su integración en el tejido mismo de la sociedad, y como ingenieros, vemos que el eslabón perdido sigue siendo el mismo: una falta de estándares técnicos universales.
Anteriormente hemos explorado cómo la “deuda arquitectónica” y la “IA ética” no son solo palabras de moda, sino requisitos estructurales. Los titulares de hoy, desde España hasta Bruselas, demuestran que si no construimos sobre una base sólida, la estructura empieza a tambalearse.
Tomemos la situación actual en las universidades españolas. Los estudiantes están entregando ensayos “impecables” generados por ChatGPT. En Ambiente Ingegneria, hemos pasado años desarrollando soluciones de Machine Learning para categorizar automáticamente grandes cantidades de contenido, una lógica similar a la de identificar las “huellas dactilares” del texto generado por IA. Pero el verdadero desafío de ingeniería no es solo la detección; es el análisis de datos para encontrar la intención. Necesitamos cambiar los estándares educativos hacia la evaluación del proceso de investigación y la aplicación del conocimiento, habilidades que la IA puede aumentar, pero nunca reemplazar verdaderamente.
Esta necesidad de precisión nos lleva al “Ómnibus de la IA” de la UE. Se le está llamando “imperfecto”, y con razón. Una regulación efectiva necesita más que jerga legal; requiere la misma claridad universal que esperamos del sistema métrico. Cuando desarrollamos módulos Odoo personalizados o aplicaciones web basadas en Python, nos basamos en requisitos técnicos claros y medibles. Sin ellos, la “transparencia” es solo una promesa vaga. Un estándar es tan bueno como los datos que mide, y en nuestro trabajo con bases de datos PostgreSQL y MySQL, hemos visto que “basura entra” siempre lleva a “basura sale”, sin importar cuán sofisticado sea el modelo de IA.
Lo que está en juego es aún mayor cuando el liderazgo técnico es marginado. El reciente nombramiento de gerentes no técnicos en la Agencia Cibernética Italiana, combinado con las advertencias del BCE sobre los riesgos de la IA de Anthropic, resalta una brecha peligrosa. La precisión de ingeniería no es solo para el sótano de desarrollo; pertenece a la sala de juntas. Sin una comprensión profunda de la tecnología subyacente, los tomadores de decisiones corren el riesgo de pasar por alto sesgos algorítmicos y vulnerabilidades de seguridad que podrían propagar noticias falsas o desestabilizar sistemas financieros.
Ya sea que estemos integrando Asistentes LLM basados en RAG o puliendo una aplicación móvil nativa para iOS, nuestro objetivo es cerrar la brecha entre el “bombo” y la “ingeniería de alto rendimiento”. Se trata de construir sistemas que sean tan éticos como funcionales, asegurando que la integración de la IA sea un paso adelante, no un tropiezo.