 |
| Fuente de la imagen: mvc realziada con el recurso notebook |
M.
Velasco, 2025 (*).
Marco Normativo y Tecnológico para la Inteligencia Artificial Ambientalmente Sostenible y Gobernanza Algorítmica en Europa -
Regulatory and Technological Framework for Environmentally Sustainable Artificial Intelligence and Algorithmic Governance in Europe
Resumen: El vertiginoso desarrollo de los sistemas de inteligencia artificial y el aprendizaje automático en la escena europea exige una reestructuración de las metodologías de evaluación, diseño y despliegue tecnológico para garantizar la sostenibilidad ambiental y la equidad social. La expansión de infraestructuras de cómputo intensivo, modelos lingüísticos de gran escala y nodos de procesamiento distribuido genera demandas energéticas y consumos de recursos naturales elevados en la red eléctrica continental. Ante esta coyuntura, la normalización técnica europea ha establecido un conjunto integrado de informes y especificaciones que articulan la cuantificación del impacto ambiental, la evaluación de la conformidad legal y la atenuación de los sesgos algorítmicos. Se examina detalladamente las directrices contenidas en la norma UNE-CEN/CLC/TR 18145:2025 sobre inteligencia artificial ambientalmente sostenible, la norma UNE-CEN/CLC/TR 17894:2024 sobre evaluación de la conformidad bajo el Reglamento Europeo de Inteligencia Artificial, el informe UNE-CEN/CLC ISO/IEC/TR 24027:2023 referente a la taxonomía de sesgos en sistemas de decisión, y la especificación técnica UNE-CEN/CLC ISO/IEC/TS 12791:2024 para el tratamiento de sesgos en tareas de clasificación y regresión. A través de un análisis comparativo y de la síntesis de arquitecturas de hardware eficiente, modelos de aprendizaje frugal, aprendizaje federado y auditorías de gobernanza de datos, se demuestra la posibilidad de alinear la transición digital con los objetivos de sostenibilidad del Pacto Verde Europeo. Se concluye que la convergencia entre la métrica de intensidad de carbono del software, la gestión circular de recursos no energéticos y los controles estandarizados para tratar sesgos constituye la base técnica indispensable para garantizar la confiabilidad y viabilidad de la tecnología en las próximas décadas.
Palabras clave: Inteligencia Artificial, Sostenibilidad Ambiental, Eficiencia Energética, Evaluación de Conformidad, Sesgo Algorítmico, Aprendizaje Automático, Gobernanza Tecnológica, Normativa Europea.
Abstract: The rapid development of artificial intelligence and machine learning systems in Europe necessitates a restructuring of methodologies for technological assessment, design, and deployment to ensure environmental sustainability and social equity. The expansion of high-performance computing infrastructures, large-scale language models, and distributed processing nodes places significant demands on the continental power grid regarding energy and natural resource consumption. In response to this situation, European technical standardization has established an integrated set of reports and specifications that articulate the quantification of environmental impact, the assessment of legal conformity, and the mitigation of algorithmic bias. This paper examines in detail the guidelines contained in standard UNE-CEN/CLC/TR 18145:2025 on environmentally sustainable artificial intelligence; standard UNE-CEN/CLC/TR 17894:2024 on conformity assessment under the European AI Act; report UNE-CEN/CLC ISO/IEC/TR 24027:2023 regarding bias taxonomy in decision-making systems; and technical specification UNE-CEN/CLC ISO/IEC/TS 12791:2024 for addressing bias in classification and regression tasks. Through a comparative analysis and a synthesis of efficient hardware architectures, frugal learning models, federated learning, and data governance audits, the study demonstrates the feasibility of aligning the digital transition with the sustainability objectives of the European Green Deal. It is concluded that the convergence of software carbon intensity metrics, circular management of non-energy resources, and standardized controls for addressing bias forms the indispensable technical foundation for ensuring the reliability and viability of the technology in the coming decades.
Keywords: Artificial Intelligence, Environmental Sustainability, Energy Efficiency, Conformity Assessment, Algorithmic Bias, Machine Learning, Technology Governance, European Regulations.
(*) Manuel Velasco Carretero, doctorando en Ciencias jurídicas y sociales por la Universidad de Málaga (UMA), la Universidad Complutense de Madrid, la Universidad Antonio de Nebrija, la Universidad de Alicante, la Universidad de Cádiz, la Universidad de Extremadura, la Universidad de La Laguna, la Universidad de Santiago de Compostela, la Universidad de Sevilla, la Universidad de Vigo, la Universidad Rey Juan Carlos y la Universitat Oberta de Catalunya. Es experto universitario en cumplimiento normativo – compliance por la Universidad Internacional de la Rioja (UNIR), diplomado en empresariales por la UMA, licenciado en ciencias económicas y empresariales, economista, por la UMA , graduado en derecho por la UNIR, máster jurídico oficial por la UMA, máster económico-financiero oficial convalidado por el Ministerio de Educación del Gobierno de España, abogado por el Ministerio de Justicia del Gobierno de España, colegiado no ejerciente en el Ilustre Colegio de la Abogacía de Málaga, gestor administrativo por el Ministerio de la Función Pública del Gobierno de España, administrador de fincas por el Ministerio de Obras Públicas y Transportes del Gobierno de España, experto universitario en peritaje judicial por la Universidad Europea Miguel de Cervantes (UEMC).
1. Introducción
La aceleración en la adopción de tecnologías basadas en inteligencia artificial y aprendizaje automático ha transformado la estructura de los servicios digitales, la automatización industrial, la medicina diagnóstica y la gestión de infraestructuras en el ámbito internacional (CEN/CENELEC, 2025; van Wynsberghe, 2021). A pesar de la capacidad de estos sistemas para procesar volúmenes masivos de datos y generar predicciones complejas, su operación requiere un incremento continuo en el consumo de electricidad, capacidad de cómputo en centros de datos e infraestructura física. La evolución desde modelos estadísticos tradicionales hacia arquitecturas de aprendizaje de gran escala con cientos de miles de millones de parámetros ha derivado en una demanda energética de escala exponencial, generando impactos ambientales directos e indirectos que comprometen los objetivos de descarbonización de la Unión Europea (CEN/CENELEC, 2025; Strubell et al., 2019).
En la región europea, el despliegue de infraestructuras informáticas avanzadas interactúa de forma directa con sistemas eléctricos altamente interconectados y heterogéneos, administrados por la Red Europea de Gestores de Redes de Transporte de Electricidad (CEN/CENELEC, 2025; ENTSO-E, 2023). La evaluación del impacto ambiental de las operaciones computacionales no puede desligarse del origen de la electricidad consumida, el cual varía ampliamente según la localización geográfica y la franja temporal de procesamiento. Mientras algunas naciones dependen en mayor medida de la energía nuclear o hidráulica, otras mantienen proporciones elevadas de combustibles fósiles en sus matrices energéticas (CEN/CENELEC, 2025). Esta variabilidad implica que el entrenamiento y la inferencia de un mismo modelo de aprendizaje automático pueden generar huellas de carbono drásticamente diferentes según la ubicación del centro de datos y el horario de ejecución.
A la par de las exigencias ecológicas, el uso creciente de algoritmos en la toma de decisiones automatizadas sobre individuos y grupos sociales ha puesto de manifiesto la presencia de sesgos indeseados en los resultados producidos (ISO/IEC, 2021; ISO/IEC, 2024). Los patrones discriminatorios heredados de datos de partida, las deficiencias en el muestreo poblacional y las elecciones de diseño durante la ingeniería de características pueden consolidar o amplificar disparidades sociales preexistentes en ámbitos como la contratación laboral, la concesión de préstamos bancarios y el acceso a servicios de salud (ISO/IEC, 2021). La corrección de estas desviaciones no constituye un mero requerimiento ético, además de ser una exigencia regulatoria imperativa recogida en la legislación comunitaria.
Ante este escenario de doble dimensión —ecológica y social—, la Asociación Española de Normalización, en convergencia con los organismos europeos CEN/CENELEC y las organizaciones internacionales ISO/IEC, ha ratificado un esquema estandarizado que proporciona pautas técnicas para abordar la sostenibilidad integral de la inteligencia artificial (CEN/CENELEC, 2024; CEN/CENELEC, 2025; ISO/IEC, 2021; ISO/IEC, 2024). El presente artículo científico examina de manera estructurada los fundamentos técnicos, normativos y operacionales de dicho esquema, articulando los requerimientos de la norma UNE-CEN/CLC/TR 18145:2025, el informe UNE-CEN/CLC/TR 17894:2024, el estándar UNE-CEN/CLC ISO/IEC/TR 24027:2023 y la especificación UNE-CEN/CLC ISO/IEC/TS 12791:2024, con el propósito de ofrecer un modelo de análisis amplio e integrado para la investigación y la industria.
La integración de métricas de desempeño ambiental en la fase de concepción de proyectos informáticos transforma de manera sustancial las metodologías tradicionales de ingeniería de software. Mientras los enfoques convencionales priorizaban exclusivamente la precisión predictiva, la velocidad de procesamiento y la minimización del error estadístico, las nuevas directrices comunitarias exigen incorporar el consumo energético y la huella de carbono como restricciones de diseño de primer orden. Esta reorientación metodológica obliga a las organizaciones a evaluar de forma rigurosa la necesidad real de utilizar arquitecturas de cómputo masivo frente a alternativas algorítmicas más livianas y eficientes en el uso de recursos.
Paralelamente, la estandarización europea en materia de equidad algorítmica y tratamiento de sesgos establece un marco conceptual uniforme que facilita la interoperabilidad transfronteriza y la auditoría independiente de los sistemas de decisión automatizada. Al definir taxonomías precisas para clasificar las desviaciones en el muestreo, las vulnerabilidades en la ingeniería de características y los factores cognitivos que afectan el etiquetado, los estándares ISO/IEC y UNE-CEN proporcionan herramientas operativas que fortalecen la confianza de la ciudadanía en las soluciones tecnológicas. La articulación de estos dos ejes —sostenibilidad ecológica y justicia algorítmica— constituye la garantía de que el avance de la inteligencia artificial contribuya de manera efectiva al desarrollo social y económico respetando los valores democráticos y los límites ecológicos del planeta.
El análisis articulado de estas cuatro publicaciones normativas permite edificar una visión sistémica de la gobernanza algorítmica, donde los vectores de eficiencia energética, la minimización de la huella hídrica, la acreditación formal de la conformidad legal y el tratamiento metodológico de las desviaciones discriminatorias no se perciben como exigencias aisladas o contrapuestas. Por el contrario, la estandarización europea demuestra que la optimización estructural de los algoritmos y la depuración rigurosa de los conjuntos de datos de entrenamiento constituyen intervenciones de doble impacto positivo: disminuyen la carga computacional requerida en los servidores de alto rendimiento y eliminan simultáneamente patrones de ruido o redundancia que alimentan sesgos indeseados (CEN/CENELEC, 2025; ISO/IEC, 2024).
2. Evaluación de la Huella Ambiental y Eficiencia Energética en Sistemas de Inteligencia Artificial
El documento normativo UNE-CEN/CLC/TR 18145:2025 aborda de manera sistemática los requerimientos de sostenibilidad ambiental asociados al ciclo de vida completo de los sistemas de inteligencia artificial (CEN/CENELEC, 2025). Se expone la estructura de consumo energético, la interacción con las redes eléctricas comunitarias, las soluciones de software y hardware de bajo consumo, la demanda de recursos hídricos y las metodologías de cuantificación de emisiones de carbono. A través del análisis de estos componentes, se facilitan directrices técnicas para reducir la huella ecológica de las aplicaciones computacionales en el territorio europeo (CEN/CENELEC, 2025).
2.1. Dinámicas del Consumo Energético e Infraestructura de Red en el Continente Europeo
El consumo de electricidad representa el vector de impacto ambiental más directo en el funcionamiento de la inteligencia artificial. La fase de entrenamiento de modelos lingüísticos de gran escala y redes neuronales de elevado número de capas demanda volúmenes masivos de energía en lapsos temporales concentrados (CEN/CENELEC, 2025; Strubell et al., 2019). Un ejemplo ilustrativo se observa en el entrenamiento de modelos de procesamiento de lenguaje natural con más de cien millones de parámetros, cuya ejecución en unidades de procesamiento gráfico puede requerir cientos de megavatios-hora de electricidad, equivalentes a toneladas de emisiones de dióxido de carbono cuando la generación eléctrica proviene de combustibles fósiles (CEN/CENELEC, 2025). A esta fase inicial se suma la etapa de inferencia y despliegue operativo en producción, donde millones de consultas diarias de usuarios finales acumulan demandas energéticas constantes en los servidores de cómputo en la nube (CEN/CENELEC, 2025; Patterson et al., 2022).
La caracterización de estas emisiones en Europa presenta peculiaridades derivadas de la interconexión síncrona de las redes eléctricas coordinadas por la Red Europea de Gestores de Redes de Transporte de Electricidad (CEN/CENELEC, 2025; ENTSO-E, 2023). La matriz de generación varía según la ubicación nacional y el momento específico de la jornada, integrando energías renovables, energía nuclear y plantas térmicas. Adicionalmente, el comercio transfronterizo de electricidad a través de interconectores internacionales introduce variabilidad en la intensidad de carbono por kilovatio-hora consumido en un centro de datos determinado (CEN/CENELEC, 2025). Para calcular las emisiones indirectas de Alcance 2 según el Protocolo de Gases de Efecto Invernadero, el informe técnico UNE-CEN/CLC/TR 18145:2025 recomienda aplicar metodologías de incertidumbre de medición acordes con la norma ISO/IEC Guía 98-3, evaluando la composición real de la mezcla energética en ventanas temporales de treinta minutos (CEN/CENELEC, 2025).
El rápido crecimiento de los centros de cómputo dedicados a la inteligencia artificial generativa impone tensiones adicionales sobre la capacidad de distribución de las subestaciones regionales en diversos países europeos (CEN/CENELEC, 2025). En ciertas regiones con elevada concentración de instalaciones de procesamiento en la nube, la demanda eléctrica de los servidores representa porcentajes elevados del consumo total nacional. Esta concentración de carga exige que los desarrolladores de sistemas informáticos coordinen sus horarios de entrenamiento con los momentos de máxima generación de energías limpias en la red, aprovechando excedentes eólicos o solares mediante estrategias de programación temporal diferida (CEN/CENELEC, 2025; Lannelongue et al., 2021).
2.2. Estrategias de Optimización en el Ciclo de Vida del Software y Redes Neuronales Frugales
Para atenuar la carga computacional y el gasto energético, la norma UNE-CEN/CLC/TR 18145:2025 cataloga una serie de metodologías de software orientadas a la eficiencia algorítmica (CEN/CENELEC, 2025). Entre estas opciones destaca el uso de módulos preentrenados y técnicas de transferencia de aprendizaje, las cuales evitan la necesidad de entrenar arquitecturas complejas desde el origen para cada tarea particular (CEN/CENELEC, 2025; Shin et al., 2016). De igual forma, la implementación de redes neuronales de configuración universal o redes únicas adaptables permite ajustar un mismo modelo base a diversos entornos de hardware o dispositivos terminales sin incurrir en costos de reentrenamiento repetitivos (CEN/CENELEC, 2025; Cai et al., 2020). La compresión de modelos mediante cuantización de parámetros a precisión reducida y podado de conexiones secundarias disminuye el tamaño del binario y acelera la ejecución de inferencias (CEN/CENELEC, 2025; O'Neill, 2020).
Otra estrategia relevante descrita en la normativa es el aprendizaje federado, el cual distribuye el entrenamiento entre múltiples nodos o dispositivos periféricos sin necesidad de centralizar volúmenes masivos de datos en servidores remotos (CEN/CENELEC, 2025). Esta aproximación reduce el tráfico de red y la energía asociada a la transmisión de información a través de infraestructuras de telecomunicaciones. Complementariamente, el esquema de inteligencia artificial frugal prioriza el diseño de algoritmos capaces de alcanzar elevados niveles de precisión utilizando conjuntos de datos reducidos y estructuras matemáticas simplificadas, como las transformadas rápidas de Fourier o el cómputo hiperdimensional (CEN/CENELEC, 2025; Borar, 2020). Igualmente, la eliminación de datos obsoletos o inactivos evita el consumo inútil de almacenamiento en sistemas de memoria de alto rendimiento (CEN/CENELEC, 2025).
Las prácticas de desarrollo de software ecológico promovidas por organizaciones como la Green Software Foundation enfatizan la integración de métricas de eficiencia en los ciclos de integración continua de las empresas tecnológicas (CEN/CENELEC, 2025). La medición constante de las operaciones de punto flotante por vatio consumido permite a los equipos de ingeniería detectar ineficiencias en el código antes de desplegar los modelos a gran escala. La reutilización de bibliotecas de código abierto y la estandarización de procedimientos de prueba contribuyen a evitar la duplicación de esfuerzos computacionales en la comunidad investigadora y empresarial (CEN/CENELEC, 2025; Schwartz et al., 2020).
2.3. Impacto en Recursos No Energéticos: Huella Hídrica y Economía Circular del Hardware
Más allá del consumo eléctrico, el funcionamiento de la infraestructura informática para inteligencia artificial genera impactos sobre recursos naturales como el agua dulce y el suelo (CEN/CENELEC, 2025). Los centros de datos de gran escala requieren volúmenes elevados de agua para los sistemas de refrigeración evaporativa encargados de disipar el calor generado por los procesadores de alta densidad (CEN/CENELEC, 2025; Mytton, 2021). Se estima que el procesamiento de conjuntos de consultas en modelos generativos puede requerir volúmenes de agua dulce por interacción, afectando regiones que enfrentan episodios de escasez hídrica (CEN/CENELEC, 2025). La descarga de aguas de refrigeración a temperaturas elevadas o con tratamientos químicos requiere gestión para evitar la contaminación térmica y química de los acuíferos locales (CEN/CENELEC, 2025).
En lo concerniente al equipamiento físico, la acelerada obsolescencia del hardware informático incentiva la extracción de metales raros y minerales pesados, generando residuos electrónicos de difícil tratamiento (CEN/CENELEC, 2025). El estándar UNE-CEN/CLC/TR 18145:2025 subraya la necesidad de incorporar principios de economía circular en la gestión de infraestructuras tecnológicas, extendiendo la vida útil de los equipos, facilitando la reutilización de componentes y estimulando el reciclaje de materiales en alineación con las directrices ISO/DIS 59004 (CEN/CENELEC, 2025). Un análisis de ciclo de vida completo conforme a la norma ISO 14040 debe contabilizar las emisiones embebidas y el consumo de materias primas desde la extracción minera hasta el desmantelamiento final de los centros de cómputo (CEN/CENELEC, 2025).
La adopción de tecnologías de enfriamiento líquido directo al chip y la recuperación del calor residual generado por los servidores para abastecer redes de calefacción urbana en municipios limítrofes representan soluciones sostenibles aplicadas en diversos centros de cómputo europeos (CEN/CENELEC, 2025). Estas iniciativas permiten transformar un subproducto térmico antes descartado en una origen energético útil para comunidades locales, reduciendo la huella de carbono global del procesamiento informático y mejorando el perfil de sostenibilidad de las empresas tecnológicas (CEN/CENELEC, 2025).
2.4. Métricas de Cuantificación, Contabilidad de Carbono y Beneficios de Eficiencia Sistemática
La cuantificación rigurosa de la sostenibilidad en sistemas de inteligencia artificial exige la definición de indicadores e indicadores de rendimiento (CEN/CENELEC, 2025). Entre las métricas de operación se incluye la Intensidad de Carbono del Software especificada en la norma ISO/IEC DIS 21031, la cual mide las emisiones de CO2 generadas por unidad de trabajo o por consulta procesada (CEN/CENELEC, 2025). De igual forma, indicadores como la efectividad en el uso de la energía en centros de datos permiten evaluar la proporción de electricidad dedicada a las tareas computacionales frente a la consumida por sistemas auxiliares de climatización e iluminación (CEN/CENELEC, 2025; Masanet et al., 2020). La norma enfatiza la necesidad de aislar el consumo eléctrico específico de las operaciones algorítmicas descontando los consumos en estado de reposo de los equipos (CEN/CENELEC, 2025).
A pesar de las huellas de carbono generadas por su desarrollo, la inteligencia artificial ofrece oportunidades para lograr ahorros sistémicos de energía en otros sectores de la economía, concepto conocido como huella de carbono evitada o mano de obra ecológica (CEN/CENELEC, 2025). Por ejemplo, la aplicación de modelos de aprendizaje automático en la gestión de redes de distribución eléctrica permite predecir picos de demanda y ajustar la producción en tiempo real, facilitando la integración de energías renovables intermitentes (CEN/CENELEC, 2025; Mesa et al., 2020). En entornos industriales y edificaciones, los sistemas algorítmicos automatizan la climatización y mejoran procesos productivos, generando reducciones netas de emisiones que pueden superar los costos energéticos asociados al propio modelo informático (CEN/CENELEC, 2025).
Para garantizar la comparabilidad de las mediciones de eficiencia entre diferentes organizaciones y países de la Unión Europea, el informe técnico UNE-CEN/CLC/TR 18145:2025 propone esquemas estandarizados de etiquetado ambiental de modelos e infraestructuras (CEN/CENELEC, 2025). Estos distintivos de calidad ambiental permiten a las empresas compradoras y a las administraciones públicas priorizar aquellos proveedores de soluciones algorítmicas que acrediten un bajo consumo de recursos por unidad de servicio, estimulando la competencia basada en criterios de responsabilidad ecológica (CEN/CENELEC, 2025).
3. Gobernanza Regulación y Evaluación de la Conformidad bajo el Reglamento Europeo de Inteligencia Artificial
El informe técnico UNE-CEN/CLC/TR 17894:2024 establece las pautas para la evaluación de la conformidad de sistemas de inteligencia artificial en coherencia con el marco normativo de la Unión Europea (CEN/CENELEC, 2024). Se analizan los módulos de evaluación aplicables a sistemas de alto riesgo, la articulación entre el Reglamento Europeo de Inteligencia Artificial y la legislación sectorial preexistente, la acreditación de organismos de certificación y los mecanismos de auditoría técnica. Mediante estas disposiciones, se procura estructurar procesos reproducibles para verificar el cumplimiento de los requisitos legales de seguridad, transparencia y calidad de datos (CEN/CENELEC, 2024).
3.1. Arquitectura de Evaluación de Conformidad y Módulos de Decisión Normativa
La evaluación de la conformidad constituye el procedimiento mediante el cual se demuestra que un sistema de inteligencia artificial satisface los requisitos establecidos en la legislación armonizada europea (CEN/CENELEC, 2024). El informe UNE-CEN/CLC/TR 17894:2024 revisa la aplicación de los módulos de evaluación derivados de la Decisión No 768/2008/CE en el marco del Reglamento Europeo de Inteligencia Artificial (CEN/CENELEC, 2024). Para los sistemas clasificados como de alto riesgo, los proveedores deben someter sus productos a procedimientos que varían desde el control de producción interno (Módulo A) hasta el examen UE de tipo (Módulo B) combinado con la conformidad basada en la garantía de calidad del proceso de producción (Módulo D) o la verificación del producto (Módulo F) (CEN/CENELEC, 2024).
La selección del módulo aplicable depende de la categoría de riesgo del sistema y de la existencia de normas armonizadas publicadas en el Diario Oficial de la Unión Europea (CEN/CENELEC, 2024). En los casos en que no existan normas armonizadas completas o cuando el proveedor decida no aplicarlas íntegramente, la intervención de un organismo notificado independiente resulta obligatoria para realizar la evaluación de la documentación técnica, los datos de entrenamiento y las pruebas de laboratorio (CEN/CENELEC, 2024). El informe técnico destaca que los organismos notificados deben disponer de acceso razonado a los modelos entrenados y al código de desarrollo cuando otros medios de verificación resulten insuficientes para certificar la seguridad y la efectividad del sistema (CEN/CENELEC, 2024).
El proceso de notificación de estos organismos independientes exige la acreditación formal de su competencia técnica en tecnologías de inteligencia artificial por parte de la entidad de acreditación competente (CEN/CENELEC, 2024). Los auditores deben demostrar conocimientos actualizados en arquitecturas de aprendizaje jerárquico, técnicas de ciberseguridad, gestión de sesgos y análisis estadístico de conjuntos de datos, garantizando que las evaluaciones de conformidad posean un grado elevado de rigor, objetividad y reproducibilidad en todo el Mercado Único Europeo (CEN/CENELEC, 2024).
3.2. Intersección entre Normativas Sectoriales e Infraestructuras de Ensayos
Un aspecto abordado en la norma UNE-CEN/CLC/TR 17894:2024 es la superposición operacional entre el Reglamento Europeo de Inteligencia Artificial y las legislaciones sectoriales basadas en el Nuevo Marco Legislativo (CEN/CENELEC, 2024). Productos industriales como dispositivos médicos, maquinaria pesada y equipos de radiofrecuencia que incorporan componentes de inteligencia artificial deben cumplir simultáneamente los requerimientos de sus directivas específicas y los requisitos ético-técnicos de la ley de inteligencia artificial (CEN/CENELEC, 2024). Por ejemplo, un equipo médico con algoritmos de diagnóstico por imagen debe seguir el procedimiento de evaluación de la conformidad bajo el Reglamento de Dispositivos Médicos (UE) 2017/745, integrando la revisión de la calidad de datos y la gestión de riesgos algorítmicos dentro del mismo expediente técnico (CEN/CENELEC, 2024).
Para respaldar estos procesos de certificación, la Unión Europea ha desplegado infraestructuras de ensayo y experimentación en sectores como la salud, la agrifood y la manufactura (CEN/CENELEC, 2024). Estas instalaciones proporcionan entornos controlados en los cuales los desarrolladores pueden validar el comportamiento de sus modelos frente a ataques adversarios, condiciones extremas de operación y variaciones en las distribuciones de entrada (CEN/CENELEC, 2024; Su et al., 2023). La norma especifica que las pruebas deben contemplar el muestreo representativo de unidades o subcategorías de producto para garantizar que los resultados de laboratorio sean extrapolables al funcionamiento real en el mercado (CEN/CENELEC, 2024).
La armonización de los procedimientos de auditoría técnica entre los diferentes organismos notificados sectoriales resulta indispensable para evitar duplicidades administrativas y barreras al comercio interior en la Unión Europea (CEN/CENELEC, 2024). La norma UNE-CEN/CLC/TR 17894:2024 propone la utilización de listas de verificación comunes y protocolos de ensayo estandarizados que facilitan la adopción de expedientes de conformidad integrados, permitiendo a los fabricantes certificar sus productos en un único proceso coherente (CEN/CENELEC, 2024).
3.3. Sistemas de Gestión Organizacional e Inspección según Estándares Internacionales
El cumplimiento sostenido de los requisitos de conformidad exige la adopción de sistemas de gestión organizacional estructurados. La norma UNE-CEN/CLC/TR 17894:2024 conecta las exigencias comunitarias con los estándares internacionales elaborados por ISO/IEC (CEN/CENELEC, 2024). Destaca el papel de la norma ISO/IEC 42001, la cual especifica los requisitos para establecer, implementar, mantener y mejorar un Sistema de Gestión de Inteligencia Artificial en las organizaciones (CEN/CENELEC, 2024). Las entidades de certificación que auditan estos sistemas deben estar acreditadas conforme a la norma EN ISO/IEC 17065 o la norma ISO/IEC DIS 42006, garantizando la competencia técnica y la imparcialidad de los auditores en el dominio informático (CEN/CENELEC, 2024).
De igual forma, las actividades de inspección y validación se encuadran dentro de los estándares EN ISO/IEC 17020 y EN ISO/IEC 17029 (CEN/CENELEC, 2024). Las inspecciones permiten evaluar la idoneidad de los expedientes técnicos, el nivel de explicabilidad algorítmica y la presencia de casos de garantía de funcionamiento elaborados por los desarrolladores (CEN/CENELEC, 2024). Las organizaciones deben someter sus sistemas a ciclos de vigilancia continua post-comercialización, registrando incidentes operativos y reevaluando el desempeño de los modelos cuando se detecten degradaciones en la precisión o derivas en la distribución de los datos de entrada (CEN/CENELEC, 2024).
La implementación de un sistema de gestión de inteligencia artificial conforme a la norma ISO/IEC 42001 exige definir políticas organizacionales claras respecto a la privacidad de los datos, la seguridad de la información, la equidad algorítmica y la rendición de cuentas (CEN/CENELEC, 2024). La asignación explicitaria de responsabilidades a nivel directivo y la realización de auditorías internas periódicas aseguran que la gobernanza tecnológica no sea un mero trámite documental, además de una práctica operativa integrada en la cultura corporativa (CEN/CENELEC, 2024).
3.4. Gestión de Riesgos, Gobernanza de Datos y Transparencia Operativa
La gestión de riesgos constituye un eje en la evaluación de la conformidad. La norma UNE-CEN/CLC/TR 17894:2024 contrapone las definiciones tradicionales de riesgo basadas en la seguridad física, como las recogidas en la Guía ISO 51, con las definiciones de gestión de riesgos organizacionales de la norma EN ISO/IEC 23894 e ISO Guide 73, donde el riesgo se concibe como el efecto de la incertidumbre sobre los objetivos (CEN/CENELEC, 2024). En los sistemas de inteligencia artificial, la evaluación de riesgos debe cubrir la posibilidad de daños físicos, la vulneración de derechos estructurales, discriminaciones algorítmicas y fallos de ciberseguridad (CEN/CENELEC, 2024).
En cuanto a la gobernanza de datos, la normativa integra los requerimientos de la serie de estándares ISO/IEC 5259 relativos a la calidad de datos para análisis y aprendizaje automático (CEN/CENELEC, 2024). Se exige la verificación de diez características en los conjuntos de entrenamiento: auditabilidad, identificabilidad, balance, diversidad, similitud, efectividad, trazabilidad, aleatoriedad, representatividad y actualización temporal (CEN/CENELEC, 2024). La transparencia hacia los usuarios finales se instrumenta mediante la entrega de instrucciones de uso detalladas y la publicación de fichas técnicas o documentos de especificación del modelo que describan los límites de funcionamiento y los sesgos conocidos (CEN/CENELEC, 2024; Mitchell et al., 2019).
El mantenimiento de registros de trazabilidad mediante la documentación del linaje de los datos y el historial de cambios en los hiperparámetros facilita la realización de investigaciones forenses tras la detección de fallos operativos (CEN/CENELEC, 2024). Esta documentación permite a las autoridades de vigilancia del mercado verificar si las decisiones generadas por el algoritmo en una fecha determinada se ajustaban a los requisitos de seguridad y no discriminación vigentes en el momento de su despliegue (CEN/CENELEC, 2024).
4. Identificación y Taxonomía de Sesgos Algorítmicos en Sistemas de Decisión Automatizada
El informe técnico UNE-CEN/CLC ISO/IEC/TR 24027:2023 proporciona un marco de referencia conceptual para comprender, medir y clasificar los sesgos en los sistemas de inteligencia artificial y en la toma de decisiones asistida por computadora (ISO/IEC, 2021). Se abordan las diferencias entre sesgo estadístico y falta de equidad social, examina las factores cognitivos y socioculturales de las desviaciones algorítmicas, analiza las vulnerabilidades asociadas a la recolección de datos y detalla cómo las decisiones de ingeniería introducen patrones discriminatorios indeseados en los modelos (ISO/IEC, 2021).
4.1. Diferenciación Conceptual entre Sesgo Sistemático y Criterios de Equidad
En el lenguaje técnico de la norma UNE-CEN/CLC ISO/IEC/TR 24027:2023, el término sesgo se define como la diferencia sistemática en el tratamiento otorgado a ciertos objetos, personas o grupos en comparación con otros (ISO/IEC, 2021). A diferencia de las connotaciones peyorativas del término en el lenguaje cotidiano, en el aprendizaje automático la capacidad de diferenciar patrones y categorizar entidades basada en variaciones estadísticas resulta indispensable para el funcionamiento de los algoritmos (ISO/IEC, 2021). Aun así, cuando estas diferencias de tratamiento no están justificadas por los objetivos legítimos del sistema o producen desventajas injustificadas para colectivos específicos, se configura un sesgo indeseado que requiere corrección (ISO/IEC, 2021; Caliskan et al., 2017).
De igual manera, el concepto de equidad describe un resultado, comportamiento o tratamiento que respeta normas, hechos y derechos establecidos, evitando la discriminación arbitraria (ISO/IEC, 2021). La norma enfatiza que no existe una equivalencia entre las métricas de sesgo estadístico y la noción social de equidad. Un sistema insesgado en términos de tasa de error global puede ser percibido como inequitativo si distribuye los errores de forma desproporcionada entre subgrupos demográficos (ISO/IEC, 2021; Hardt et al., 2016). Por ejemplo, un modelo de selección de personal puede exhibir una precisión general elevada pero presentar tasas de falsos negativos superiores para solicitantes de un determinado género o etnia, generando resultados injustos de asignación de oportunidades (ISO/IEC, 2021; Barocas et al., 2019).
La evaluación de la equidad exige ponderar compromisos entre diferentes métricas estadísticas incompatibles entre sí, tales como la paridad demográfica, la igualdad de oportunidades y la paridad predictiva (ISO/IEC, 2021). La norma UNE-CEN/CLC ISO/IEC/TR 24027:2023 establece que la selección de los criterios de equidad apropiados no es un cálculo puramente matemático, además de requerir la consulta con expertos multidisciplinares e instituciones sociales para definir las prioridades normativas aplicables a cada caso de uso concreto (ISO/IEC, 2021).
4.2. Sesgos Cognitivos Humanos y Condicionantes de Naturaleza Social
Los sistemas de inteligencia artificial son diseñados, entrenados y evaluados por seres humanos sujetos a sesgos cognitivos inconscientes (ISO/IEC, 2021; Kahneman, 2011). La norma UNE-CEN/CLC ISO/IEC/TR 24027:2023 identifica el sesgo de automatización como una vulnerabilidad prominente, caracterizada por la tendencia de los operadores humanos a aceptar las sugerencias de un sistema automatizado pasando por alto información contradictoria procedente de observaciones no automatizadas (ISO/IEC, 2021). Este fenómeno preocupa en entornos médicos, judiciales y de conducción autónoma, donde la supervisión humana se ve debilitada por la confianza excesiva en el software (ISO/IEC, 2021).
A los sesgos individuales se suman los sesgos sociales o sistémicos, los cuales reflejan prejuicios históricos y desigualdades estructurales consolidadas en las normas, instituciones y lenguajes de una sociedad (ISO/IEC, 2021). Cuando un algoritmo de aprendizaje automático se entrena con datos históricos de arrestos policiales o de concesión de créditos bancarios, el modelo aprende y perpetúa los sesgos discriminatorios presentes en dichos registros (ISO/IEC, 2021; Angwin et al., 2016). Un caso representativo ocurre en la evaluación del riesgo de reincidencia penal, donde los datos de partida reflejan discrepancias sistemáticas en las tasas de detención que el algoritmo codifica como relaciones de causalidad, amplificando la discriminación histórica contra grupos minoritarios (ISO/IEC, 2021).
El sesgo de confirmación y el sesgo de atrubución de grupo también afectan las decisiones de los equipos de desarrollo informático durante la definición de los requisitos del producto (ISO/IEC, 2021). Los diseñadores tienden a suponer que los patrones de comportamiento, las capacidades de hardware o el acceso a la tecnología de su propio entorno socioeconómico son representativos de la totalidad de los usuarios finales, omitiendo necesidades específicas de grupos diversos y generando sesgos de requerimientos en la arquitectura del sistema (ISO/IEC, 2021).
4.3. Vulnerabilidades en el Procesamiento de Datos y Selección de Muestras
La calidad del conjunto de entrenamiento condiciona directamente el comportamiento de los modelos de aprendizaje automático. El informe ISO/IEC TR 24027:2023 analiza diversas formas de sesgo de datos que surgen durante las etapas de recolección y preparación (ISO/IEC, 2021). El sesgo de selección ocurre cuando las muestras elegidas para el entrenamiento no reflejan la distribución real de la población sobre la cual operará el sistema en fase de producción (ISO/IEC, 2021). Dentro de esta categoría, el sesgo de muestreo se manifiesta al utilizar muestras de conveniencia de fácil acceso en lugar de diseños probabilísticos representativos, lo que deriva en un rendimiento inferior del modelo al evaluar colectivos infrarepresentados (ISO/IEC, 2021).
Otras factores de vulnerabilidad en los datos incluyen el sesgo de cobertura, donde ciertos segmentos de la población objetivo son excluidos por completo del conjunto de datos, y el sesgo de etiquetado (ISO/IEC, 2021). El proceso de asignación de etiquetas a datos no estructurados, con frecuencia realizado por anotadores humanos o plataformas de trabajo masivo, introduce apreciaciones subjetivas, inconsistencias y prejuicios individuales en el ground truth (ISO/IEC, 2021; Gebru et al., 2018). Adicionalmente, el preprocesamiento de datos mediante imputación de valores faltantes, eliminación de valores atípicos o suposiciones sobre distribuciones normales puede introducir sesgos estadísticos no intencionados que alteran las relaciones subyacentes en la muestra (ISO/IEC, 2021).
La paradoja de Simpson representa otra anomalía estadística documentada en la norma, donde una tendencia observada en diferentes subgrupos de datos se invierte por completo cuando los datos se combinan en un único conjunto agregado debido a diferencias en las ponderaciones de cada categoría (ISO/IEC, 2021). La omisión de este fenómeno durante la fase de análisis exploratorio de datos puede inducir a los ingenieros a extraer conclusiones erróneas sobre el comportamiento del modelo, consolidando sesgos no detectados en la fase de entrenamiento (ISO/IEC, 2021).
4.4. Sesgos Introducidos por Decisiones de Ingeniería de Modelos y Parámetros
Las decisiones técnicas adoptadas por los ingenieros de aprendizaje automático durante el desarrollo de la arquitectura del modelo constituyen otra causa directa de sesgo indeseado (ISO/IEC, 2021). En la fase de ingeniería de características, la selección, codificación o combinación de variables de entrada puede crear representaciones distorsionadas de la realidad (ISO/IEC, 2021). Por ejemplo, el uso del índice de masa corporal como variable agregada para predecir riesgos de salud puede introducir discriminaciones injustas contra atletas con elevada masa muscular, de igual forma que la discretización arbitraria de variables continuas como la edad o los ingresos puede sesgar las predicciones entre subgrupos demográficos (ISO/IEC, 2021).
La elección de los algoritmos de aprendizaje y el ajuste de hiperparámetros también moldean la capacidad expresiva del sistema (ISO/IEC, 2021). La utilización de modelos lineales simplificados para resolver problemas con relaciones complejas no lineales o la elección inapropiada de funciones de activación pueden derivar en un bajo rendimiento selectivo para subgrupos cuyos patrones sean más difíciles de aprender (ISO/IEC, 2021). De igual forma, la fijación manual de umbrales de decisión para la clasificación binaria sin considerar la distribución inicial de las clases genera un sesgo de estimación que perjudica a las clases minoritarias, requiriendo la aplicación de herramientas de auditoría abierta como AIF360, Fairlearn, LIME o SHAP para su detección (ISO/IEC, 2021; Saleiro et al., 2018).
El problema de las variables confundidoras o representativas vicarias constituye otra causa compleja de sesgo algorítmico. Incluso cuando variables sensibles como la etnia, el género o la orientación religiosa se eliminan explícitamente del conjunto de datos de entrenamiento, el algoritmo puede reconstruir de manera indirecta dicha información confidencial mediante combinaciones lineales o no lineales de variables altamente correlacionadas, como el código postal, los hábitos de consumo o el historial académico, perpetuando la discriminación oculta bajo una aparente neutralidad de variables (ISO/IEC, 2021; Barocas et al., 2019).
5. Técnicas Normativas para el Tratamiento Metodológico del Sesgo en Aprendizaje Automático
La especificación técnica UNE-CEN/CLC ISO/IEC/TS 12791:2024 operacionaliza las directrices conceptuales previas proporcionando un catálogo de técnicas concretas para tratar el sesgo indeseado en tareas de clasificación y regresión mediante aprendizaje automático (ISO/IEC, 2024). Se detallan los procedimientos de intervención aplicables a lo largo del ciclo de vida del sistema definido en las normas ISO/IEC 22989 e ISO/IEC 5338, abarcando la identificación de partes interesadas en la fase de concepción, la modificación de algoritmos mediante regularización y aprendizaje adversario, las técnicas de tratamiento de datos y los protocolos de monitoreo continuo y disposición final de modelos (ISO/IEC, 2024).
5.1. Identificación de Partes Interesadas y Condicionantes en la Fase de Concepción
El tratamiento del sesgo indeseado debe iniciarse desde las fases más tempranas del desarrollo informático. La especificación técnica UNE-CEN/CLC ISO/IEC/TS 12791:2024 exige la identificación sistemática de todas las partes interesadas y sujetos afectados por la operación del sistema de inteligencia artificial durante la etapa de concepción (ISO/IEC, 2024). Esto incluye a los proveedores y usuarios directos del software, además de las personas y colectivos vulnerables que pueden sufrir las consecuencias indebidas de predicciones sesgadas (ISO/IEC, 2024). Por ejemplo, en el desarrollo de herramientas de evaluación de solicitudes de empleo, se debe consultar a representantes de los trabajadores y grupos con características protegidas para mapear los tipos de sesgo que experimentan de forma recurrente en los procesos de selección (ISO/IEC, 2024).
Durante esta fase inicial, la organización debe definir y documentar explícitamente las condiciones operativas bajo las cuales se evaluará la presencia de sesgos (ISO/IEC, 2024). Esto abarca la delimitación del contexto geográfico, lingüístico, socioeconómico y cultural de despliegue, así como la selección formal de los criterios de aceptación estadísticos (ISO/IEC, 2024). Las métricas de desempeño no pueden limitarse a la precisión global, además de incluir límites máximos admisibles para las tasas de falsos positivos y falsos negativos en subgrupos específicos de riesgo, alineándose con las directrices de gestión de proyectos de la norma ISO/IEC 42001 (ISO/IEC, 2024).
La formalización contractual de los requerimientos de no discriminación en los acuerdos con proveedores de datos o modelos de terceros resulta obligatoria para asegurar la transparencia en toda la cadena de valor (ISO/IEC, 2024). Las organizaciones deben solicitar expedientes de auditoría previa y certificados de representatividad a los suministradores de componentes informáticos externos, verificando que los datos de entrenamiento suministrados no incorporen sesgos geográficos o culturales incompatibles con el entorno de despliegue previsto (ISO/IEC, 2024).
5.2. Técnicas Algorítmicas de Ajuste y Modelado Adversario
En la etapa de diseño y desarrollo, la especificación ISO/IEC TS 12791:2024 contempla la modificación directa de las funciones de pérdida y la arquitectura de los modelos para neutralizar el aprendizaje de relaciones sesgadas (ISO/IEC, 2024). Una técnica consiste en la inclusión de términos de regularización en la función de costo que penalizan las discrepancias en las predicciones entre diferentes grupos demográficos, asegurando que el modelo no priorice el aprendizaje de la clase mayoritaria en datos con distribución no independiente e idénticamente distribuida (ISO/IEC, 2024; Dwork et al., 2018).
Otra aproximación efectiva descrita en la norma es el uso de arquitecturas de aprendizaje adversario (ISO/IEC, 2024). En esta configuración, se añade un módulo adversario al modelo principal cuya tarea consiste en intentar predecir la variable protegida a partir de las representaciones internas generadas por la red (ISO/IEC, 2024; Zhang et al., 2018). Durante el entrenamiento, la red principal ajusta sus pesos mediante la inversión del gradiente para maximizar el error del adversario, garantizando que las características aprendidas sean independientes de los atributos sensibles y eliminando la capacidad de discriminación del sistema (ISO/IEC, 2024). De igual forma, se contempla el entrenamiento de clasificadores desacoplados para diferentes subgrupos cuando las distribuciones subyacentes son irreconciliables en un único modelo (ISO/IEC, 2024; Dwork et al., 2018).
La aplicación de técnicas de posprocesamiento como el ajuste de umbrales de decisión específicos por grupo permite corregir las probabilidades predichas por un modelo previamente entrenado sin necesidad de modificar los pesos internos de la red neuronal (ISO/IEC, 2024). Este procedimiento resulta de gran utilidad en entornos de producción donde no se dispone de acceso al código de entrenamiento original o cuando el costo computacional de reentrenar arquitecturas de gran escala resulta prohibitivo desde el punto de vista económico y energético (ISO/IEC, 2024; Hardt et al., 2016).
5.3. Estrategias de Curación de Datos, Muestreo Sintético y Filtrado
Las intervenciones sobre los datos de entrenamiento representan una vía primaria para evitar la propagación de sesgos hacia los algoritmos. La norma UNE-CEN/CLC ISO/IEC/TS 12791:2024 especifica técnicas de preprocesamiento encaminadas a equilibrar la representación de las distintas clases y subgrupos (ISO/IEC, 2024). Entre estas estrategias destaca la generación de datos sintéticos mediante algoritmos de sobremuestreo de minorías como SMOTE o el uso de redes generativas adversarias para crear instancias de entrenamiento realistas en categorías infrarepresentadas (ISO/IEC, 2024; Chawla et al., 2002).
Complementariamente, la normativa recomienda el filtrado cuidadoso de los conjuntos de datos para eliminar registros de baja calidad, etiquetas ruidosas o textos con contenidos tóxicos que codifiquen estereotipos prejuiciosos (ISO/IEC, 2024). En proyectos de visión artificial o procesamiento de lenguaje natural, el reponderado de muestras asigna pesos superiores durante el cálculo de la pérdida a aquellas instancias pertenecientes a colectivos minoritarios, compensando el desequilibrio cuantitativo sin alterar la composición física del archivo de entrenamiento (ISO/IEC, 2024). Las organizaciones deben auditar la concordancia entre anotadores durante el etiquetado para detectar discrepancias que indiquen la presencia de sesgos subjetivos en las instrucciones de anotación (ISO/IEC, 2024).
El uso de técnicas de anonimización diferencial y enmascaramiento selectivo de variables protegidas permite proteger la privacidad de los sujetos de prueba mientras se conserva la capacidad predictiva del modelo sobre variables no sensibles (ISO/IEC, 2024). La norma subraya que el diseño de los procesos de extracción, transformación y carga de datos debe documentarse detalladamente para permitir la auditoría externa del linaje de la información utilizada en el entrenamiento (ISO/IEC, 2024).
5.4. Monitoreo Continuo, Verificación Operativa y Procedimientos de Disposición
El tratamiento del sesgo indeseado es un proceso continuo que no concluye con el despliegue del software. La especificación técnica UNE-CEN/CLC ISO/IEC/TS 12791:2024 enfatiza la necesidad de establecer mecanismos de verificación y validación en la fase operativa (ISO/IEC, 2024). La validación estática evalúa los datos de entrada en producción mediante técnicas de agrupación y visualización para detectar derivas en la distribución poblacional frente a los datos de entrenamiento (ISO/IEC, 2024). De igual manera, las pruebas dinámicas someten al modelo en funcionamiento a datos de prueba independientes y escenarios con valores extremos para verificar que las tasas de error se mantengan dentro de los umbrales de aceptación aprobados (ISO/IEC, 2024).
Finalmente, la norma regula la fase de disposición o retirada del sistema en conformidad con la norma ISO/IEC 5338 e ISO/IEC/IEEE 12207 (ISO/IEC, 2024). Cuando un sistema de inteligencia artificial finaliza su ciclo de vida útil o es reemplazado por una versión superior, la organización debe garantizar la conservación segura de los registros de datos, las métricas de prueba y la documentación de auditoría (ISO/IEC, 2024). Este archivo histórico resulta indispensable para investigar incidentes pasados, responder a reclamaciones legales por discriminación algorítmica y reutilizar conjuntos de datos de forma ética en proyectos futuros, garantizando la trazabilidad integral de las decisiones automatizadas (ISO/IEC, 2024).
La inclusión de mecanismos de retroalimentación de los usuarios finales y canales de redención para apelación de decisiones automatizadas constituye una exigencia operacional en los despliegues de alto riesgo (ISO/IEC, 2024). La recepción sistemática de quejas sobre predicciones erróneas o sesgadas alimenta los procesos de reentrenamiento continuo del modelo, garantizando que el sistema evolucione de forma adaptativa frente a cambios en las normas sociales y las dinámicas demográficas del entorno (ISO/IEC, 2024).
6. Perspectivas Integradas de Sostenibilidad y Gobernanza en Inteligencia Artificial
El análisis conjunto de las directrices contenidas en las normas UNE-CEN/CLC/TR 18145:2025, UNE-CEN/CLC/TR 17894:2024, UNE-CEN/CLC ISO/IEC/TR 24027:2023 y UNE-CEN/CLC ISO/IEC/TS 12791:2024 pone de manifiesto la interconexión existente entre la sostenibilidad ambiental de los cómputos y la equidad algorítmica en la toma de decisiones (CEN/CENELEC, 2024; CEN/CENELEC, 2025; ISO/IEC, 2021; ISO/IEC, 2024). Las decisiones de diseño orientadas a reducir la complejidad de las redes neuronales no únicamente disminuyen el consumo de electricidad y la huella de carbono asociada en los centros de datos, además reducen la opacidad de los modelos, facilitando la auditoría de sesgos y la explicación de resultados a los usuarios finales (CEN/CENELEC, 2025; ISO/IEC, 2021). De igual modo, la aplicación de técnicas de aprendizaje frugal y la reutilización de modelos preentrenados evita ejecuciones de cómputo redundantes mientras facilita el acceso equitativo a tecnologías avanzadas por parte de instituciones con capacidades de infraestructura limitadas (CEN/CENELEC, 2025; Strubell et al., 2019).
La convergencia de estos cuatro estándares configura un marco de gobernanza coherente que responde a las exigencias regulatorias fijadas por el Reglamento Europeo de Inteligencia Artificial y el Pacto Verde Europeo (CEN/CENELEC, 2024; CEN/CENELEC, 2025). La evaluación de la conformidad legal de un sistema de alto riesgo no puede desligarse de la verificación de la calidad de sus datos de entrenamiento ni de la medición de su rendimiento energético (CEN/CENELEC, 2024; CEN/CENELEC, 2025). La adopción de esquemas de certificación organizacionales basados en la norma ISO/IEC 42001 e inspecciones bajo el estándar EN ISO/IEC 17020 proporciona la estructura institucional necesaria para que empresas e instituciones públicas acrediten la responsabilidad de sus desarrollos frente a auditores externos, reguladores y la ciudadanía en general (CEN/CENELEC, 2024; ISO/IEC, 2024).
Para consolidar esta transición hacia una inteligencia artificial justa y de bajo impacto ecológico, la comunidad científica y el sector industrial deben adoptar metodologías de evaluación continua que contemplen todo el ciclo de vida del software (CEN/CENELEC, 2025; ISO/IEC, 2024). La sustitución de métricas de precisión aisladas por indicadores multidimensionales que contabilicen la intensidad de carbono del software, la equidad en las tasas de error demográficas y el consumo de agua dulce de refrigeración posibilitará el desarrollo de soluciones computacionales sostenibles (CEN/CENELEC, 2025; ISO/IEC, 2021). La estandarización técnica ratificada por la Asociación Española de Normalización se posiciona de este modo como la pauta operativa para orientar la innovación tecnológica hacia el bien común y el respeto de los límites planetarios.
La articulación de laboratorios de ensayo e infraestructuras de experimentación a escala comunitaria permitirá testear la robustez de los modelos frente a escenarios de estresamiento ambiental y sesgo de datos antes de su comercialización generalizada (CEN/CENELEC, 2024; ISO/IEC, 2024). La colaboración entre ingenieros de software, expertos en derecho digital, científicos ambientales y representantes de la sociedad civil garantizará que las futuras revisiones de las normas UNE-CEN incorporen de manera adaptativa los avances científicos en redes de bajo consumo y justicia algorítmica, consolidando a Europa como referente internacional en tecnología responsable y sostenible.
En última perspectiva, la convergencia entre la sostenibilidad ecológica y la gobernanza de datos exige la creación de redes de conocimiento e infraestructuras compartidas de supercómputo ecológico a escala continental. La concentración de recursos informáticos avanzados en instalaciones alimentadas exclusivamente por energías renovables, combinada con la disponibilidad pública de conjuntos de datos adecuadamente curados e insesgados, reducirá las barreras de entrada para investigadores y pequeñas empresas, garantizando un ecosistema de innovación inclusivo, transparente y respetuoso del medio ambiente.
7. La ilusión de la métrica: Límites de la normalización en la gobernanza ambiental y social de la inteligencia artificial
El proceso de normalización técnica en materia de inteligencia artificial, articulado mediante estándares como UNE-CEN/CLC/TR 18145:2025 para la sostenibilidad ambiental, UNE-CEN/CLC/TR 17894:2024 para la evaluación de la conformidad, y las publicaciones UNE-CEN/CLC ISO/IEC/TR 24027:2023 y TS 12791:2024 para la equidad algorítmica, responde a un intento institucional de estructurar la gobernanza tecnológica dentro del mercado único europeo. La aproximación adoptada se sustenta en una premisa cuestionable: la convención de que cualquier fenómeno sociotécnico complejo, independientemente de sus implicaciones ecológicas o morales, puede ser traducido a métricas estandarizadas, modelos de auditoría contable e intervenciones algorítmicas de ingeniería. Esta visión mecanicista asume de manera explícita que la regulación formal e industrial es suficiente para contener los efectos adversos de una infraestructura de cómputo en expansión exponencial.
Al examinar la arquitectura de estos documentos normativos, surge una disonancia insalvable entre el objeto que se pretende regular y las herramientas elegidas para ello. La gobernanza propuesta transforma exigencias éticas y distributivas en procedimientos administrativos de marcado CE, delegando en organismos notificados y consultoras privadas la certificación del impacto social y ecológico de los sistemas algorítmicos. Este enfoque reduce problemas políticos y materiales a meros parámetros de gestión de calidad, oscureciendo las asimetrías de poder subyacentes en la producción y distribución de la tecnología.
7.1. La extravagancia de la eficiencia y el fetiche de la intensidad de carbono
La metodología expuesta en el informe técnico UNE-CEN/CLC/TR 18145:2025 se centra en cuantificar la intensidad de carbono del software (Software Carbon Intensity, SCI) y el consumo hídrico por inferencia o entrenamiento. Este afán por medir las emisiones indirectas de Alcance 2 y Alcance 3, calculando los gramos de dióxido de carbono por kilovatio-hora mediante la mezcla energética instantánea de las redes de transporte de electricidad (ENTSO-E), confía en que la visibilidad del dato generará automáticamente moderación en el consumo. Dicha asunción ignora la paradoja de Jevons, fenómeno económico ampliamente documentado según el cual las ganancias en la eficiencia técnica del uso de un recurso incrementan su consumo total en lugar de reducirlo.
Al estandarizar procedimientos para hacer más eficiente el software y reducir los costes operativos por cálculo, las normas técnicas facilitan la expansión masiva de la demanda de infraestructura computacional. Reducir los vatios consumidos por matriz multiplicada o el volumen de agua de refrigeración por consulta no frena la extracción global de energía o recursos naturales; al contrario, abarata su aplicación comercial masiva e incentiva el despliegue de modelos cada vez mayores. La normalización ambiental sin la imposición simultánea de límites máximos absolutos al volumen computacional o al consumo energético global actúa como una estrategia de legitimación industrial que enmascara el crecimiento ilimitado de la infraestructura bajo la etiqueta de tecnología limpia.
Igualmente, la pretensión de evaluar la sostenibilidad ecológica mediante el análisis del ciclo de vida (LCA) fragmenta la realidad biofísica. Las métricas operativas se concentran en la fase de ejecución, dejando en segundo plano la devastación territorial vinculada a la extracción de litio, cobalto y tierras raras, así como la acumulación insostenible de residuos electrónicos. Asumir que la huella ecológica de la inteligencia artificial se resuelve mediante algoritmos de asignación dinámica de carga hacia centros de datos ubicados en regiones con energía renovable intermitente resulta ilusorio. Esta estrategia traslada la presión ambiental de una geografía a otra sin alterar el balance energético agregado ni las dinámicas de despojo asociadas a la infraestructura digital.
7.2. La burocratización de la evaluación y la comercialización de la conformidad
El estándar UNE-CEN/CLC/TR 17894:2024 busca adaptar el Nuevo Marco Legislativo europeo (Decisión 768/2008/CE) a las peculiaridades de la inteligencia artificial, integrando módulos de auditoría que van desde el control interno de producción (Módulo A) hasta el aseguramiento de la calidad mediante examen de diseño (Módulo H1). Esta extrapolación directa de reglas concebidas originalmente para productos físicos estáticos hacia modelos estocásticos, dinámicos y dependientes del contexto socioeconómico evidencia una fragilidad teórica de gran magnitud. La conformidad de un sistema probabilístico no puede ser garantizada como se verifica la resistencia mecánica de una maquinaria o la seguridad eléctrica de un dispositivo médico.
Esta estructuración burocrática convierte el cumplimiento legal en un ejercicio formal de verificación documental donde la seguridad y el respeto a las libertades se evalúan a través de expedientes técnicos e inspecciones de procesos organizativos. La responsabilidad de verificar si un sistema causa daños recae en un entramado de entes de acreditación y certificación (normas EN ISO/IEC 17065, 17020 o 17025) que operan bajo lógicas de mercado. La gobernanza algorítmica queda así capturada por una industria privada de la auditoría que factura por legitimar sistemas opacos mediante sellos de conformidad legal, sin alterar las decisiones de diseño estructurales que generan riesgos reales.
La ilusión de seguridad que produce este modelo de marcado CE oculta las limitaciones constitutivas del control técnico. Exigir que los desarrolladores mantengan sistemas de gestión de calidad conforme a la norma ISO/IEC 42001 o realicen análisis de riesgos antes de la comercialización no evita que los modelos muestren comportamientos emergentes no previstos al ser desplegados en entornos reales. La evaluación de la conformidad se transforma en un mecanismo de transferencia de responsabilidad jurídica: al obtener la presunción de conformidad mediante el uso de normas armonizadas, las corporaciones quedan blindadas frente a reclamos por impactos sociales adversos, desplazando la carga del daño hacia los colectivos vulnerados.
7.3. Reduccionismo estadístico y la tecnificación de la discriminación
En relación con la equidad algorítmica, los informes UNE-CEN/CLC ISO/IEC/TR 24027:2023 y TS 12791:2024 conceptualizan el sesgo no deseado como una desviación o desajuste cuantitativo en las distribuciones de datos, susceptible de ser corregido mediante técnicas de preprocesamiento, ajuste de hiperparámetros o funciones de pérdida duales. Esta perspectiva reduce fenómenos sistémicos como el racismo, el machismo o la exclusión de clase a meras anomalías métricas que pueden neutralizarse equilibrando la matriz de confusión mediante criterios de paridad demográfica o igualdad de oportunidades.
Considerar que la discriminación es un problema de calidad de datos o de selección inadecuada de variables implica ignorar que los datos históricos son representaciones de un orden social inequitativo. Un modelo entrenado con registros del mundo real reproduce y formaliza desigualdades estructurales; la razón estriba en que la realidad capturada es inequitativa. Aplicar correcciones matemáticas para forzar la igualdad de tasas de verdaderos positivos entre grupos (equalized odds) crea una apariencia de equidad formal que deja intactas las condiciones de injusticia material que generaron la disparidad inicial.
Tratar de desarticular el sesgo sin alterar las dinámicas de poder que determinan qué sistemas se construyen y para qué fines constituye una distorsión conceptual. Las directrices de la especificación técnica TS 12791:2024 recomiendan incluir controles de ingeniería y aprendizaje adversarial para evitar el uso de variables sustitutivas (proxies) de categorías protegidas. A pesar de ello, los modelos probabilísticos de alta dimensionalidad descubren combinaciones complejas de atributos no protegidos que reconstruyen la información demográfica eliminada. Pretender resolver dilemas éticos mediante algoritmos de desregulación de sesgo equivale a tecnificar la política, sustrayendo del debate público la pregunta de si ciertos sistemas algorítmicos de clasificación deberían ser prohibidos en lugar de corregidos estadísticamente.
7.4. Externalización geopolítica de los costes socioambientales
La normalización europea diseña sus estándares asumiendo un escenario institucional aislado, caracterizado por estados con alta capacidad regulatoria, acceso a redes eléctricas interconectadas y mercados financieros maduros. Esta visión omite de manera constante la dimensión geopolítica de las cadenas de valor de la inteligencia artificial. Mientras la Unión Europea promulga estándares de trazabilidad, transparencia y soberanía digital para garantizar un uso seguro en su territorio, las cargas ambientales y laborales más severas de esta economía se desplazan hacia geografías periféricas.
El consumo intensivo de agua dulce para la refrigeración de grandes centros de datos, documentado en el TR 18145:2025, se proyecta sobre regiones que sufren episodios severos de estrés hídrico, compitiendo directamente con las necesidades del consumo humano y agrícola local. De igual manera, las actividades intensivas en trabajo humano requeridas para la moderación de contenidos tóxicos y el etiquetado masivo de datos —indispensables para evitar sesgos y comportamientos anómalos según la norma TS 12791:2024— se subcontratan en países del Sur Global bajo condiciones laborales precarias y expuestas a trauma psicológico.
Los estándares técnicos analizados actúan como un dispositivo de fronteras éticas y ambientales. Se crea una burbuja de cumplimiento legal para el consumidor europeo basada en auditorías organizativas y cálculos de huella de carbono, mientras la infraestructura material que sostiene el sistema continúa basándose en la extracción extractivista de recursos y la precarización del trabajo global. La normalización de la sostenibilidad y la equidad algorítmica, lejos de transformar el modelo de desarrollo tecnológico, consolida una arquitectura donde los beneficios del procesamiento digital se concentran en los centros globales de capital mientras sus costes socioambientales se externalizan.
8. Hacia un régimen biofísico y democrático para la gobernanza integral de la inteligencia artificial: Marco de límites absolutos y soberanía comunitaria
El modelo regulatorio e industrial basado en la certificación técnica y la estandarización de procesos ha mostrado insuficiencias estructurales para contener las presiones ecológicas y los sesgos discriminatorios de los sistemas algorítmicos. Para superar la mera gestión cuantitativa e incorporar una gobernanza efectiva, se plantea una reestructuración de la normativa europea y global centrada en cuatro ejes de intervención directa: topes biofísicos al cómputo, auditorías ciudadanas independientes, evaluaciones de justicia estructural e imposición de responsabilidades extendidas en la cadena global de valor.
8.1. Redefinición biofísica: Presupuestos absolutos de energía y cuotas de procesamiento
Frente al enfoque tradicional de la eficiencia software expresado en informes técnicos, se plantea la creación de un Presupuesto Máximo de Cómputo Ecológico (PMCE) fijado por las autoridades ambientales de la Unión Europea. Este presupuesto establece techos absolutos e infranqueables de consumo energético y extracción hídrica anual para los centros de datos que operan dentro del mercado comunitario, independientemente del nivel de optimización alcanzado por los algoritmos.
Las empresas desarrolladoras deberán someterse a un sistema de subasta de cuotas biofísicas de cómputo donde la capacidad de entrenamiento de grandes modelos probabilísticos quede supeditada a la disponibilidad estacional de energía renovable no gestionable. Se prohíbe la transferencia de cargas computacionales hacia regiones del Sur Global golpeadas por el estrés hídrico mediante la aplicación de un Impuesto de Ajuste en Frontera para el Cómputo Intensivo (IAFCI). Dicha tasa penaliza la importación de modelos entrenados fuera del territorio comunitario si el proceso de supercomputación superó los umbrales de intensidad de carbono fijados localmente.
Las infraestructuras digitales deberán reorientar su diseño hacia la desceleración computacional programada, priorizando el uso de modelos pequeños especializados y restringiendo el despliegue de redes neuronales masivas a aplicaciones de utilidad pública comprobada. Esta medida sustituye la autorregulación voluntaria por una planificación biofísica donde la capacidad total de cálculo queda supeditada a los límites físicos del planeta.
8.2. Democratización del control: Auditoría pública y consorcios de supervisión ciudadana
Para desmontar la dependencia de organismos notificados privados y consultoras comerciales en la evaluación de conformidad legal, se propone la creación del Consorcio Europeo de Inspección Algorítmica Pública (CEIAP). Este órgano independiente, financiado mediante tasas directas a las grandes corporaciones tecnológicas, asume la responsabilidad exclusiva de evaluar los sistemas de alto riesgo antes de su comercialización.
El proceso de certificación abandona la verificación puramente documental e incorpora la auditoría participativa continua. Los colectivos vulnerados, sindicatos y comunidades locales afectadas dispondrán de representación directa en paneles de revisión de impacto algorítmico, ostentando la facultad legal de paralizar preventivamente el despliegue de cualquier sistema que muestre riesgos plausibles para los derechos individuales o colectivos.
Toda empresa que aspire a comercializar tecnología algorítmica en la Unión Europea tendrá la obligación de depositar los pesos del modelo, los conjuntos de datos de entrenamiento limpios y la arquitectura completa del código en un repositorio público supervisado. Se elimina la figura del secreto comercial para algoritmos empleados en la administración pública, la asignación de servicios básicos, la contratación laboral y la justicia penal, garantizando la legibilidad y la reproducibilidad pública total.
8.3. Justicia estructural y derecho al veto algorítmico comunitario
Frente a la corrección matemática de sesgos mediante ajustes estadísticos de paridad, se introduce el requisito de la Evaluación de Impacto en la Justicia Estructural (EIJE). Este procedimiento exige probar que el despliegue del sistema no contribuye a perpetuar ni a acentuar brechas socioeconómicas, raciales o de género existentes, antes de autorizar cualquier ajuste numérico de hiperparámetros.
Se reconoce legalmente el derecho inalienable al veto algorítmico, que faculta a comunidades y grupos sociales para exigir la retirada inmediata o la prohibición total de tecnologías de categorización probabilística en ámbitos sensibles como la vigilancia biométrica en espacios públicos, la predicción delictiva y la evaluación crediticia automatizada. La prevención de la discriminación no se concibe como un arreglo de ingeniería; constituye una decisión de soberanía comunitaria donde la prohibición explícita prima sobre la atenuación matemática de errores.
Los desarrolladores estarán obligados a incorporar mecanismos de reversibilidad tecnológica obligatoria. Todo sistema automatizado deberá contar con un modo de funcionamiento análogo basado en la mediación humana directa, accesible sin costes adicionales ni demoras injustificadas para los usuarios que decidan renunciar al procesamiento algorítmico.
8.4. Responsabilidad extendida en la cadena global de valor y reparación socioambiental
Con la finalidad de erradicar la externalización de costes humanos y ambientales hacia países terceros, se establece un Régimen de Responsabilidad Extendida para la Inteligencia Artificial (RRE-IA). Este marco exige a las corporaciones europeas auditar y responder jurídicamente por las condiciones laborales y ecológicas presentes en la totalidad de su cadena de suministro.
Las multinacionales responderán civil y penalmente en los tribunales comunitarios por abusos de derechos laborales cometidos en actividades subcontratadas de moderación de contenidos y etiquetado de datos en el extranjero. Igualmente, estarán sujetas a la obligación de reparar los daños ambientales causados por la extracción de minerales necesarios para el hardware en los países de origen, destinando un porcentaje de sus beneficios a fondos de justicia ambiental internacional.
Este esquema vincula la concesión del marcado CE a la trazabilidad completa del ciclo de vida del sistema, desde la mina de litio hasta el centro de datos y el reciclaje de componentes electrónicos. De este modo, la regulación europea abandona el aislamiento insular y asume un compromiso efectivo con la equidad social y la protección ambiental a escala global.
9. Determinaciones finales basadas en el marco normativo y técnico
El análisis cruzado de los informes y especificaciones técnicas europeas (UNE-CEN/CLC/TR 17894:2024, UNE-CEN/CLC/TR 18145:2025, UNE-CEN/CLC ISO/IEC/TR 24027:2023 y TS 12791:2024) permite extraer determinaciones sobre la articulación de la gobernanza algorítmica y sus límites operacionales.
9.1. Inseparabilidad del vector ambiental y el vector social
Los estándares técnicos demuestran que la evaluación del impacto de los sistemas probabilísticos no puede segmentarse en compartimentos aislados. La medición de la intensidad de carbono del software y del consumo hídrico por inferencia (TR 18145:2025) guarda una relación directa con la complejidad matemática de las arquitecturas orientadas a corregir el sesgo no deseado (TS 12791:2024).
Cada iteración adicional en el entrenamiento de un modelo para ajustar parámetros de equidad demográfica incrementa la huella hídrica y el consumo energético del procesamiento informático. La gobernanza técnica requiere reconocer que las intervenciones de equidad algorítmica conllevan costes biofísicos directos sobre la infraestructura material.
9.2. Insuficiencia de la conformidad procedimental frente al riesgo estocástico
Las reglas de evaluación de conformidad (TR 17894:2024), estructuradas en torno al Nuevo Marco Legislativo y al marcado CE, establecen un procedimiento de control de calidad organizativo e inspección documental.
Estas garantías formales no eliminan el comportamiento emergente ni las derivas de datos en entornos de despliegue real. La presunción de conformidad obtenida mediante el cumplimiento de la norma ISO/IEC 42001 o la acreditación EN ISO/IEC 17065 acredita la existencia de procesos de gestión de riesgos, pero deja desatendida la posibilidad de sesgos no detectados o el desgaste ecológico del sistema durante su ciclo de vida activo.
9.3. Carácter político de la corrección del sesgo algorítmico
La taxonomía de orígenes del sesgo (TR 24027:2023) confirma que las desviaciones en las decisiones automatizadas se derivan de asimetrías históricas presentes en los conjuntos de datos de entrenamiento y de decisiones humanas de diseño.
Las técnicas de ingeniería para la supresión de atributos protegidos o el balanceo de falsos positivos (TS 12791:2024) actúan como ajustes cuantitativos sobre la distribución de salida, dejando inalterada la condición estructural de los datos de entrada. La equidad algorítmica no constituye un estado de equilibrio matemático neutro; representa una elección deliberada entre criterios estadísticos incompatibles entre sí.
9.4. Necesidad de límites biofísicos directos y soberanía pública
El examen de la normativa evidencia que la mera visibilidad de las métricas de rendimiento no conduce a una contracción en el consumo global de recursos informáticos.
La regulación eficaz exige complementar la estandarización de procesos con la fijación de presupuestos máximos de consumo energético y de agua dulce, acompañados de auditorías públicas continuas donde la sociedad civil disponga de capacidad legal de veto y supervisión sobre los repositorios de datos y algoritmos de alto riesgo.
___________
Bibliografía
Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica.
Asociación Española de Normalización [UNE]. (2023). Tecnología de la información. Inteligencia artificial (IA). Sesgos en los sistemas de IA y en la toma de decisiones asistida por IA (UNE-CEN/CLC ISO/IEC/TR 24027:2023). AENOR.
Asociación Española de Normalización [UNE]. (2024a). Inteligencia artificial. Evaluación de la conformidad de la inteligencia artificial (UNE-CEN/CLC/TR 17894:2024). AENOR.
Asociación Española de Normalización [UNE]. (2024b). Tecnología de la información. Inteligencia artificial. Tratamiento de sesgos no deseados en tareas de aprendizaje automático de clasificación y regresión (UNE-CEN/CLC ISO/IEC/TS 12791:2024). AENOR.
Asociación Española de Normalización [UNE]. (2025). Inteligencia artificial ambientalmente sostenible (UNE-CEN/CLC/TR 18145:2025). AENOR.
Barocas, S., Hardt, M., & Narayanan, A. (2019). Fairness and Machine Learning: Limitations and Opportunities. fairmlbook.org.
Borar, M. (2020). Frugal A.I. Learning with Little Data. LinkedIn Pulse.
Cai, H., Gan, C., Wang, T., Zhang, Z., & Han, S. (2020). Once-for-all: Train one network and specialize it for efficient deployment. In International Conference on Learning Representations (ICLR).
Caliskan, A., Bryson, J. J., & Narayanan, A. (2017). Semantics derived automatically from language corpora contain human-like biases. Science, 356(6334), 183-186.
CEN/CENELEC Technical Committee JTC 21. (2023). Information technology - Artificial intelligence (AI) - Bias in AI systems and AI aided decision making (CEN/CLC ISO/IEC/TR 24027:2023). CEN/CENELEC Management Centre.
CEN/CENELEC Technical Committee JTC 21. (2024a). Artificial Intelligence - Artificial Intelligence Conformity Assessment (CEN/CLC/TR 17894:2024). CEN/CENELEC Management Centre.
CEN/CENELEC Technical Committee JTC 21. (2024b). Information technology - Artificial intelligence - Treatment of unwanted bias in classification and regression machine learning tasks (CEN/CLC ISO/IEC/TS 12791:2024). CEN/CENELEC Management Centre.
CEN/CENELEC Technical Committee JTC 21. (2025). Environmentally sustainable Artificial Intelligence (CEN/CLC/TR 18145:2025). CEN/CENELEC Management Centre.
Chawla, N. V., Bowyer, K. W., Hall, L. O., & Kegelmeyer, W. P. (2002). SMOTE: Synthetic minority over-sampling technique. Journal of Artificial Intelligence Research, 16, 321-357.
Dwork, C., Immorlica, N., Kalai, A. T., & Leiserson, M. (2018). Decoupled classifiers for group-fair and efficient machine learning. In Proceedings of the 1st Conference on Fairness, Accountability and Transparency (PMLR), 81, 119-133.
European Network of Transmission System Operators for Electricity [ENTSO-E]. (2023). Accelerating Europe’s energy transition. ENTSO-E Grid Forum.
Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford, K. (2018). Datasheets for datasets. arXiv preprint arXiv:1803.09010.
Hardt, M., Price, E., & Srebro, N. (2016). Equality of opportunity in supervised learning. Advances in Neural Information Processing Systems, 29, 3315-3323.
International Organization for Standardization [ISO] / International Electrotechnical Commission [IEC]. (2021). Information technology — Artificial intelligence (AI) — Bias in AI systems and AI aided decision making (ISO/IEC TR 24027:2021). ISO/IEC.
International Organization for Standardization [ISO] / International Electrotechnical Commission [IEC]. (2024). Information technology — Artificial intelligence — Treatment of unwanted bias in classification and regression machine learning tasks (ISO/IEC TS 12791:2024). ISO/IEC.
Kahneman, D. (2011). Thinking, Fast and Slow. Farrar, Straus and Giroux.
Lannelongue, L., Grealey, J., & Inouye, M. (2021). Green Algorithms: Quantifying the carbon footprint of computation. Advanced Science, 8(12), 2100707.
Masanet, E., Shehabi, A., Lei, N., Smith, S., & Koomey, J. (2020). Recalibrating global data center energy-use estimates. Science, 367(6481), 984-986.
Mesa, A., et al. (2020). Modelling demand response interventions with long-short-term-memory networks. Energy Efficiency, 13, 1263-1280.
Mitchell, M., Wu, S., Zaldivar, A., Barnes, P., Vasserman, L., Hutchinson, B., Spitzer, E., Raji, I. D., & Gebru, T. (2019). Model cards for model reporting. In Proceedings of the Conference on Fairness, Accountability, and Transparency (FAT* '19), 220-229.
Mytton, D. (2021). How much water do data centers use? David Mytton Blog.
O'Neill, J. (2020). An overview of neural network compression. arXiv preprint arXiv:2006.03669.
Patterson, D., Gonzalez, J., Hölzle, U., Le, Q., Liang, C., Munguia, L. M., et al. (2022). The carbon footprint of machine learning training will plateau, then shrink. Computer, 55(7), 18-28.
Saleiro, P., Kuester, B., Hinkson, L., London, J., Stevens, A., Anisfeld, A., Rodolfa, K. T., & Ghani, R. (2018). Aequitas: A bias and fairness audit toolkit. arXiv preprint arXiv:1811.05577.
Schwartz, R., Dodge, J., Smith, N. A., & Etzioni, O. (2020). Green AI. Communications of the ACM, 63(12), 54-63.
Shin, H., Roth, H. R., Gao, M., Lu, L., Xu, Z., Nogues, I., Yao, J., Kim, D., & Summers, R. M. (2016). Deep convolutional neural networks for computer-aided detection: CNN architectures, dataset characteristics and transfer learning. IEEE Transactions on Medical Imaging, 35(5), 1285-1298.
Strubell, E., Ganesh, A., & McCallum, A. (2019). Energy and policy considerations for deep learning in NLP. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, 3645-3650.
Su, F., Liu, C., & Stratigopoulos, H. (2023). Testability and dependability of AI hardware: Survey, trends, challenges, and perspectives. IEEE Design & Test, 40(3), 45-58.
van Wynsberghe, A. (2021). Sustainable A.I.: AI for sustainability and the sustainability of AI. AI and Ethics, 1(3), 213-218.
Zhang, B. H., Lemoine, B., & Mitchell, M. (2018). Mitigating unwanted biases with adversarial learning. In Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, 335-340.