¿Qué normas ha establecido la Unión Europea para regular los modelos avanzados de inteligencia artificial?: La Unión Europea ha alcanzado un acuerdo preliminar sobre el primer reglamento global del mundo en materia de inteligencia artificial.
Este reglamento pretende mitigar los riesgos potenciales de los modelos avanzados de inteligencia artificial, como la parcialidad, la discriminación y el uso indebido.
Temas
Detalles
La nueva normativa estipula que todos los desarrolladores de sistemas de inteligencia artificial de propósito general
-modelos potentes con una amplia gama de aplicaciones potenciales- deben cumplir unos requisitos básicos de transparencia,
a menos que sean libres y de código abierto.
Estas normas incluyen lo siguiente:
- Disponer de una política de uso aceptable
- Mantener información actualizada sobre cómo se entrenan los modelos de inteligencia artificial
- Proporcionar un resumen detallado de los datos utilizados para entrenar modelos de inteligencia artificial
- Disponer de una política de respeto de los derechos de autor
En cuanto a los modelos que se considera que plantean un «riesgo sistémico», están sujetos a normas adicionales.
La Unión Europea define este riesgo en función de la potencia de cálculo utilizada para entrenar el modelo.
El umbral para ello es de más de 10 billones (o septillones) de operaciones por segundo.
Estas normas adicionales incluyen lo siguiente:
- Divulgar el consumo de energía
- Realizar pruebas de equipo rojo o de adversarios, ya sea interna o externamente
- Evaluar los posibles riesgos sistémicos y mitigarlos, y notificar cualquier incidente
- Garantizar que utilizan los controles de ciberseguridad adecuados
- Divulgar la información utilizada para ajustar el modelo y su propia arquitectura de sistemas
- Cumplir normas de mayor eficiencia energética si están disponibles
Análisis:
Este acuerdo es un paso significativo en el esfuerzo por regular la inteligencia artificial de forma responsable.
Las nuevas normas establecen estándares claros para los desarrolladores de inteligencia artificial,
ayudando a mitigar los riesgos potenciales de esta tecnología.
Sin embargo, estas normas siguen suscitando cierta inquietud.
Por ejemplo, a algunos expertos les preocupa que las normas puedan ser demasiado complejas o caras para las pequeñas empresas.
A otros les preocupa que las normas puedan perjudicar la innovación en el campo de la inteligencia artificial.
Conclusión:
Es probable que el acuerdo preliminar sea objeto de más debate y escrutinio en el futuro.
Sin embargo, representa un importante punto de partida en el esfuerzo por regular la inteligencia artificial de forma responsable.
Qué normas ha establecido la Unión Europea para regular los modelos avanzados de inteligencia artificial?
