IA Y GOBERNANZA
Cómo funciona, quién decide y dónde están los límites
Conceptos para hablar de sistemas, modelos, resultados y responsabilidades sin confundir una herramienta con una capacidad humana.
DEFINICIÓN01
Alfabetización en IA
Conocimientos y capacidades que permiten comprender oportunidades, riesgos y posibles daños de la IA, y tomar decisiones informadas sobre su uso. En una empresa, las medidas deben adaptarse a las personas, los sistemas y el contexto.
Guía del artículo 4 →DEFINICIÓN02
Sistema de IA
Sistema basado en máquinas que, con distintos niveles de autonomía y posible adaptación tras su despliegue, infiere a partir de las entradas cómo generar predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales.
Cómo inventariar sistemas →DEFINICIÓN03
IA generativa
Tipo de IA capaz de producir contenido nuevo (como texto, imagen, audio, vídeo o código) a partir de patrones aprendidos y de las instrucciones o datos que recibe.
Formación práctica →DEFINICIÓN04
Modelo de IA de uso general
Modelo que muestra una generalidad significativa, puede realizar de forma competente una amplia variedad de tareas y puede integrarse en numerosos sistemas o aplicaciones. No es lo mismo que el producto final que utiliza una empresa.
Evaluar una herramienta →DEFINICIÓN05
Inferencia
Proceso por el que un modelo ya entrenado utiliza una entrada para producir una salida. Una salida probable no equivale necesariamente a un hecho comprobado ni a una decisión correcta.
Verificar respuestas →DEFINICIÓN06
Alucinación
Salida falsa, inexacta o no sustentada que un sistema generativo presenta con apariencia plausible. Debe contrastarse con fuentes y criterios independientes cuando pueda afectar a una decisión.
Protocolo de verificación →DEFINICIÓN07
Sesgo
Desviación sistemática que puede producir resultados injustos, inexactos o desproporcionados. Puede proceder de datos, diseño, objetivo, contexto de uso o interpretación humana.
Formación AI Act →DEFINICIÓN08
Prompt
Instrucción y contexto que una persona o sistema proporciona a un modelo para orientar su salida. Puede incluir restricciones y formato, pero no elimina la necesidad de revisar el resultado.
Aprender prompting seguro →DEFINICIÓN09
Inyección de prompt
Ataque o manipulación que introduce instrucciones maliciosas en el contenido procesado por un sistema de IA para alterar su comportamiento, revelar información o provocar acciones no previstas.
Formación ciberseguridad e IA →DEFINICIÓN10
Supervisión humana
Medidas para que una persona con competencia, autoridad e información suficientes pueda comprender las limitaciones, vigilar el funcionamiento, interpretar la salida e intervenir o detener el uso cuando sea necesario.
Diseñar supervisión humana →DEFINICIÓN11
Proveedor de un sistema de IA
Persona u organización que desarrolla un sistema o modelo de IA, o manda desarrollarlo, y lo comercializa o pone en servicio bajo su propio nombre o marca. El papel debe analizarse para cada sistema y cadena de valor.
Gobierno de IA →DEFINICIÓN12
Responsable del despliegue
Persona u organización que utiliza un sistema de IA bajo su autoridad, salvo el uso personal no profesional. Muchas empresas que incorporan herramientas de terceros actúan en este papel.
Revisar roles y obligaciones →DEFINICIÓN13
Práctica de IA prohibida
Uso expresamente vetado por el AI Act por el riesgo que representa para derechos y personas. La prohibición depende de las condiciones concretas de la práctica, no solo del nombre de la tecnología.
Entender el AI Act →DEFINICIÓN14
Sistema de IA de alto riesgo
Sistema incluido en los supuestos del AI Act por su función o ámbito. El Reglamento prevé obligaciones reforzadas; tras la reforma de 2026, sus principales requisitos se aplicarán desde el 2 de diciembre de 2027 para los sistemas del anexo III y desde el 2 de agosto de 2028 para los vinculados al anexo I. No toda IA utilizada en empleo, salud o servicios esenciales queda clasificada automáticamente: debe analizarse el caso.
Evaluar el caso de uso →