¿Qué exige el AI Act sobre transparencia?
El Reglamento Europeo de Inteligencia Artificial (AI Act) incorpora obligaciones de transparencia que afectan a empresas que desarrollan o utilizan sistemas de IA. El artículo 50 del AI Act, aplicable desde el 2 de agosto de 2026, establece obligaciones diferentes según el papel que desempeña cada empresa —como proveedora o responsable del uso del sistema—, el tipo de tecnología utilizada y el contexto en el que se aplica.
Algunos usos implican una obligación legal clara de informar al usuario, mientras que otros quedan en el ámbito de las recomendaciones o de las mejores prácticas.
Clave práctica
No todo contenido creado con ayuda de IA debe etiquetarse automáticamente. Lo que determina la obligación de aviso es el contexto, la función del sistema, el papel que desempeña la empresa y la posibilidad de que una persona pueda confundir el contenido o la interacción con algo auténtico o humano.
Cuándo existe una obligación legal de informar
El AI Act contempla, entre otras, obligaciones específicas para:
-
Sistemas que interactúan directamente con personas: cuando un usuario mantiene una interacción directa con un sistema de IA, como un chatbot, un agente o un avatar interactivo, debe garantizarse que sea informado desde el inicio de la primera interacción de que está tratando con una IA, salvo que resulte evidente por el contexto.
-
Contenido sintético o manipulado: los proveedores de sistemas que generan contenidos de audio, imagen, vídeo o texto deben incorporar mecanismos que permitan detectar técnicamente que han sido generados o manipulados mediante IA. Además, cuando una empresa publica un contenido que constituye un deepfake, debe identificarlo de forma clara y perceptible.
-
Reconocimiento de emociones y categorización biométrica: las empresas que utilicen estos sistemas deben informar de su funcionamiento a las personas expuestas a ellos, sin perjuicio de las restricciones y prohibiciones que puedan afectar a determinados usos.
-
Textos sobre asuntos de interés público: los textos generados o manipulados mediante IA y publicados con la finalidad de informar sobre cuestiones de interés público deben identificarse cuando no hayan sido sometidos a una revisión humana efectiva ni exista responsabilidad editorial sobre su contenido.
Los sistemas de IA clasificados como de alto riesgo tienen, además, sus propias obligaciones de documentación, información, supervisión y control. Estas obligaciones deben analizarse de manera independiente y no deben confundirse con los requisitos específicos de transparencia aplicables a chatbots, deepfakes y otros contenidos generados por IA.
Por tanto, conviene evaluar caso por caso si un sistema concreto entra en alguno de estos supuestos y qué obligaciones corresponden a cada empresa.
Casos prácticos y qué hacer en cada uno
¿Debe un chatbot avisar de que utiliza IA?
Ejemplo: un chatbot que responde preguntas frecuentes o tramita incidencias.
-
Obligación legal: cuando el chatbot está diseñado para mantener una interacción directa con personas, debe garantizarse que el usuario sepa que está tratando con una IA desde el inicio de la primera interacción, salvo que resulte evidente por el contexto.
-
Recomendación: indicar claramente el alcance del asistente, explicar qué puede y qué no puede hacer y ofrecer la opción de contactar con un agente humano cuando resulte necesario.
-
Buena práctica: incluir un aviso inicial y documentar la configuración del asistente, los avisos mostrados y los criterios de supervisión. Las conversaciones no deberían almacenarse de forma indiscriminada: cualquier registro debe responder a una finalidad justificada y cumplir las obligaciones de protección de datos.
Voces generadas por IA: cuándo hay que informar
Ejemplo: mensajes de voz en sistemas IVR o locuciones comerciales con voces sintéticas.
-
Obligación legal: los proveedores de sistemas que generan audio sintético deben incorporar mecanismos técnicos que permitan detectar que ha sido generado o manipulado mediante IA. Si la voz imita a una persona existente y puede hacer creer que la grabación es auténtica, el contenido puede considerarse un deepfake y debe identificarse de forma clara.
-
Recomendación: informar cuando la voz sea sintética, especialmente en comunicaciones que puedan afectar a la confianza o a la toma de decisiones del usuario. Si la voz forma parte de un asistente que interactúa directamente con una persona, también debe informarse de que se está interactuando con una IA, salvo que resulte evidente.
-
Buena práctica: conservar pruebas del consentimiento cuando se haya recreado la voz de una persona real y documentar el origen y las condiciones de utilización de esa voz.
¿Cuándo debe identificarse un avatar generado por IA?
Ejemplo: un avatar virtual que representa a una persona en una campaña o en un asistente comercial.
-
Obligación legal: si el avatar interactúa directamente con personas, debe informarse de que se trata de un sistema de IA, salvo que resulte evidente. Cuando el avatar reproduce a una persona existente y puede hacer creer que la representación es auténtica, también puede considerarse un deepfake y requerir una identificación clara.
-
Recomendación: aclarar en el entorno donde aparece —web, anuncio, vídeo o asistente— que se trata de un avatar generado por IA cuando pueda existir confusión.
-
Buena práctica: documentar las fuentes y herramientas utilizadas para generar el avatar y obtener las autorizaciones necesarias cuando reproduzca la imagen o identidad de una persona real.
Imágenes, vídeos y audios manipulados con IA
Ejemplo: contenidos promocionales que han sido alterados o generados íntegramente mediante IA.
-
Obligación legal: los proveedores de las herramientas deben incorporar mecanismos técnicos que permitan detectar el contenido generado o manipulado. La empresa que lo publica debe identificarlo de forma clara cuando constituya un deepfake, es decir, cuando represente a personas, objetos, lugares, entidades o acontecimientos existentes o plausibles y pueda parecer auténtico o verdadero.
-
Recomendación: identificar el material sintético en contextos informativos, publicitarios o especialmente sensibles cuando pueda influir en la percepción del público, aunque no exista una obligación automática de etiquetarlo.
-
Buena práctica: mantener metadatos y documentación que acrediten la generación o manipulación del contenido, evitar suplantaciones de terceros y distinguir entre una edición estándar y una modificación capaz de alterar el significado o la autenticidad percibida.
Reconocimiento de emociones y categorización biométrica
Ejemplo: sistemas que analizan expresiones, voz, comportamiento o características biométricas para clasificar o inferir información sobre una persona.
-
Obligación legal: las personas expuestas a estos sistemas deben ser informadas de que están siendo utilizados. Además, algunos usos de reconocimiento de emociones o categorización biométrica están expresamente restringidos o prohibidos por el AI Act.
-
Recomendación: revisar previamente la finalidad, la base jurídica, el contexto de uso y la necesidad real de implantar este tipo de tecnología.
-
Buena práctica: realizar una evaluación específica de riesgos y privacidad antes de su implantación y limitar el tratamiento a los datos estrictamente necesarios.
Textos generados por IA sobre asuntos de interés público
Ejemplo: artículos, informes o publicaciones destinados a informar sobre cuestiones políticas, económicas, sanitarias, medioambientales o sociales relevantes.
-
Obligación legal: los textos generados o manipulados mediante IA deben identificarse cuando se publican para informar sobre asuntos de interés público y no han sido sometidos a una revisión humana efectiva ni existe responsabilidad editorial sobre su contenido.
-
Recomendación: establecer un procedimiento real de revisión, verificación de fuentes y aprobación antes de publicar contenidos de esta naturaleza.
-
Buena práctica: documentar quién ha revisado el contenido, qué fuentes se han comprobado y quién asume la responsabilidad final de su publicación.
Cómo diferenciar una obligación legal de una buena práctica
Al evaluar un caso concreto conviene aplicar este orden de prioridades:
-
Determinar si el uso encaja en alguna de las categorías reguladas: interacción directa con personas, reconocimiento de emociones, categorización biométrica, contenido sintético, deepfakes o textos sobre asuntos de interés público.
-
Identificar si la empresa actúa como proveedora del sistema, responsable de su uso o ambas cosas, porque las obligaciones pueden ser diferentes.
-
Comprobar requisitos sectoriales adicionales, como protección de datos, publicidad, derechos de imagen o propiedad intelectual.
-
Si existe obligación legal de informar, integrar el aviso de forma clara, accesible y perceptible en la experiencia del usuario.
-
Si no existe una obligación automática, aplicar recomendaciones y buenas prácticas para reducir riesgos reputacionales, operativos y legales.
Checklist de transparencia del AI Act para empresas
-
Realiza un inventario de los sistemas y contenidos que utilizan IA: chatbots, voces, avatares, imágenes, vídeos, audios y herramientas internas.
-
Identifica si la empresa actúa como proveedora del sistema, como responsable de su utilización o desempeña ambos papeles.
-
Evalúa si cada sistema interactúa directamente con personas o genera contenido sintético susceptible de confundirse con algo auténtico.
-
Comprueba si se utilizan sistemas de reconocimiento de emociones o categorización biométrica.
-
Revisa si se publican textos generados mediante IA sobre asuntos de interés público y si existe una revisión humana efectiva.
-
Define textos de aviso adecuados y emplazamientos visibles en interfaces, contenidos y materiales.
-
Registra las decisiones tecnológicas, los avisos implantados y los procedimientos de control, revisión y trazabilidad.
-
Forma a los equipos de producto, marketing, recursos humanos, comunicación y dirección para que reconozcan los riesgos y requisitos aplicables.
-
Revisa los contratos con proveedores de modelos y plataformas para comprobar qué información, documentación y mecanismos de marcado proporcionan.
Cómo empezar a revisar los usos de IA de una empresa
Si tu empresa aún no ha revisado sus usos de IA, un primer paso práctico es realizar una evaluación interna y priorizar los sistemas que interactúan con clientes, analizan información personal o producen contenido público.
Para apoyar ese proceso, ofrecemos un servicio de adecuación al Reglamento Europeo de IA que ayuda a identificar los sistemas utilizados, mapear riesgos y definir avisos, controles y procedimientos internos.
Para consultas específicas sobre cómo implantar estas medidas puedes ponerte en contacto con el equipo de Clickmesh. Nuestro trabajo se centra en la revisión técnica y organizativa de los usos de IA y no sustituye el asesoramiento jurídico especializado cuando resulte necesario.
Conclusión
El AI Act refuerza la necesidad de transparencia en usos concretos de IA, pero no convierte en obligatorio etiquetar cualquier contenido creado con ayuda de estas herramientas.
La decisión de informar debe fundamentarse en el tipo de sistema, el papel que desempeña la empresa, el contexto, el potencial de confusión o perjuicio y las demás obligaciones sectoriales aplicables.
Como paso inmediato, realiza un inventario de sistemas y contenidos con IA y establece criterios internos para determinar cuándo y cómo debe informarse a usuarios y terceros.
