Política de Uso de IA
Uso responsable de la inteligencia artificial. Clasificación EU AI Act, transparencia y supervisión humana.
- Shara no toma decisiones con efectos jurídicos sin aprobación humana
- Categorización EU AI Act: no encaja en el Anexo III (alto riesgo) · sí aplica la transparencia del art. 50
- Batería de pruebas adversariales contra la manipulación de instrucciones: 54 ataques, 95 % neutralizado como mínimo para publicar
- Cortes automáticos de gasto · modo ahorro fuera de horario · registro de cada ejecución
- No entrenamos modelos con tus datos · retención cero y no-entrenamiento en el proveedor de inferencia (infraestructura soberana en la UE)
- La voz que dictas se transcribe y no se conserva · en Concerto Local los modelos corren en tu propia máquina
En Shara usamos modelos de lenguaje y otras técnicas de inteligencia artificial para asistir a equipos administrativos en sus tareas diarias. Esta política describe nuestros principios, las medidas de transparencia y seguridad aplicables al sistema, y cómo cumplimos con el RGPD y el Reglamento (UE) 2024/1689 de Inteligencia Artificial ("EU AI Act"). El documento está dirigido tanto al Cliente como a los interesados cuyos datos se tratan en el Servicio.
1. Compromisos básicos
- Asistencia, no sustitución: Shara propone, redacta y agiliza, pero las decisiones que producen efectos jurídicos o económicos significativos requieren aprobación humana a través de la cola de aprobación.
- Transparencia operativa: cada acción de un agente queda registrada en el registro de auditoría y es consultable por el Cliente con detalle por ejecución.
- Soberanía del dato: los datos del Cliente no se utilizan para entrenar modelos propios ni de terceros.
- Mitigación activa de riesgos: cortes de gasto, modo ahorro, pruebas adversariales continuas y aprobación humana en las acciones críticas.
- Reversibilidad: el Cliente puede desactivar agentes, conectores y automatizaciones en cualquier momento desde el panel de administración.
2. Mapeo EU AI Act
| Clasificación | Aplicación a Shara | Obligaciones aplicables |
|---|---|---|
| Anexo III, alto riesgo | Shara, en su uso por defecto, no encaja: es asistente administrativo, no decisor en empleo, crédito, justicia o servicios esenciales. | Si el Cliente pretende usarlo en un caso del Anexo III, debe contactarnos previamente: ese uso requiere evaluación de impacto, evaluación de impacto en derechos fundamentales y controles adicionales contractuales y técnicos. |
| Art. 5, prácticas prohibidas | Shara no realiza ninguna: no manipula subliminalmente, no explota vulnerabilidades, no puntúa socialmente a personas, no realiza identificación biométrica masiva ni reconocimiento de locutor sobre las grabaciones de voz. | Política de uso aceptable que prohíbe expresamente al Cliente cualquier uso del art. 5. |
| Art. 50, transparencia | Sí aplica: Shara es un sistema de IA que interactúa con personas y genera contenido. | Informamos a los usuarios de que están interactuando con un sistema de IA y, cuando aplique, marcamos el contenido como generado o modificado por IA. |
| Art. 50.4, contenido sintético audiovisual | Shara no genera vídeo ni voz sintética: sus salidas son textuales o estructuradas. Con la voz solo hace el camino inverso, transcribir lo que dicta una persona. | Prohibición expresa al Cliente de generar suplantaciones audiovisuales con Shara salvo usos claramente identificados como sintéticos. |
| Capítulo V, modelos de propósito general | Aplica indirectamente a través del proveedor de inferencia (tercero bajo NDA, sobre infraestructura soberana en la UE), que asume las obligaciones del capítulo. | Exigimos al proveedor documentación técnica y compromisos de transparencia razonables. |
3. Decisiones automatizadas y supervisión humana
Conforme al artículo 22 del RGPD, Shara está diseñado para no tomar decisiones exclusivamente automatizadas con efectos jurídicos significativos sobre el interesado. El mecanismo de control es la cola de aprobación: las acciones críticas se encolan y requieren aprobación por una persona autorizada del Cliente antes de ejecutarse.
3.1 Acciones que requieren aprobación obligatoria
| Tipo de acción | Por qué requiere una persona |
|---|---|
| Envío de correo externo en nombre del Cliente | Compromiso reputacional y posible riesgo legal si el contenido es incorrecto. |
| Ejecución de pago u orden bancaria | Efecto económico inmediato e irreversible. |
| Contratación, despido o modificación contractual de personal | Efectos jurídicos y derechos fundamentales (art. 22 RGPD). |
| Modificación contractual con clientes o proveedores | Compromisos legales y económicos. |
| Decisión de personal (selección, evaluación, promoción) | Anexo III del EU AI Act y arts. 22 y 21 RGPD. |
| Comunicación pública en nombre del Cliente (redes, prensa) | Riesgo reputacional. Trazabilidad firmada por una persona. |
| Cambio en las políticas de la cuenta (permisos, configuración crítica) | Impacto sobre todo el sistema del Cliente. |
| Escritura o borrado de ficheros en los equipos del Cliente a través de un agente instalado | Efecto directo sobre sistemas ajenos al Servicio, y difícil de deshacer. |
El Cliente puede ampliar este listado y elevar el umbral por agente, tipo de acción y rango económico desde el panel de administración.
3.2 Agentes instalados en los equipos del Cliente
Shara no vive solo en el navegador. Hay una aplicación de escritorio y hay agentes que el Cliente instala en sus equipos o servidores para que las tareas puedan ejecutarse sobre sus propias herramientas. Esto es lo que conviene tener claro sobre esa parte:
- El agente solo alcanza lo que el Cliente le conecta: las cuentas, carpetas y herramientas que autoriza expresamente. No descubre ni accede a nada más por su cuenta.
- El alcance concedido se puede reducir o retirar en cualquier momento desde la administración de la cuenta, y el efecto es inmediato.
- Todo lo que el agente ejecuta queda registrado, con su identificador de ejecución, para que el Cliente pueda reconstruir qué se hizo y cuándo.
- Las acciones con efecto irreversible sobre esos sistemas pasan por la cola de aprobación antes de ejecutarse.
- El interruptor general de parada («pausar todos los agentes») alcanza también a los agentes instalados.
3.3 Voz
La aplicación permite dictar por micrófono. El micrófono solo se activa cuando el Usuario lo pulsa: no hay escucha continua ni activación por palabra clave.
La transcripción se resuelve en el propio equipo cuando el modelo local está disponible. Cuando no lo está, la grabación se envía al proveedor de inferencia —que opera sobre infraestructura soberana en la Unión Europea— exclusivamente para transcribirla, con retención cero y sin uso para entrenamiento. Ni el audio ni la transcripción se conservan más allá de lo necesario para devolver el texto al Usuario.
La transcripción automática comete errores, sobre todo con nombres propios, cifras y ruido de fondo. El texto se devuelve al Usuario para que lo revise antes de usarlo: no se ejecuta nada directamente a partir de una grabación.
No hacemos reconocimiento de locutor ni ningún otro tratamiento dirigido a identificar a una persona por su voz, y el Cliente tiene prohibido usar Shara con esa finalidad.
3.4 Concerto Local
En Concerto Local los modelos Concerto se ejecutan en la infraestructura del Cliente: el contenido que procesan no sale de su red. La cuota de orquestación Amadeus en la nube que incluye el plan es un interruptor de su consola de administración; con él apagado, ninguna tarea de inferencia se delega fuera.
Todo lo demás de esta política —supervisión humana, cola de aprobación, registro de ejecuciones, cortes de gasto, límites conocidos— se aplica igual en esa modalidad. La diferencia es dónde ocurre el cómputo, no cómo se gobierna.
Los modelos Concerto son más pequeños que los que se sirven en la nube y su calidad depende del hardware del Cliente. Es un intercambio deliberado, y conviene tomar la decisión sabiéndolo: se gana confidencialidad y se cede capacidad.
4. Sesgos y discriminación
Los modelos de lenguaje pueden reproducir sesgos presentes en sus datos de entrenamiento. Aplicamos medidas para detectarlos y mitigarlos:
- Casos de detección de sesgo en la batería de pruebas adversariales (lenguaje, género, origen, edad, capacidad).
- Plantillas de instrucciones revisadas para reducir formulaciones discriminatorias en los agentes que afectan a personas (Maslow, en recursos humanos; Carlzon, en atención al cliente).
- Evaluación periódica con un conjunto de control y entrega de las métricas internas a los clientes Max y Concerto Local que lo soliciten.
- Exclusión de modelos por cliente: los planes Max y Concerto Local pueden excluir alias concretos si su evaluación interna detecta sesgos que no consideren aceptables.
- Recomendación explícita de no utilizar Shara, sin una evaluación de impacto específica, para decisiones automatizadas en acceso al empleo, al crédito o a servicios esenciales.
5. Robustez frente a la manipulación de instrucciones
El contenido externo (correos, documentos, páginas web) es potencialmente hostil: puede llevar dentro instrucciones escritas para que el modelo las obedezca. Aplicamos:
- Batería de pruebas adversariales con cobertura del OWASP LLM Top 10 y casos propios del producto: instrucciones inyectadas directamente, inyección a través de documentos, exfiltración de datos, revelación de información sensible, diseño inseguro de herramientas.
- Un mínimo de 50 ataques en el conjunto vigente (54 en el momento de publicar esta política); la versión no se publica si queda neutralizado menos del 95 %.
- Refuerzo en las instrucciones del sistema para tratar el contenido externo como material a procesar, nunca como órdenes a ejecutar.
- Filtro de salida que elimina cualquier mención del modelo real, de las instrucciones del sistema, de la ficha de identidad del agente o de información interna.
- Aislamiento entre agentes: no comparten estado más allá de lo estrictamente necesario para el caso de uso.
6. Cortes de gasto y modo ahorro
- Por gasto: el sistema corta o degrada automáticamente al rebasar 5 € por tarea, 50 € por hora o 400 € por día.
- Por tasa de error: los bucles que se detectan se cortan automáticamente.
- Modo ahorro: fuera del horario laboral configurado, Amadeus degrada los modelos automáticamente (Symphony→Sonata, Sonata→Prelude, y Prelude limita la longitud de la respuesta).
- Manual: el Cliente puede pausar todos los agentes en cualquier momento desde el panel, y esa parada alcanza también a los agentes instalados en sus equipos.
7. Auditabilidad
La aplicación expone al Cliente un panel de auditoría con el detalle de cada ejecución: agente, alias del modelo, huella del prompt, tokens consumidos, latencia, modo de ahorro, resultado y aprobaciones humanas asociadas. Estos registros se conservan según la política descrita en /privacidad y permiten reconstruir el historial de cada decisión sin necesidad de revelar el modelo real.
8. Datos de entrenamiento
- Shara no entrena modelos con datos del Cliente. El producto consume modelos ya entrenados y los ejecuta sobre los datos del Cliente sin realimentación.
- El proveedor de inferencia contratado por Shara (sobre infraestructura soberana en la UE) trabaja con retención cero y sin usar prompts, audio ni respuestas para entrenar. Es una condición del contrato, y la revisamos cada vez que se renueva o se modifica.
- Las mejoras del producto (ajuste interno, evaluaciones) se realizan con datos sintéticos o anonimizados que no permiten reidentificación.
- Auditoría del Cliente: en los planes Max y Concerto Local el Cliente puede solicitar evidencia razonable del cumplimiento de estos compromisos (declaraciones del proveedor, configuración de la cuenta, registros agregados) bajo acuerdo de confidencialidad.
9. Limitaciones conocidas
Por transparencia, declaramos las limitaciones inherentes al estado del arte:
- Invención: los modelos pueden generar contenido plausible pero falso. La cola de aprobación es la salvaguarda principal.
- Dependencia de la calidad de los datos: la salida depende de la calidad y la actualización de las fuentes del Cliente.
- Contexto limitado: cada modelo tiene una ventana máxima; las tareas que la excedan se trocean y pueden perder coherencia entre fragmentos.
- Desactualización: los modelos pueden no conocer hechos recientes; conectar fuentes lo mitiga, pero la capa de razonamiento puede arrastrar conocimiento obsoleto.
- Variabilidad: dos ejecuciones idénticas pueden producir salidas distintas; usamos temperatura baja por defecto e instrucciones deterministas en los agentes críticos.
- Idioma: el rendimiento es óptimo en español e inglés. En otros idiomas la calidad puede ser peor y se desaconseja su uso para salidas críticas sin revisión humana.
- Transcripción: la voz se transcribe con errores frecuentes en nombres propios, cifras y entornos ruidosos. El texto siempre se devuelve al Usuario para su revisión.
10. Control del cliente sobre los agentes
El Cliente puede en cualquier momento desactivar agentes concretos, limitar su acceso a determinados conectores, restringir el envío automático y elevar el umbral de la cola de aprobación. Estos cambios se aplican en tiempo real desde el panel de administración, y cada uno queda registrado con la identidad del administrador y la marca de tiempo.
11. Reportar problemas de IA
Si detectas un comportamiento del sistema que consideras peligroso, sesgado, discriminatorio o que revela información que no debería, repórtalo a [email protected] con la mayor cantidad de detalle posible:
- El identificador de la ejecución (visible en el panel de auditoría).
- Captura o transcripción del comportamiento observado.
- Resultado esperado frente a resultado obtenido.
- Impacto observado (real o potencial) y datos afectados.
Tratamos las incidencias de seguridad y de IA conforme a nuestro procedimiento interno de gestión de incidentes. Las clasificamos en menos de 5 días hábiles y, cuando proceda, notificamos a la autoridad correspondiente.
12. Revisión de la política
Esta política se revisa al menos anualmente y siempre que se incorpore un nuevo proveedor de modelo, se modifique sustancialmente la arquitectura del sistema o cambie la normativa aplicable (RGPD, EU AI Act, leyes nacionales). El historial de versiones figura al pie del documento.