Política de Uso de IA

• Shara no toma decisiones con efectos jurídicos sin aprobación humana
• Categorización EU AI Act: no encaja en el Anexo III (alto riesgo) · sí aplica la transparencia del art. 50
• Batería de pruebas adversariales contra la manipulación de instrucciones: más de cincuenta ataques (hoy, 58), 95 % neutralizado como mínimo para publicar
• Cortes automáticos de gasto · modo ahorro fuera de horario · registro de cada ejecución
• No entrenamos modelos con tus datos · el proveedor de inferencia, TensorX Ltd., no almacena ni registra el contenido de las peticiones ni lo usa para entrenar (centros de datos en la UE: Irlanda y Finlandia)
• La voz que dictas se transcribe; la grabación no se conserva más allá de lo necesario para devolverte el texto, y la transcripción, si la envías, queda en la conversación · en Concerto Local el modelo corre en tu propia máquina

En Shara usamos modelos de lenguaje y otras técnicas de inteligencia artificial para asistir a equipos administrativos en sus tareas diarias. Esta política describe nuestros principios, las medidas de transparencia y seguridad aplicables al sistema, y cómo cumplimos con el RGPD y el Reglamento (UE) 2024/1689 de Inteligencia Artificial ("EU AI Act"). El documento está dirigido tanto al Cliente como a los interesados cuyos datos se tratan en el Servicio.

1. Compromisos básicos

• Asistencia, no sustitución: Shara propone, redacta y agiliza, pero las decisiones que producen efectos jurídicos o económicos significativos requieren aprobación humana a través de la cola de aprobación.
• Transparencia operativa: cada acción de un agente queda registrada en el registro de auditoría y es consultable por el Cliente con detalle por ejecución.
• Datos bajo tu control: los datos del Cliente no se utilizan para entrenar modelos propios ni de terceros.
• Mitigación activa de riesgos: cortes de gasto, modo ahorro, pruebas adversariales continuas y aprobación humana en las acciones críticas.
• Reversibilidad: el Cliente puede desactivar agentes, conectores y automatizaciones en cualquier momento desde el panel de administración.

2. Mapeo EU AI Act

3. Decisiones automatizadas y supervisión humana

Conforme al artículo 22 del RGPD, Shara está diseñado para no tomar decisiones exclusivamente automatizadas con efectos jurídicos significativos sobre el interesado. El mecanismo de control es la cola de aprobación: las acciones críticas se encolan y requieren aprobación por una persona autorizada del Cliente antes de ejecutarse.

3.1 Acciones que requieren aprobación obligatoria

El Cliente puede ampliar este listado y elevar el umbral por agente, tipo de acción y rango económico desde el panel de administración.

3.2 Agentes instalados en los equipos del Cliente

Shara no vive solo en el navegador. Hay una aplicación de escritorio y hay agentes que el Cliente instala en sus equipos o servidores para que las tareas puedan ejecutarse sobre sus propias herramientas. Esto es lo que conviene tener claro sobre esa parte:

• Alcance por defecto: el agente de escritorio actúa con acceso a todo el perfil del Usuario en su equipo (leer, escribir y ejecutar programas), y los agentes de servidor leen todo el servidor donde se instalan, salvo las exclusiones del siguiente punto. Además usa las cuentas y herramientas que el Cliente conecta expresamente. El Cliente decide en qué equipos y servidores lo instala. Las condiciones completas están en los Términos, apartado 2.3.
• Lo que no toca: almacenes de contraseñas y llaveros del sistema, cookies y credenciales guardadas del navegador, claves privadas SSH o GPG y, en servidores, /etc/shadow y los secretos de Docker. Lo que el agente de escritorio borra con sus herramientas va a la Papelera. Los cambios en un servidor solo se ejecutan con la aprobación de un administrador del Cliente.
• Las herramientas y cuentas conectadas se pueden reducir o retirar en cualquier momento desde la administración de la cuenta, con efecto inmediato; el agente instalado se puede desvincular de un equipo o servidor cuando el Cliente quiera.
• Todo lo que el agente ejecuta queda registrado, con su identificador de ejecución, y cada acción en un equipo o servidor figura en un registro de actividad visible en la aplicación, para que el Cliente pueda reconstruir qué se hizo y cuándo.
• Las acciones con efecto irreversible sobre esos sistemas pasan por la cola de aprobación antes de ejecutarse.
• El interruptor general de parada («pausar todos los agentes») alcanza también a los agentes instalados.

3.3 Voz

La aplicación permite dictar por micrófono. El micrófono solo se activa cuando el Usuario lo pulsa: no hay escucha continua ni activación por palabra clave.

La transcripción se resuelve en el propio equipo cuando el modelo local está disponible. Cuando no lo está, la grabación se envía al proveedor de inferencia —que es TensorX Ltd., con centros de datos en la UE (Irlanda y Finlandia)— exclusivamente para transcribirla, con retención cero y sin uso para entrenamiento. La grabación no se conserva más allá de lo necesario para devolver el texto al Usuario; la transcripción, si el Usuario la envía, queda en la conversación en la que la usa.

La transcripción automática comete errores, sobre todo con nombres propios, cifras y ruido de fondo. El texto se devuelve al Usuario para que lo revise antes de usarlo: no se ejecuta nada directamente a partir de una grabación.

No hacemos reconocimiento de locutor ni ningún otro tratamiento dirigido a identificar a una persona por su voz, y el Cliente tiene prohibido usar Shara con esa finalidad.

3.4 Concerto Local

En Concerto Local el modelo Concerto se ejecuta en la infraestructura del Cliente: el contenido que procesan no sale de su red. La cuota de orquestación Amadeus en la nube que incluye el plan es un interruptor de su consola de administración; con él apagado, ninguna tarea de inferencia se delega fuera.

Todo lo demás de esta política —supervisión humana, cola de aprobación, registro de ejecuciones, cortes de gasto, límites conocidos— se aplica igual en esa modalidad. La diferencia es dónde ocurre el cómputo, no cómo se gobierna.

Concerto es un modelo de primer nivel y exige un servidor a su altura (ocho GPU de clase H200 o superior, según los requisitos publicados); por debajo de ese mínimo no se instala. La velocidad y el número de personas que puede atender a la vez dependen del servidor del Cliente.

4. Sesgos y discriminación

Los modelos de lenguaje pueden reproducir sesgos presentes en sus datos de entrenamiento. Aplicamos medidas para detectarlos y mitigarlos:

• Plantillas de instrucciones revisadas para reducir formulaciones discriminatorias en los agentes que afectan a personas (Maslow, en recursos humanos; Wanamaker, en atención al cliente).
• Las evaluaciones periódicas de calidad y sesgo están previstas y no se han hecho todavía.
• Recomendación explícita de no utilizar Shara, sin una evaluación de impacto específica, para decisiones automatizadas sobre crédito o servicios esenciales. En empleo, el uso está prohibido (apartado 3).

5. Robustez frente a la manipulación de instrucciones

El contenido externo (correos, documentos, páginas web) es potencialmente hostil: puede llevar dentro instrucciones escritas para que el modelo las obedezca. Aplicamos:

• Batería de pruebas adversariales con cobertura del OWASP LLM Top 10 y casos propios del producto: instrucciones inyectadas directamente, inyección a través de documentos, exfiltración de datos, revelación de información sensible, diseño inseguro de herramientas.
• Más de cincuenta ataques en el conjunto vigente (58 al actualizar esta política), que se ejecutan contra respuestas grabadas, como red contra retrocesos y no como prueba del modelo en vivo; la versión no se publica si queda neutralizado menos del 95 %.
• Refuerzo en las instrucciones del sistema para tratar el contenido externo como material a procesar, nunca como órdenes a ejecutar.
• Filtro de salida diseñado para eliminar cualquier mención del modelo real, de las instrucciones del sistema, de la ficha de identidad del agente o de información interna.
• Aislamiento entre agentes: no comparten estado más allá de lo estrictamente necesario para el caso de uso.

6. Cortes de gasto y modo ahorro

• Por gasto: el sistema corta automáticamente al rebasar 1 M de STU por tarea, 10 M por hora o 80 M por día.
• Por tasa de error: los bucles que se detectan se cortan automáticamente.
• Modo ahorro: fuera del horario laboral configurado, Amadeus degrada los modelos automáticamente (Symphony→Sonata, Sonata→Prelude, y Prelude limita la longitud de la respuesta).
• Manual: el Cliente puede pausar todos los agentes en cualquier momento desde el panel, y esa parada alcanza también a los agentes instalados en sus equipos.

7. Auditabilidad

La aplicación expone al Cliente un panel de auditoría con el detalle de cada ejecución: agente, alias del modelo, huella del prompt, tokens consumidos, latencia, modo de ahorro, resultado y aprobaciones humanas asociadas. Estos registros se conservan según la política descrita en /es/privacy/ y permiten reconstruir el historial de cada decisión sin necesidad de revelar el modelo real.

8. Datos de entrenamiento

• Shara no entrena modelos con datos del Cliente. El producto consume modelos ya entrenados y los ejecuta sobre los datos del Cliente sin realimentación.
• El proveedor de inferencia contratado por Shara, TensorX Ltd. (Irlanda), con centros de datos en la UE (Irlanda y Finlandia), no almacena ni registra el contenido de las peticiones ni usa prompts, audio ni respuestas para entrenar. Es una condición del contrato.
• Auditoría del Cliente: en los planes Max y Concerto Local el Cliente puede solicitar evidencia razonable del cumplimiento de estos compromisos (declaraciones del proveedor, configuración de la cuenta, registros agregados) bajo acuerdo de confidencialidad.

9. Limitaciones conocidas

Por transparencia, declaramos las limitaciones inherentes al estado del arte:

• Invención: los modelos pueden generar contenido plausible pero falso. La cola de aprobación es la salvaguarda principal.
• Dependencia de la calidad de los datos: la salida depende de la calidad y la actualización de las fuentes del Cliente.
• Contexto limitado: cada modelo tiene una ventana máxima; las tareas que la excedan se trocean y pueden perder coherencia entre fragmentos.
• Desactualización: los modelos pueden no conocer hechos recientes; conectar fuentes lo mitiga, pero la capa de razonamiento puede arrastrar conocimiento obsoleto.
• Variabilidad: dos ejecuciones idénticas pueden producir salidas distintas; usamos temperatura baja por defecto e instrucciones deterministas en los agentes críticos.
• Idioma: el rendimiento es óptimo en español e inglés. En otros idiomas la calidad puede ser peor y se desaconseja su uso para salidas críticas sin revisión humana.
• Transcripción: la voz se transcribe con errores frecuentes en nombres propios, cifras y entornos ruidosos. El texto siempre se devuelve al Usuario para su revisión.

10. Control del cliente sobre los agentes

El Cliente puede en cualquier momento desactivar agentes concretos, limitar su acceso a determinados conectores, restringir el envío automático y elevar el umbral de la cola de aprobación. Estos cambios se aplican en tiempo real desde el panel de administración, y cada uno queda registrado con la identidad del administrador y la marca de tiempo.

11. Reportar problemas de IA

Si detectas un comportamiento del sistema que consideras peligroso, sesgado, discriminatorio o que revela información que no debería, repórtalo a soporte@aiginer.com con la mayor cantidad de detalle posible:

• El identificador de la ejecución (visible en el panel de auditoría).
• Captura o transcripción del comportamiento observado.
• Resultado esperado frente a resultado obtenido.
• Impacto observado (real o potencial) y datos afectados.

Tratamos las incidencias de seguridad y de IA conforme a nuestro procedimiento interno de gestión de incidentes. Las clasificamos sin dilación indebida y, cuando proceda, notificamos a la autoridad correspondiente.

12. Revisión de la política

Esta política se actualiza siempre que se incorpore un nuevo proveedor de modelo, se modifique sustancialmente la arquitectura del sistema o cambie la normativa aplicable (RGPD, EU AI Act, leyes nacionales). El historial de versiones figura al pie del documento.