Seguridad

Seguridad en Charla: autonomía con frenos

Cómo Charla mantiene a raya a los asistentes agénticos: aislamiento por asistente, acceso con múltiples factores, un registro de auditoría inalterable y supervisión humana antes de cada cambio.

Un asistente agéntico no solo conversa: consulta bases, llama a herramientas y ejecuta acciones en sistemas reales. Cuanta más autonomía, más importan los frenos. La seguridad de Charla está diseñada para que cada asistente pueda hacer mucho, sin hacer nunca lo que no debería. Las prácticas descritas aquí son controles de ingeniería que aplicamos en el producto, no certificaciones formales.

Cada asistente es una isla

La primera barrera es el aislamiento. Cada asistente de Charla tiene su propia base de conocimiento y su propia lista de accesos. El conocimiento de un asistente y los permisos que recibe nunca se filtran a otro. En la práctica, eso significa que separar departamentos, marcas o clientes es lo predeterminado, no una configuración extra:

• Base de conocimiento dedicada por asistente: documentos, datos y contexto quedan contenidos en el asistente al que pertenecen.
• Lista de accesos propia por asistente: lo que un asistente puede alcanzar se decide individualmente, sin herencia implícita.
• Sin filtración cruzada: el conocimiento y los permisos de un asistente nunca se vuelven visibles para otro.

Quién entra, y hasta dónde llega

El acceso se controla por roles (RBAC), con permisos jerárquicos y acotados: cada persona recibe exactamente el alcance que necesita, y nada más. Sobre eso, reforzamos la identidad de quien entra:

• Autenticación multifactor (MFA) mediante TOTP, para que una contraseña por sí sola nunca baste.
• Hashing fuerte de contraseñas: las credenciales nunca se guardan en texto plano.
• Sesiones de corta duración que se renuevan, acortando la ventana útil de cualquier acceso indebido.

Todo queda registrado, y nada puede borrarse

Cada acción privilegiada y cada llamada a una herramienta se escribe en un registro de auditoría de tipo append-only: las líneas solo se añaden, nunca se alteran ni se eliminan. El resultado es responsabilidad completa: siempre se puede reconstruir quién hizo qué, cuándo y mediante qué herramienta, sin margen para reescribir el historial después de los hechos.

Los secretos quedan sellados

Los asistentes que se conectan a herramientas externas necesitan credenciales, y esas credenciales son el activo más sensible de todos. En Charla nunca circulan sueltas:

• Las credenciales se cifran y se guardan en un gestor de secretos dedicado.
• Las credenciales de las conexiones con herramientas externas se sellan con cifrado fuerte.

Conexiones con el mundo exterior, bajo guardia

Cuando un asistente llama a una herramienta externa, Charla controla a dónde puede ir la petición. Las conexiones salientes están protegidas por una guardia de egreso: las peticiones dirigidas a redes internas o privadas se bloquean, una defensa contra SSRF (server-side request forgery). Todo el tráfico viaja cifrado en tránsito (TLS), de extremo a extremo.

El asistente no enseña el detrás de escena

Charla nunca expone su propio razonamiento interno en bruto en las respuestas. El usuario recibe la conclusión útil, no la cadena de pensamiento cruda que la produjo, lo que reduce la superficie para extraer instrucciones, prompts o pistas sobre cómo decide el sistema por dentro.

Los cambios pasan por personas

La autonomía no es un cheque en blanco. Los cambios de conocimiento y de configuración siguen el modelo proponer-y-luego-aprobar: el cambio se propone y solo entra en vigor después de que una persona lo aprueba. Hay además una traba de alcance opcional, que permite al asistente rechazar peticiones fuera de su dominio de actuación.

Cuanto más puede hacer un agente, más importa quién aprueba qué. Mantenemos a la persona al mando de los cambios que pesan.Principio de diseño de Charla

Alineados con el espíritu de SAIF

Nuestros controles dialogan con el espíritu del Secure AI Framework (SAIF), de Google, y con sus tres controles para agentes: aprobación del usuario, permisos de mínimo privilegio y observabilidad. La aprobación aparece en nuestro proponer-y-luego-aprobar; el mínimo privilegio, en los permisos acotados por rol y en el aislamiento por asistente; la observabilidad, en el registro de auditoría inalterable. Se trata de alineación de prácticas, no de certificación.

Para que quede claro: todo lo que describimos aquí son prácticas de seguridad de ingeniería que aplicamos en el producto, no certificaciones formales de cumplimiento. Charla no posee, por ahora, una certificación formal de cumplimiento, y nada en esta página debe leerse como tal. El objetivo es mostrar, de forma transparente, cómo construimos autonomía con frenos.