No dejarse ir: la importancia de gobernar los agentes de IA

Muchas personas se precipitan a probar el desempeño de los agentes de IA habiendo interiorizado el lema de Silicon Valley que anima a moverse rápido y romper cosas, sin imaginarse que lo primero que se puede romper es su trabajo o su empresa. Ello no es sorprendente. Se viene pregonando la venida de los agentes de inteligencia artificial (IA) desde hace un año como el próximo gran paso del progreso y la eficiencia en entornos corporativos, por sus cualidades teóricas (autonomía, comportamiento orientado a objetivos y adaptabilidad) que permitirían automatizar tareas tediosas. Sin embargo, al basarse la mayor parte de los agentes de IA en modelos de lenguaje de gran tamaño (LLM), suponen riesgos serios en cuanto a fiabilidad y privacidad que van mucho más allá de una multa.

Los agentes de IA no son una tecnología madura. El razonamiento probabilístico de los LLM, juntamente con la concesión de múltiples permisos para acceder a datos privados, la exposición a contenido no confiable, y la comunicación externa, bajo mínima o ninguna supervisión constituye la tríada letal que refería Simon Willison: la receta perfecta para el desastre. La prensa ha reportado las consecuencias de varios experimentos fracasados de implementación de agentes de IA, como la filtración de la propiedad intelectual de McKinsey, o los compromisos de reembolso hechos a personas físicas que fueron vinculantes para Air Canada, pese a ser contrarios a su política, la incursión de una startup en un gasto desproporcionado al presupuesto previsto tras haber asignado a un agente de IA la tarea de optimizar el rendimiento de la nube, y el borrado accidental masivo de datos desobedeciendo las instrucciones de parar.

Además, los agentes de IA suponen riesgos específicos de privacidad, principalmente por exfiltraciones que constituyen brechas de privacidad difíciles de detectar y prevenir. La ausencia de una política de acceso a datos para los agentes de IA, especialmente cuando se trata de repositorios de información no organizada, podría suponer que la empresa realice un tratamiento excesivo de datos personales, una comunicación accidental de datos a terceros excediendo las finalidades del tratamiento, una falta de control del proceso de razonamiento, potenciales incumplimientos del deber de información al interesado y socavamiento de su derecho a no ser objeto de decisiones automatizadas. Tanto es así, que la Agencia Española de Protección de Datos (AEPD) recientemente ha publicado un documento incidiendo en las vulnerabilidades que supone el uso de agentes de IA por parte de profesionales “no cualificados”, la falta de gobernanza y políticas de uso de IA en la organización, así como el desplazamiento de toda responsabilidad al usuario o la supervisión humana.

Nadie organiza una conferencia para contar cómo un experimento interno con agentes de IA le salió muy mal. Sin embargo, fallan. Por eso, el primer paso para la seguridad empresarial es no dejarse influir irreflexivamente por la presión mediática respecto a la adopción, y ponderar si existe una necesidad de la empresa para la cual una herramienta de IA es la solución idónea, considerando los recursos disponibles y las características organizativas de la empresa.

El segundo paso es implementar una política de gobernanza de IA para controlar el uso interno, que partirá de la valoración racional previamente referida. La gobernanza de la IA es un procedimiento aconsejable para cualquier empresa que se plantee implementar estas herramientas, porque confiere control y seguridad operativa sin renunciar a las ventajas que ofrece esta tecnología. Una buena política de gobernanza está hecha a la medida de la empresa, dado que, por encima de todo, debe ser útil. Además de una política de uso interno que defina qué herramientas se usan, por quiénes y para qué, junto con la pertinente alfabetización de IA para empleados, es muy recomendable inventariar las herramientas y designar a las personas físicas responsables de su utilización, definir el acceso a los datos necesarios e implementar el acceso de las herramientas a éstos con un grado de seguridad tecnológica razonable.

Por último, si después de todo lo anterior la implementación de un agente de IA parece necesaria y aconsejable, para mitigar su falibilidad, es preciso limitar su autonomía y accesos externos, apoyándose en la política de gobernanza, y dejar de enfocarlo como un recurso del que uno se puede olvidar una vez configurado.

Artículo publicado en Cinco Días