El 15 de septiembre de 2026 participé en la mesa «La arquitectura de la inteligencia artificial», la séptima de la IV Semana de la IA de la Facultad de Derecho de la Universidad de Sevilla, celebrada en el Salón de Grados de la Facultad. La mesa estuvo moderada por Andrés Sáez Pérez, director de la Escuela Técnica Superior de Ingeniería de la Universidad de Sevilla, y la compartí con María José Escalona Cuaresma, catedrática de Lenguajes y Sistemas Informáticos de la Universidad de Sevilla; José Andrés López de Fez, presidente de la Comisión de Inteligencia Artificial y Tecnología de Andalucía, y Manuel Ortigosa Brun, decano del Colegio Oficial de Ingenieros de Telecomunicación de Andalucía Occidental y Ceuta.
La mayor parte del público eran estudiantes de Derecho, lo que convirtió la sesión en un diálogo muy útil entre la ingeniería y el mundo jurídico. Intervine como Director de Secretariado de Digitalización e Inteligencia Artificial de la Universidad de Sevilla y como investigador en sistemas multiagente, un campo en el que trabajo desde mi tesis doctoral y cuyos resultados aplicamos con la NASA.
Una metáfora para entender a los agentes
Ante la pregunta de en qué momento debe intervenir una persona, propuse una imagen: imaginemos que llegan unos seres inteligentes, proactivos y obedientes, de los que no sabemos qué piensan y que no tienen responsabilidad jurídica. Así se comportan hoy los sistemas de IA.
A partir de esa imagen recorrí los niveles de adopción en un despacho de abogados: el asistente conversacional; el asistente con instrucciones estables; la IA que trabaja sobre la documentación del propio despacho, que no es un buscador sino una IA que razona con esa documentación; los agentes que actúan sobre el correo o la agenda, y los sistemas multiagente que automatizan procesos completos. Como ejemplo, un sistema con agentes especializados en derecho mercantil, familia, fiscalidad, jurisprudencia y redacción que prepara un análisis preliminar para que el abogado lo revise y decida.
Tres rasgos que interpelan al Derecho
- No es determinista: como una persona, puede responder de forma distinta ante la misma pregunta.
- Es autónoma: actúa sin intervención humana en cada paso, como un vehículo autónomo.
- Puede mejorarse a sí misma: una parte creciente del software ya se escribe con ayuda de la IA.
Comparé este reto con el paso del derecho de la propiedad física al de la propiedad intelectual: los sistemas de agentes exigen categorías jurídicas nuevas.
Seguridad y supervisión humana
La seguridad de un sistema de agentes depende de su infraestructura: permisos, comunicación entre agentes, planificación y supervisión humana en los pasos críticos. A una pregunta del público sobre si la IA podría utilizarse para desestabilizar instituciones, respondí que, sin salvaguardas, la respuesta es afirmativa, y que el comportamiento emergente que ya estudiábamos en los enjambres de naves de la NASA se amplifica con la IA generativa. Por eso necesitamos que juristas e ingenieros trabajen juntos en el diseño de estos sistemas.
La sesión completa está disponible en vídeo:
Gracias a la Facultad de Derecho de la Universidad de Sevilla por contar de nuevo conmigo en la Semana de la IA, y a los compañeros de mesa por una conversación tan rica.
Joaquín Peña Siles, PhD · Universidad de Sevilla · Digital Humanism Institute · Creador del método FAST