De la predicción a la acción: por qué la IA probabilística necesita límites deterministas

Andrés Lage Freire parte de una idea sencilla: un modelo de IA puede proponer, pero no debería gobernar por sí solo una acción con consecuencias. Los modelos de lenguaje son probabilísticos por diseño y esa incertidumbre no se puede eliminar, así que el riesgo real aparece cuando una respuesta deja de ser texto y se convierte en una acción que modifica datos, lanza una transacción o se delega en otros agentes.Para contenerlo propone una envolvente determinista alrededor del modelo, con dos palancas, reducir la probabilidad del error con validación, pruebas adversarias y monitorización, y reducir su impacto con permisos mínimos, topes, aprobación humana y reversión, de modo que delegar capacidad nunca aumente la autoridad. Lo traduce a una separación de poderes inspirada en Montesquieu, en la que una capa legislativa fija políticas y límites, el agente ejecuta dentro del alcance permitido y una capa judicial independiente verifica, registra evidencias y puede bloquear o detener la acción, porque un agente no debería ser el único juez de sus propios actos.Cierra con una demostración en dos actos del HR Copilot, el mismo modelo y la misma tarea con y sin control en tiempo de ejecución, y con el bucle entre gobernanza y red teaming, en el que cada hallazgo adversario se convierte en una regla determinista y un test de regresión. Las ideas de la charla están desarrolladas en su libro blanco Los modelos probabilísticos requieren gobernanza determinista, que se puede descargar en esta página.