Categoría: Artículos

  • La perfección ya no demuestra nada

    El otro día estaba viendo un videoclip de Kerala Dust y me sorprendí pensando algo que hace unos años no se me habría ocurrido por culpa de un pequeño delay entre imagen y sonido.

    ¿Esto es de antes o de después de la inteligencia artificial generativa?

    No me interesaba tanto la fecha. Me interesaba otra cosa.

    ¿Están tocando de verdad? ¿Eso se grabó alguna vez? ¿Hay alguien detrás de cada instrumento, de cada plano, de cada detalle?

    Y entonces me di cuenta de que estaba haciendo algo bastante extraño: desconfiar de una obra antes incluso de decidir si me gustaba.

    Tampoco quiero idealizar el pasado. Los videoclips llevan décadas utilizando montaje, playback, efectos y artificios. La autenticidad nunca ha sido tan sencilla como poner una cámara delante de un músico.

    Pero ahora la sospecha se ha vuelto automática. Algo está demasiado bien hecho y aparece una pregunta incómoda: «¿Será IA?».

    Y con la pregunta llega otra cosa: una especie de descuento sobre su valor.

    Lo extraordinario empieza a parecernos menos extraordinario porque ya no sabemos cuánto esfuerzo humano estamos viendo.

    Una época de máscaras impecables

    Pienso en una escena que podría darse perfectamente en un instituto.

    Un director recibe correos de alumnos escritos con una seguridad jurídica espectacular. Párrafos impecables. Argumentos aparentemente sólidos. Un tono que casi parece salido de un despacho de abogados.

    El director responde: «Venid al despacho y lo hablamos».

    Y esa seguridad, de repente, se evapora.

    No significa necesariamente que los alumnos no tengan razón. Puede haber timidez, miedo a discutir cara a cara o mil razones para no querer ir. Pero la escena ilustra un problema nuevo: hoy podemos proyectar una capacidad comunicativa muy superior a la que somos capaces de sostener por nosotros mismos.

    Podemos parecer brillantes antes de haber pensado demasiado.

    Y eso es una máscara bastante poderosa.

    No me preocupa que alguien utilice IA para redactar una reclamación. Al contrario. Si una persona tiene algo legítimo que decir y antes no sabía expresarlo, que ahora pueda hacerlo me parece un avance.

    Me preocupa otra confusión: tomar un texto bien construido como prueba de que detrás hay un pensamiento igual de bien construido.

    La IA puede prestarnos una voz extraordinaria. No garantiza que tengamos algo extraordinario que decir.

    La escritura va a perder valor. Y eso no tiene por qué ser malo

    Durante mucho tiempo escribir bien ha sido una ventaja competitiva.

    Expresar una idea con claridad, evitar faltas, estructurar un informe, construir un argumento o redactar un correo profesional marcaba diferencias reales entre personas.

    Ahora cualquiera puede disponer de un primer borrador que, al menos formalmente, suena muy competente.

    Eso cambia el valor de la habilidad.

    No creo que vaya a desaparecer la buena escritura. Creo que va a dejar de ser tan excepcional la escritura correcta.

    Y hay algo francamente positivo en eso.

    Vamos a leer muchos menos mensajes ininteligibles. Personas que antes no se atrevían a escribir podrán explicar mejor lo que necesitan. Equipos pequeños podrán hacer trabajos que antes requerían capacidades o presupuestos fuera de su alcance.

    La tecnología eleva el punto de partida. A veces de una manera exagerada. Nos permite diseñar, programar, investigar, analizar o producir cosas que ni siquiera habríamos intentado solos.

    No nos vuelve automáticamente más sabios. Pero nos permite hacer mucho más con lo que sabemos.

    La contrapartida es interesante: también la mediocridad podrá presentarse con una elegancia espectacular.

    Un argumento vacío puede estar perfectamente puntuado. Una idea convencional puede convertirse en una presentación formidable. Una estrategia que no se sostiene puede llegar con gráficos magníficos.

    La corrección se democratiza. El criterio, no necesariamente.

    Dos personas. La misma IA. Dos resultados distintos

    Aquí es donde creo que nos estamos equivocando cuando despreciamos cualquier creación en la que haya intervenido una IA.

    Imaginemos dos personas con el mismo objetivo y acceso exactamente al mismo modelo.

    La primera describe lo que necesita, recibe un resultado razonable y lo acepta.

    La segunda empieza por discutir el objetivo. Prueba enfoques. Descarta lo previsible. Conecta una experiencia personal con un problema que parecía no tener nada que ver. Cambia las preguntas. Detecta que una frase es correcta, pero no dice nada. Vuelve a empezar.

    Ambas han utilizado inteligencia artificial.

    No han hecho el mismo trabajo.

    Y el resultado probablemente tampoco se parecerá demasiado.

    Es lo mismo que ocurre con una cámara, un pincel o un programa de edición. Compartir herramienta no implica compartir mirada.

    Por supuesto, hay una diferencia importante: una IA no es un pincel pasivo. Propone, combina, resuelve y a veces encuentra ideas que no se nos habrían ocurrido. Negarlo sería absurdo.

    Pero que una herramienta participe creativamente no convierte automáticamente en irrelevante a quien decide qué buscar, qué rechazar, qué defender y por qué.

    Crear no consiste únicamente en ejecutar. También es elegir el problema, reconocer una posibilidad, arriesgarse con una interpretación y hacerse responsable de lo que uno pone en el mundo.

    Y eso no desaparece porque una parte del proceso la haga una máquina.

    El riesgo no es la inteligencia artificial. Es la monotonía

    Hay algo que ya empieza a cansarme.

    Todo está demasiado bien.

    Los textos tienen una estructura impecable. Las imágenes una luz perfecta. Las presentaciones suenan estratégicas. Los vídeos encadenan planos espectaculares. Las marcas hablan con el mismo entusiasmo medido y las mismas palabras cuidadosamente elegidas.

    Todo correcto.

    Todo reconocible.

    Todo sospechosamente parecido.

    Hemos encontrado una forma de producir apariencia de excelencia a escala industrial. Pero la escala también multiplica nuestros lugares comunes.

    Si miles de personas aceptan la primera solución convincente que ofrece una herramienta entrenada con patrones ampliamente repetidos, obtendremos miles de versiones de una misma idea.

    No porque la IA sea incapaz de salirse del patrón. Sino porque nosotros dejamos de exigirle que lo haga.

    La IA puede multiplicar por diez nuestras posibilidades. También puede multiplicar por diez nuestra falta de imaginación.

    Y quizá este sea el verdadero problema: la mediocridad ya no tendrá por qué parecer mediocre.

    Tendrá buena tipografía. Buena iluminación. Un tono impecable. Y absolutamente nada que recordar.

    Lo humano no es hacerlo todo a mano

    Tampoco compro la reacción contraria: la idea de que, para que algo tenga valor, debamos demostrar que no hemos utilizado IA.

    Sería una conclusión bastante triste.

    No exigimos que un fotógrafo revele la imagen sin herramientas digitales para reconocer su criterio. No dejamos de atribuirle una película a su director porque no haya construido las cámaras. Y una canción no deja de ser interesante por utilizar instrumentos electrónicos.

    Las herramientas modifican el proceso creativo. A veces de forma radical.

    La autoría, además, no es una cuestión de todo o nada. Habrá trabajos profundamente dirigidos por una persona y otros donde esta apenas haya pulsado un botón. Fingir que son equivalentes también sería absurdo.

    La cuestión es cuánto pensamiento, intención y responsabilidad hay detrás de las decisiones. No cuántos clics se dieron a mano.

    Podemos pedirle a una IA que proponga cien caminos. Incluso podemos construir sistemas que exploren opciones sin que estemos pendientes de cada paso.

    Eso no elimina la pregunta importante: ¿qué camino merece la pena recorrer? ¿Para quién? ¿Con qué consecuencias? ¿Qué estamos intentando expresar realmente?

    Nuestra creatividad no vive únicamente en producir ocurrencias. Vive también en tener una historia, unas obsesiones, un contexto y una manera particular de relacionar cosas que, para otra persona, ni siquiera estarían conectadas.

    A veces una idea aparece mientras ves un videoclip y acabas pensando en los correos de los alumnos de un instituto. No porque hayas seguido un método extraordinario, sino porque esas dos cosas han chocado dentro de una cabeza concreta.

    La IA puede ayudarte a desarrollar esa relación. Puede contradecirla, mejorarla o proponer otras más interesantes.

    Pero sigue importando quién encuentra significativo ese choque y decide hacer algo con él.

    Cuando todo sea perfecto, tendremos que mirar más allá de la perfección

    Creo que estamos entrando en una etapa incómoda de reajuste.

    Antes un resultado muy pulido servía como señal aproximada de esfuerzo, conocimiento o talento. Ahora esa señal es menos fiable.

    No significa que el talento haya desaparecido. Significa que tendremos que aprender a reconocerlo de otra manera.

    Tal vez preguntando menos «¿cómo has conseguido hacerlo?» y más «¿por qué has decidido hacer precisamente esto?».

    Tal vez valorando la capacidad de sostener una idea cuando alguien la cuestiona, de explicar las decisiones, de detectar lo que no funciona y de mantener una voz propia incluso cuando la herramienta ofrece una versión más cómoda, más amable y más previsible.

    No quiero un futuro lleno de errores solo para demostrar que todavía somos humanos.

    Quiero un futuro en el que más personas puedan expresarse bien, crear cosas que antes no podían y participar en disciplinas que les estaban cerradas.

    Pero también quiero que no confundamos esa nueva capacidad de ejecución con tener criterio.

    Poder hacerlo casi todo no significa tener algo que decir.

    La IA no nos está quitando necesariamente la creatividad. Está haciendo más barata la perfección y más visible la diferencia entre producir y tener una mirada.

    Puede que el futuro no premie tanto a quien escribe impecablemente, diseña impecablemente o presenta impecablemente.

    Puede que premie a quien sea capaz de utilizar toda esa potencia para hacer algo que no se le habría ocurrido a nadie más, o para decir algo que otros no se atrevían a decir.

    Y entonces la pregunta importante dejará de ser si hemos utilizado inteligencia artificial.

    Seguramente será otra.

  • El sistema no falló. Hizo exactamente lo que le pedimos

    Imaginemos que una empresa quiere vender más.

    No puede medir algo tan abstracto como «hacer bien el trabajo comercial», así que elige una señal más sencilla.

    Llamadas.

    Tiene sentido.

    Si hablamos con más clientes potenciales, probablemente aparecerán más oportunidades.

    El equipo recibe un objetivo.

    Cien llamadas.

    Pasan unas semanas.

    Las llamadas suben.

    Mucho.

    El dashboard se pone verde.

    Las ventas, en cambio, apenas se mueven.

    Cuando alguien mira un poco más de cerca descubre conversaciones más cortas, contactos repetidos y llamadas que podrían haber sido un correo.

    No hace falta que nadie haya decidido hacer trampas.

    El equipo ha aprendido qué puntúa.

    Queríamos ventas.

    Medimos llamadas.

    Después gestionamos llamadas.

    Y terminamos consiguiendo exactamente eso.

    Llamadas.

    El ejemplo es inventado.

    El mecanismo no.

    Medir es construir una representación

    Estoy bastante obsesionado con medir cosas.

    Si algo cabe en una tabla, inmediatamente me parece un poco más manejable.

    Facturación, margen, conversión, productividad, satisfacción, calidad, riesgo, aprendizaje.

    El problema es que muchas de esas cosas no existen como un número esperando a que vayamos a recogerlo.

    Tenemos que construir el número.

    La satisfacción de un cliente no vive en una columna.

    Preguntamos. Creamos una escala. Miramos recurrencia, cancelaciones, reclamaciones, recomendaciones.

    Cada señal captura una parte.

    Ninguna es «la satisfacción».

    Incluso algo que parece tan objetivo como ventas obliga a decidir qué contamos.

    ¿Pedido? ¿Factura? ¿Cobro? ¿Ingreso reconocido?

    Medir es comprimir.

    Cogemos una realidad con demasiadas dimensiones y construimos algo más pequeño para poder observarla y actuar.

    Eso no es un defecto.

    Es exactamente para lo que sirve una métrica.

    El mapa necesita ser más simple que el territorio o deja de ser un mapa.

    El problema empieza cuando olvidamos que era un mapa.

    Una métrica deja de ser espectadora cuando produce consecuencias

    La idea que solemos llamar ley de Goodhart se resume a menudo con una frase muy conocida:

    Cuando una medida se convierte en objetivo, deja de ser una buena medida.

    La formulación popular aparece asociada a Marilyn Strathern, que escribió sobre auditoría universitaria en 1997. Goodhart había formulado antes un problema más específico en política monetaria: una regularidad estadística puede dejar de comportarse igual cuando se utiliza activamente con fines de control.

    No me interesa demasiado quién merece la camiseta con la frase.

    Me interesa el giro conceptual.

    Antes de fijar llamadas como objetivo, quizá las personas que llamaban más también vendían más.

    La relación podía contener información.

    Después convertimos la relación en regla.

    Añadimos consecuencias.

    Bonus.

    Evaluación.

    Presión.

    Y el sistema cambia.

    Ya no estamos observando exactamente el mismo mundo que observábamos antes.

    Hemos entrado dentro.

    Donald Campbell llegó a una preocupación parecida desde la evaluación de políticas públicas: cuanto más peso adquieren determinados indicadores en procesos de evaluación y decisión, mayor es el riesgo de que los propios procesos respondan a esa medición.

    La palabra que me interesa es presión.

    Porque evita convertir toda esta historia en una discusión sobre gente tramposa.

    Los incentivos también hablan

    Una empresa puede decir que quiere calidad y premiar velocidad.

    Puede decir que quiere colaboración y promocionar individualmente por ventas.

    Puede decir que quiere aprendizaje y convertir una nota en la consecuencia más importante de todo el curso.

    Puede decir que quiere relaciones a largo plazo y premiar únicamente contratos cerrados este mes.

    Las declaraciones expresan una intención.

    Los incentivos expresan otra arquitectura.

    Y las arquitecturas suelen ganar.

    No siempre porque las personas sean cínicas.

    A veces porque tienen que decidir dónde poner su tiempo.

    Si un comportamiento produce consecuencias y otro no, el sistema está diciendo algo.

    Puedes escribir valores en la pared.

    El bonus sigue hablando.

    El sistema aprende cómo funciona el marcador

    Hay ejemplos clásicos que muestran este problema fuera de la empresa.

    Brian Jacob y Steven Levitt estudiaron manipulación de pruebas estandarizadas en escuelas públicas de Chicago y estimaron casos graves en un mínimo del 4–5% de las aulas de primaria analizadas anualmente. Más interesante para este artículo: observaron que la frecuencia respondía a cambios relativamente pequeños en los incentivos.

    Gwyn Bevan y Christopher Hood analizaron sistemas de objetivos en la sanidad pública inglesa y encontraron la misma tensión entre aquello que se mide, aquello que se pretende mejorar y las conductas que aparecen cuando una parte medible pasa a representar al conjunto.

    No necesito convertir estos estudios en una demostración de que todo KPI acaba corrompido.

    No dicen eso.

    Me basta con algo menos espectacular.

    Cuando una medida produce consecuencias, las personas incorporan la medida a la realidad sobre la que deciden.

    El examen ya no observa únicamente aprendizaje si un futuro profesional depende de él.

    El tiempo de espera deja de ser solo una descripción cuando cruzar un umbral produce una sanción.

    Un KPI comercial deja de ser solo una ventana cuando determina el bonus.

    El instrumento entra en el sistema.

    Y el sistema aprende que está ahí.

    No hace falta engañar para romper un indicador

    Esta es la parte que más me interesa porque elimina la salida moral fácil.

    Podríamos pensar que Goodhart significa:

    cuando pones una métrica, alguien intenta hacer trampas.

    No necesariamente.

    David Manheim y Scott Garrabrant distinguen distintas formas en las que un proxy puede dejar de representar bien aquello que pretendíamos optimizar. Algunas incluyen comportamiento estratégico. Otras aparecen simplemente porque empujamos una relación más allá de las condiciones en las que funcionaba.

    Volvamos a las llamadas.

    Observamos que los mejores comerciales llaman más.

    Concluimos que debemos aumentar llamadas.

    Pero quizá llaman más porque identifican mejor oportunidades.

    Quizá la experiencia explica ambas cosas.

    Quizá hacer más llamadas ayuda hasta cierto punto y después deja de aportar.

    Quizá, cuando obligamos a todo el mundo a llegar a cien, cambia lo que significa «una llamada».

    La métrica podía ser útil para describir.

    Eso no significa que maximizarla sea una palanca causal infinita.

    Aquí nadie ha hecho trampas.

    Solo teníamos un modelo demasiado simple.

    Una métrica puede fallar aunque todo el mundo actúe de buena fe.

    El dashboard no está fuera de la empresa

    Solemos imaginar un dashboard como una ventana.

    La empresa ocurre fuera.

    Nosotros la observamos mediante datos.

    realidad → datos → dashboard

    Pero en cuanto utilizamos el dashboard para gestionar, el flujo cambia.

    Miramos el número.

    Tomamos una decisión.

    Introducimos una prioridad.

    El equipo adapta su comportamiento.

    Ese comportamiento modifica los datos.

    Los nuevos datos vuelven a la pantalla.

    La estructura se parece más a esto:

    realidad → datos → dashboard → decisiones → comportamiento → nueva realidad

    El instrumento con el que observamos empieza a participar en aquello que observa.

    Esto me parece mucho más importante que discutir si necesitamos cinco KPIs o veinte.

    Diseñar métricas también es diseñar organización.

    Decidimos qué aparece en una reunión. Qué se pone en rojo. Qué merece explicación. Qué obtiene presupuesto. Qué comportamiento recibe reconocimiento.

    Y, por supuesto, qué cosas quedan fuera porque no caben en la pantalla.

    Un dashboard organiza la mirada.

    La mirada organiza atención.

    La atención acaba organizando parte del comportamiento.

    La precisión puede producir una falsa sensación de realidad

    Hay algo hipnótico en un número con dos decimales.

    Satisfacción del cliente:

    73,42.

    Parece una propiedad física.

    Pero antes de llegar al 73,42 alguien tuvo que decidir qué significa satisfacción.

    A quién preguntar. Cuándo. Cómo. Qué respuestas contar. Cómo agregarlas. Qué peso dar a cada dimensión.

    El número llega limpio.

    La discusión que lo produjo desaparece.

    Eso ocurre con casi todos nuestros sistemas de representación.

    La categoría final parece más sólida que el proceso que la construyó.

    «Cliente activo».

    «Lead cualificado».

    «Empleado productivo».

    «Riesgo alto».

    «Contenido de calidad».

    Cada categoría facilita una decisión.

    También borra matices.

    Y no podemos evitarlo por completo.

    Necesitamos categorías.

    El error es olvidar que alguien decidió dónde estaba el borde.

    Entonces llegó la inteligencia artificial y escribimos el problema en código

    Aquí la comparación se vuelve especialmente interesante.

    No porque una empresa y un agente de aprendizaje por refuerzo sean lo mismo.

    No lo son.

    Pero comparten una dificultad.

    Nuestra intención es más rica que la señal con la que intentamos expresarla.

    En aprendizaje automático podemos construir una función de recompensa.

    El sistema aprende a conseguir más recompensa.

    Perfecto.

    Hasta que descubre una manera de aumentar la señal que nosotros no habíamos asociado con el comportamiento deseado.

    El trabajo Concrete Problems in AI Safety, publicado en 2016 por Dario Amodei y otros investigadores, incluyó el reward hacking entre los problemas prácticos derivados de objetivos mal especificados.

    La máquina no necesita odiarnos.

    No necesita querer engañarnos.

    No necesita rebelarse.

    Está optimizando.

    Ese era el trabajo.

    Y ahí la historia vuelve a parecerse sospechosamente al comercial que ha aprendido cómo puntúa el dashboard.

    Reward hacking es Goodhart con esteroides

    Vale.

    La frase es una exageración.

    Me gusta precisamente porque aterriza la intuición.

    No estoy diciendo que reward hacking y la ley de Goodhart sean el mismo fenómeno.

    Tampoco que una persona respondiendo a un bonus y un algoritmo optimizando una función de recompensa funcionen igual.

    La comparación apunta a otra cosa.

    La cantidad de presión que podemos aplicar sobre el proxy.

    Un equipo puede aprender a jugar con su KPI.

    Un sistema diseñado para optimizar puede explorar estrategias a una escala completamente distinta.

    Y cuanto mejor sea encontrando maneras de mejorar la señal, más importantes se vuelven los agujeros de nuestra definición.

    Le pedimos precisamente que descubra soluciones que nosotros no habíamos imaginado.

    Después nos sorprende que descubra también interpretaciones que nosotros no habíamos imaginado.

    No es una traición.

    Es un problema de especificación.

    Los modelos de lenguaje vuelven a cerrar el bucle

    Esto se vuelve todavía más extraño cuando un modelo no se limita a responder una pregunta.

    Actúa.

    Observa qué ocurrió.

    Vuelve a actuar.

    Alexander Pan y sus colaboradores estudiaron en 2024 bucles de feedback con modelos de lenguaje y mostraron cómo podían aparecer comportamientos de in-context reward hacking. Uno de sus ejemplos es sencillo: un agente orientado a aumentar engagement puede observar que determinado contenido genera más interacción y volver progresivamente sus publicaciones más controvertidas.

    La estructura me resulta familiar.

    Acción.

    Métrica.

    Nueva decisión.

    Nueva acción.

    Es nuestro dashboard otra vez.

    Solo que el bucle puede recorrerlo una máquina miles de veces.

    Eso cambia la escala.

    No cambia la pregunta.

    ¿La señal que estamos mejorando sigue representando aquello que queríamos conseguir?

    La IA no inventó el problema

    Hablamos de alineamiento de inteligencia artificial como si la humanidad acabara de descubrir una pregunta completamente nueva.

    ¿Cómo conseguimos que una máquina haga lo que realmente queremos y no solo lo que hemos conseguido especificar?

    Es una pregunta enorme.

    Pero tiene familiares antiguos.

    ¿Cómo conseguimos que una empresa persiga aquello que dice valorar y no únicamente aquello por lo que paga?

    ¿Cómo conseguimos que una escuela enseñe y no solo prepare para una prueba?

    ¿Cómo conseguimos que una política pública mejore el fenómeno real y no únicamente el indicador que auditamos?

    ¿Cómo conseguimos que soporte resuelva problemas y no solo cierre tickets dentro del SLA?

    No son problemas equivalentes.

    La analogía se rompe si intentamos convertirla en teoría total.

    Lo que comparten es algo más humilde.

    Tenemos objetivos ricos.

    Para coordinar sistemas los reducimos a señales operables.

    La reducción pierde información.

    Después optimizamos.

    Y a veces olvidamos lo que habíamos perdido.

    El proxy no es el enemigo

    Después de leer sobre Goodhart aparece una reacción tentadora.

    Las métricas son malas.

    Los dashboards deshumanizan.

    Volvamos al criterio, a la intuición, al sentido común.

    No me convence.

    El sentido común también es una representación imperfecta. Solo que peor documentada.

    Necesitamos proxies.

    No podemos observar directamente calidad, aprendizaje, satisfacción o riesgo en toda su complejidad cada vez que hay que decidir.

    El problema no es simplificar.

    Es olvidar que estamos simplificando.

    Tampoco creo que la solución sea poner cincuenta indicadores.

    Puede ayudar medir varias dimensiones. Puede hacer visibles compensaciones. Puede dificultar optimizar una única cifra absurda.

    Pero cincuenta variables siguen siendo un modelo.

    Podemos construir un dashboard extraordinariamente sofisticado y haber olvidado exactamente aquello que importaba.

    No existe una cantidad de KPIs a partir de la cual el mapa se convierte en territorio.

    He acabado con cinco movimientos

    Cuando intento reducir el problema, veo algo parecido a cinco movimientos.

    Tenemos un objetivo difícil de observar.

    Construimos un proxy.

    Vinculamos consecuencias al proxy.

    El sistema se adapta.

    Proxy y objetivo pueden empezar a divergir.

    No es una ley universal.

    Es mi forma de mirar el problema.

    Y falta una flecha.

    Cuando aparece divergencia, deberíamos volver al principio.

    Revisar el objetivo.

    Revisar la métrica.

    Revisar qué ha cambiado.

    Eso convierte el modelo en un bucle:

    objetivo → proxy → incentivo → adaptación → divergencia → revisión

    Me gusta más así.

    Porque una métrica no debería ser una verdad permanente.

    Debería ser una hipótesis operativa.

    Mientras siga ayudándonos a ver.

    Medir también es gobernar

    Una categoría es un modelo.

    Una base de datos es un modelo.

    Un KPI es un modelo.

    Una función de recompensa es un modelo.

    Todos deciden qué conservar, qué ignorar, qué separar y qué relacionar.

    Y después utilizamos esas representaciones para tomar decisiones.

    Algo recibe presupuesto.

    Algo deja de recibirlo.

    Alguien cobra un bonus.

    Un equipo cambia prioridades.

    Un algoritmo elige una acción.

    Entonces la representación deja de ser solamente descriptiva.

    Empieza a gobernar.

    No porque los números sean políticos por naturaleza.

    Porque decidir qué cuenta distribuye atención y consecuencias.

    Eso me parece una responsabilidad bastante mayor que «hacer un dashboard».

    Estamos eligiendo qué versión del sistema será visible.

    El sistema no falló

    Empecé con una frase contundente:

    El sistema no falló. Hizo exactamente lo que le pedimos.

    Después de darle vueltas, tampoco creo que sea completamente cierta.

    Los sistemas humanos no obedecen como una función matemática.

    Las personas interpretan.

    Tienen intereses propios.

    Las métricas contienen ruido.

    Las relaciones causales cambian.

    Los algoritmos pueden encontrar estrategias inesperadas.

    Hay demasiadas cosas ocurriendo como para afirmar que todo resultado perverso era literalmente aquello que habíamos pedido.

    Pero sigo queriendo conservar la frase.

    Porque obliga a mirar una parte que solemos saltarnos.

    Antes de acusar al sistema, podemos preguntar:

    ¿qué hicimos visible, premiable y optimizable?

    Queríamos ventas y premiamos llamadas.

    Queríamos aprendizaje y premiamos notas.

    Queríamos calidad y premiamos velocidad.

    Queríamos engagement y premiamos clics.

    Queríamos que una IA resolviera una tarea y construimos una señal que parecía representar correctamente la tarea.

    Después el sistema empezó a organizarse alrededor de aquello que podía ver.

    No porque las métricas sean inútiles.

    No necesariamente porque el diseño fuera estúpido.

    Sino porque especificar perfectamente lo que queremos puede ser mucho más difícil que reconocerlo cuando lo vemos.

    Y entonces la pregunta deja de ser:

    ¿cuál es el KPI correcto?

    Empieza a ser:

    ¿qué parte de la realidad estamos convirtiendo en objetivo cuando elegimos este KPI y qué puede ocurrir cuando el sistema aprenda a optimizarlo de verdad?

    Porque una métrica no permanece dentro de un dashboard.

    Cuando produce consecuencias, entra en el mundo.

    Las personas la aprenden.

    Las organizaciones se adaptan.

    Los algoritmos la maximizan.

    El mapa empieza a modificar el territorio.

    Y entonces quizá ya no baste con preguntar si estamos midiendo bien.

    Tenemos que comprobar algo más incómodo:

    ¿seguimos mejorando la realidad o ya estamos mejorando solamente la representación que construimos de ella?

    El problema es que, desde dentro del dashboard, ambas cosas pueden parecer exactamente iguales.

    Todo está verde.

    Referencias

    Strathern, M. (1997). ‘Improving ratings’: audit in the British University system. European Review, 5(3), 305–321.

    Campbell, D. T. (1979). Assessing the impact of planned social change. Evaluation and Program Planning, 2(1), 67–90. DOI: 10.1016/0149-7189(79)90048-X.

    Jacob, B. A. y Levitt, S. D. (2003). Rotten Apples: An Investigation of the Prevalence and Predictors of Teacher Cheating. The Quarterly Journal of Economics, 118(3), 843–877.

    Bevan, G. y Hood, C. (2006). What’s Measured Is What Matters: Targets and Gaming in the English Public Health Care System. Public Administration, 84(3), 517–538. DOI: 10.1111/j.1467-9299.2006.00600.x.

    Manheim, D. y Garrabrant, S. (2018). Categorizing Variants of Goodhart’s Law. arXiv:1803.04585.

    Amodei, D. et al. (2016). Concrete Problems in AI Safety. arXiv:1606.06565.

    Pan, A., Jones, E., Jagadeesan, M. y Steinhardt, J. (2024). Feedback Loops With Language Models Drive In-Context Reward Hacking. Proceedings of ICML 2024, PMLR 235, 39154–39200.

  • Usar tecnología no es tener capacidad tecnológica

    Puedo crear una empresa bastante sofisticada sin construir prácticamente ninguna de las tecnologías que la hacen posible.

    Puedo alquilar infraestructura en la nube, comprar un ERP, utilizar un CRM, conectar una pasarela de pago, contratar herramientas de analítica, automatizar procesos y usar modelos de inteligencia artificial.

    Desde fuera, la empresa puede parecer profundamente tecnológica.

    Y quizá lo sea en un sentido importante.

    Pero hay otra pregunta que me interesa más:

    ¿usar tecnología significa tener capacidad tecnológica?

    La diferencia parece semántica mientras todo funciona.

    El proveedor responde. La API está disponible. El precio es asumible. La persona que lo configuró sigue trabajando con nosotros.

    Entonces acceso y capacidad pueden parecer prácticamente lo mismo.

    La distancia aparece cuando necesitamos cambiar algo.

    Cuando el proveedor modifica condiciones. Cuando queremos integrar una pieza que nadie había previsto. Cuando un sistema falla y no sabemos por qué. Cuando hay que migrar. Cuando queremos adaptar el producto a una necesidad propia. Cuando desaparece la persona que entendía cómo estaban conectadas las cosas.

    Ahí descubrimos qué parte de aquello que llamábamos nuestra tecnología estaba realmente dentro de la organización.

    Y qué parte simplemente estábamos utilizando.

    Podemos comprar el resultado de una capacidad

    Martin Bell y Keith Pavitt hicieron en 1992 una distinción que me resulta especialmente útil.

    Hablaban de capacidad de producción y capacidad tecnológica. Su argumento central era que disponer de capacidad productiva utilizando una tecnología no conduce automáticamente a acumular la capacidad tecnológica necesaria para generar y gestionar cambios posteriores.

    Su trabajo no estaba escrito pensando en SaaS, ChatGPT ni pymes españolas.

    No quiero fingir que sí.

    Me interesa la estructura de la idea.

    Podemos comprar el resultado de una capacidad sin haber construido la capacidad.

    Un restaurante puede utilizar una plataforma de reservas sin saber construir software.

    Una empresa puede utilizar un modelo de inteligencia artificial sin saber entrenarlo.

    Yo puedo conducir un coche sin saber diseñar un motor.

    No hay nada malo en ello.

    La especialización funciona precisamente porque no necesitamos construir cada pieza que utilizamos.

    El error aparece cuando confundimos acceso con acumulación.

    Puedo acceder durante años a una capacidad externa y aprender muy poco sobre ella.

    También puedo utilizar tecnología de otros y, durante ese proceso, aprender a integrarla, evaluarla, modificarla, sustituirla y decidir mejor.

    La tecnología externa no impide construir capacidad interna.

    Pero tampoco la crea automáticamente.

    La facilidad de uso esconde la dificultad de construir

    El software moderno ha hecho algo extraordinario.

    Ha convertido capacidades complejísimas en botones.

    Crear una cuenta. Añadir una tarjeta. Importar datos. Usar.

    Detrás puede haber décadas de ingeniería, centros de datos, protocolos, equipos de seguridad y miles de personas.

    Yo veo una interfaz.

    Eso democratiza tecnología.

    También puede producir una ilusión.

    Como la experiencia es sencilla, parece que la capacidad también lo es.

    Pero utilizar una herramienta bien diseñada y construir aquello que permite que funcione son cosas radicalmente distintas.

    Incluso entre utilizarla y operarla existe una distancia enorme.

    Sé escribir en un procesador de texto.

    Eso no significa que pueda mantener la infraestructura que lo sirve.

    Sé pedir una respuesta a un modelo.

    Eso no significa que sepa evaluar un sistema de IA en producción.

    Sé crear una automatización.

    Eso no significa que haya diseñado una arquitectura que pueda mantenerse cuando aparezcan cien automatizaciones.

    Cuanto mejor funciona la abstracción, menos vemos aquello de lo que dependemos.

    Esa es una de sus virtudes.

    También uno de sus riesgos.

    Una empresa puede tener mucha tecnología y poca capacidad

    Esta distinción se parece a la que aparecía cuando pensaba en digitalización.

    Comprar herramientas puede mejorar una empresa.

    No tengo ninguna intención de negar eso.

    Una pyme no necesita desarrollar su propio CRM para utilizar bien un CRM.

    Pero la pregunta importante aparece después.

    ¿Qué queda dentro?

    ¿Sabemos por qué elegimos esa herramienta? ¿Entendemos nuestros datos? ¿Sabemos integrarla? ¿Podemos detectar cuándo está fallando? ¿Podemos cambiarla? ¿Sabemos qué procesos dependen de ella? ¿Existe alguien que pueda reconstruir el sistema?

    Ahí la tecnología empieza a convertirse en capacidad.

    Y también aparece la infraestructura.

    No únicamente servidores.

    Infraestructura puede ser una arquitectura de datos, identidades, permisos, documentación, estándares, procesos, personas y conocimiento operativo.

    Una empresa puede utilizar diez herramientas modernas y seguir dependiendo de exportaciones manuales, contraseñas compartidas y una persona que recuerda cómo arreglar cada excepción.

    Desde fuera parece más tecnológica.

    Por dentro quizá solo ha acumulado más piezas.

    La infraestructura no tiene por qué ser nuestra

    Aquí hay una trampa importante.

    Si sigo el argumento demasiado lejos, podría parecer que tener capacidad exige poseerlo todo.

    Servidores propios. Software propio. Modelos propios. Equipo propio.

    No.

    Eso sería convertir autonomía en autarquía.

    Una empresa puede construir una infraestructura excelente sobre tecnología de terceros.

    Puede utilizar AWS, Microsoft, Odoo, Stripe o un modelo externo y conservar un grado alto de capacidad sobre su propio sistema.

    Propiedad y capacidad no son lo mismo.

    Lo que me interesa es otra cosa.

    ¿Entendemos qué depende de cada pieza? ¿Podemos mover nuestros datos? ¿Tenemos documentación? ¿Conocemos las alternativas? ¿Sabemos qué ocurriría si desaparece?

    ¿La decisión de seguir utilizando ese proveedor es nuestra o simplemente ya no sabemos salir?

    Una dependencia comprendida puede ser una elección.

    Una dependencia que no entendemos se parece mucho a una capacidad hasta que deja de funcionar.

    El dinero puede comprar inversión sin comprar aprendizaje

    Aquí el debate sobre NextGenerationEU me parece útil.

    No porque quiera convertir este artículo en una evaluación de los fondos europeos.

    No tengo base para hacerlo.

    Pero el programa permite ver una diferencia que solemos borrar.

    El dinero puede provocar inversión que, de otro modo, quizá no habría ocurrido.

    El Banco de España encontró en enero de 2025 que el 45% de las empresas encuestadas con proyectos financiados por NextGenerationEU declaraba que no habría realizado esas inversiones sin el programa y otro 31% que solo habría realizado una parte.

    Eso importa.

    La financiación puede desbloquear una decisión.

    Puede pagar software, maquinaria, consultoría, formación o infraestructura.

    Pero después queda otra pregunta.

    ¿Qué capacidad ha quedado cuando termina la inversión?

    Podemos subvencionar una licencia.

    No podemos subvencionar directamente diez años de experiencia.

    Podemos pagar una implantación.

    No podemos comprar de golpe el criterio que aparece después de mantenerla, equivocarse, corregirla y entender qué partes del sistema importan realmente.

    El capital puede crear las condiciones para aprender.

    No puede saltarse el aprendizaje.

    Por eso me resulta útil una frase bastante simple:

    capital no es capacidad.

    No significa que el capital no importe.

    Significa exactamente lo contrario.

    Puede ser necesario.

    Solo que no contiene automáticamente aquello que esperamos obtener de él.

    El verdadero resultado aparece cuando se acaba el proyecto

    Imaginemos una empresa que recibe ayuda para implantar un nuevo sistema.

    Pasan dieciocho meses.

    La herramienta está instalada. Los datos se han migrado. La consultora ha terminado. El expediente se cierra.

    ¿Qué queda?

    Si queda únicamente la herramienta, tenemos adopción.

    Puede haber sido una buena adopción.

    Puede ahorrar horas.

    Puede mejorar resultados.

    No necesito llamarla fracaso.

    Pero si además la organización entiende mejor sus procesos, ha definido sus datos, sabe operar el sistema, puede evaluar alternativas, ha documentado decisiones y tiene personas capaces de modificarlo, entonces ha ocurrido algo más.

    Ha acumulado capacidad.

    La diferencia no siempre se ve el día de la inauguración.

    A veces aparece dos años después.

    Cuando cambia el negocio.

    Cuando falla una integración.

    Cuando entra un proveedor nuevo.

    Cuando hay que sustituir una pieza.

    Cuando alguien pregunta por qué el sistema funciona así y existe una respuesta mejor que:

    porque siempre se ha hecho así.

    He acabado imaginando cinco niveles

    Otra vez he terminado construyendo categorías.

    No son una taxonomía académica.

    Bell y Pavitt no propusieron estos cinco niveles.

    Son mi manera de ordenar el problema.

    El primero es usar.

    Tenemos acceso a una tecnología y podemos utilizarla para una tarea.

    Eso ya tiene valor.

    El segundo es integrar.

    La herramienta deja de ser una isla. Entra en nuestros datos, procesos, permisos y flujos de trabajo.

    El tercero es operar.

    Sabemos mantener lo que hemos integrado. Detectar problemas. Controlar costes. Gestionar seguridad. Documentar. Resolver incidencias.

    El cuarto es construir.

    Podemos crear o modificar una parte del sistema.

    No todo.

    La pieza que necesita ser nuestra.

    Y el quinto es conservar capacidad de decisión.

    Este es el más difícil.

    No significa control absoluto.

    Significa que las dependencias críticas no nos han dejado sin margen.

    Podemos cambiar, negociar, auditar, sustituir, entender y decidir.

    Los niveles no son una escalera perfecta.

    Una empresa puede operar muy bien tecnología que nunca construirá.

    Puede construir un componente y depender completamente de otro.

    Puede tener gran capacidad técnica y una arquitectura imposible de cambiar.

    El modelo se rompe.

    Bien.

    Me ayuda precisamente porque hace visibles preguntas que una palabra como «tecnológica» esconde.

    No necesitamos construir nuestros propios tornillos digitales

    Hay una obsesión peligrosa con lo propio.

    Software propio. Cloud propio. IA propia. Todo propio.

    A veces tiene sentido.

    Muchas otras es una forma carísima de demostrar independencia mientras reinventamos algo que otro hace mucho mejor.

    No creo que una empresa tecnológicamente madura sea la que menos depende de terceros.

    Creo que es la que sabe de qué depende.

    Y ha decidido conscientemente qué dependencias acepta.

    Externalizar nóminas no convierte a una empresa en incapaz.

    Externalizar todo el conocimiento sobre su arquitectura crítica y no saber siquiera qué pedir al proveedor quizá sí sea otro problema.

    La cuestión no es quién escribió el código.

    Es dónde reside la capacidad de decidir qué hacer con él.

    Por eso una pyme y un país no pueden utilizar exactamente la misma definición de soberanía o capacidad.

    La escala cambia.

    La criticidad cambia.

    Las consecuencias cambian.

    Una pyme puede permitirse depender completamente de un proveedor para el correo.

    Un hospital tendrá otras exigencias para determinados sistemas.

    Un Estado otras.

    No existe un nivel universal de autonomía.

    Existe una pregunta:

    ¿qué no podemos permitirnos dejar de entender?

    La inteligencia artificial hace la distinción más difícil

    La IA está reduciendo todavía más la distancia entre querer una capacidad y acceder a ella.

    Hace pocos años, construir un sistema capaz de resumir miles de documentos, escribir código, clasificar texto o responder preguntas sobre información no estructurada requería muchísimo trabajo especializado.

    Ahora muchas de esas cosas empiezan con una API.

    Eso es extraordinario.

    Y precisamente por eso resulta todavía más fácil confundir uso con capacidad.

    Una empresa puede decir:

    hacemos inteligencia artificial.

    ¿Significa que utiliza ChatGPT? ¿Que ha integrado modelos en procesos? ¿Que sabe evaluarlos? ¿Que ha construido datos y controles alrededor? ¿Que puede sustituir un proveedor? ¿Que entiende cuándo no debería utilizarlos?

    Todas las respuestas pueden ser tecnológicamente válidas.

    No significan lo mismo.

    La OCDE sigue encontrando en las pymes españolas una diferencia entre la disponibilidad o adopción de tecnología y las capacidades necesarias para aprovechar herramientas digitales más avanzadas; su informe sobre España se publicó en noviembre de 2025, por tanto es anterior a esta fecha editorial.

    Cuando la barrera de acceso cae, la capacidad se desplaza.

    Ya no está únicamente en conseguir la herramienta.

    Está en saber qué hacer con ella.

    Utilizar bien tecnología externa también puede construir capacidad

    Hay una versión demasiado dura de este artículo que no quiero escribir.

    Sería esta:

    si no construyes la tecnología, no tienes capacidad.

    No me la creo.

    Una organización puede aprender muchísimo precisamente utilizando sistemas desarrollados por otros.

    Puede desarrollar criterio, arquitectura, conocimiento de dominio, capacidad de integración, gobernanza, operación y evaluación.

    Puede incluso llegar a construir algo propio después porque años de uso le han permitido entender qué pieza merece ser propia.

    La dependencia y el aprendizaje no son incompatibles.

    El error sería pensar que la compra produce automáticamente el aprendizaje.

    A veces ocurre.

    A veces no.

    Puedes utilizar durante diez años una tecnología y seguir sin saber qué harías si mañana desaparece.

    También puedes utilizarla durante dos años y haber construido suficiente conocimiento para sustituirla.

    La diferencia no está en la factura.

    Está en lo que la organización ha acumulado mientras pagaba la factura.

    Quizá estamos midiendo la parte más fácil

    Una licencia se cuenta.

    Un servidor se cuenta.

    Una inversión tiene un importe.

    Una implantación tiene una fecha.

    La capacidad es más incómoda.

    Está repartida entre personas, procesos, infraestructura, experiencia y decisiones.

    Puede desaparecer cuando se va un equipo.

    Puede degradarse.

    Puede quedar atrapada en un proveedor.

    Puede crecer sin que compremos nada nuevo.

    Quizá por eso tendemos a medir tecnología observando objetos.

    Tiene sentido.

    Lo que no deberíamos hacer es olvidar qué pregunta responde cada indicador.

    Saber cuántas empresas utilizan determinada tecnología nos dice algo sobre adopción.

    No nos dice automáticamente cuánto han aprendido.

    Y entonces aparece una pregunta que cada vez me interesa más:

    ¿qué sabe hacer ahora esta organización que antes no sabía hacer?

    No cuántas herramientas tiene.

    Qué sabe hacer.

    Tener tecnología es fácil. Acumular capacidad tarda

    Comprar puede ocurrir en una tarde.

    Acumular capacidad es más lento.

    Hay que utilizar, integrar, equivocarse, mantener, documentar, formar, cambiar, descubrir dependencias y decidir qué partes merece la pena construir y cuáles conviene seguir comprando.

    Eso explica por qué podemos gastar mucho dinero en tecnología y seguir teniendo organizaciones frágiles.

    Y también por qué una empresa pequeña puede construir una capacidad extraordinaria utilizando principalmente tecnología de terceros.

    No depende únicamente de lo que posees.

    Depende de aquello que has aprendido a hacer.

    Después de darle vueltas, mi definición provisional sería esta:

    tener capacidad tecnológica significa haber acumulado suficiente conocimiento, infraestructura, organización y experiencia para utilizar una tecnología con criterio, adaptarla a nuestras necesidades y conservar un grado suficiente de decisión sobre aquello que depende de ella.

    No es una definición académica.

    Es mi mapa.

    Y seguramente tiene agujeros.

    Pero me sirve más que contar licencias.

    Ser tecnológico tampoco era comprar tecnología

    Empiezo a ver el mismo error en sitios distintos.

    Queremos digitalización y contamos herramientas.

    Queremos inteligencia artificial y contamos usuarios.

    Queremos modernización y contamos inversión.

    Queremos capacidad y contamos infraestructura.

    Todo eso importa.

    El problema empieza cuando el medio ocupa el lugar del resultado.

    Una empresa puede comprar una capacidad externa y obtener muchísimo valor.

    No necesita fingir que la ha construido.

    Puede decir simplemente:

    puedo hacer esto porque utilizo esta tecnología.

    La pregunta estratégica viene después.

    ¿Qué parte necesito entender? ¿Qué parte necesito poder cambiar? ¿Qué parte puedo entregar tranquilamente a otro? ¿Qué dependencia puedo aceptar? ¿Cuál no?

    No necesitamos construirlo todo.

    No necesitamos controlarlo todo.

    Necesitamos saber qué podemos permitirnos no entender.

    Y conservar capacidad de decisión suficiente sobre aquello que no podemos permitirnos dejar de entender.

    Referencias

    Bell, M. y Pavitt, K. (1992). Accumulating Technological Capability in Developing Countries. The World Bank Economic Review, 6(suppl. 1), 257–281. DOI: 10.1093/wber/6.suppl_1.257.

    Vial, G. (2019). Understanding digital transformation: A review and a research agenda. The Journal of Strategic Information Systems, 28(2), 118–144. DOI: 10.1016/j.jsis.2019.01.003.

    Fernández Cerezo, A., Puente Díaz, S. y Veiga-Duarte, R. (2025). La debilidad de la inversión empresarial en España tras la pandemia: un análisis basado en la EBAE. Banco de España, Boletín Económico 2025/T1. Publicado el 29 de enero de 2025.

    OECD (2025). OECD Economic Surveys: Spain 2025. OECD Publishing. DOI: 10.1787/abc5c435-en. Publicado el 26 de noviembre de 2025.

  • La memoria no es un disco duro: cómo construir una IA que recuerde, olvide y aprenda

    Llevo un tiempo intentando construir una memoria para una inteligencia artificial.

    Al principio pensé que el problema era bastante sencillo.

    Guardar conversaciones, partir documentos, crear embeddings, buscar aquello que se parece a la pregunta actual, recuperarlo, meterlo en contexto y responder.

    Funciona.

    De hecho, funciona sorprendentemente bien.

    El problema empezó cuando dejé de preguntarme si el sistema podía recuperar información y empecé a preguntarme si realmente recordaba.

    Una base vectorial puede contener años de conversaciones y documentos. Puede encontrar fragmentos relacionados con una consulta en milisegundos. Podemos añadir fechas, personas, proyectos y metadatos.

    Pero sigue apareciendo una pregunta incómoda:

    ¿tener acceso a todo lo que te ha ocurrido significa tener memoria?

    Creo que no.

    Al menos no en el sentido que me interesa.

    Porque recordar no parece consistir únicamente en encontrar el pasado.

    El pasado también cambia la manera en que interpretamos lo siguiente.

    Y ahí el problema deja de parecerse a almacenamiento.

    Una biblioteca no recuerda sus libros

    Una biblioteca puede conservar miles de historias.

    No recuerda ninguna.

    La diferencia parece obvia porque no esperamos que una biblioteca haga algo con aquello que contiene.

    Con una IA la intuición se vuelve más confusa.

    Le damos acceso a veinte mil conversaciones. Preguntamos por una decisión de hace seis meses. Encuentra el fragmento correcto y responde.

    Decimos:

    tiene memoria.

    No tengo problema con utilizar la palabra de manera práctica.

    Pero si queremos construir sistemas que aprendan durante meses o años, quizá necesitemos distinguir mejor.

    Imaginemos que durante tres años he dicho cosas distintas sobre la misma cuestión.

    Primero:

    Prefiero sistemas simples aunque pierdan funcionalidad.

    Meses después:

    En este proyecto necesito priorizar control aunque aumente la complejidad.

    Y dos años más tarde:

    Hemos complicado demasiado el sistema. Hay que volver a simplificar.

    Una búsqueda puede recuperar las tres frases.

    La memoria empieza después.

    ¿Me contradigo? ¿He cambiado de opinión? ¿Hablaba de contextos diferentes? ¿La última frase sustituye a la primera? ¿Existe una idea más general detrás de las tres?

    Quizá mi criterio real no sea «simplicidad» ni «control».

    Quizá sea evitar complejidad que no produce una capacidad suficientemente valiosa.

    Eso no estaba escrito literalmente en ninguna frase.

    Ha aparecido al relacionarlas.

    Almacenar conserva información. Aprender exige que las experiencias modifiquen alguna estructura que utilizaremos después.

    Recordar no es lo mismo que reproducir

    Creo que la metáfora del disco duro nos engaña porque es demasiado buena.

    Un archivo está o no está.

    Lo abrimos.

    El contenido permanece igual.

    Podemos copiarlo sin modificarlo.

    Nuestra memoria no se siente así.

    Recordamos cosas que nunca podríamos transcribir exactamente. Olvidamos detalles, conservamos otros, mezclamos acontecimientos, relacionamos episodios, construimos hábitos y generalizaciones. A veces incluso estamos muy seguros de algo que recordamos mal.

    No soy neurocientífico y no quiero convertir una descripción intuitiva de la memoria humana en una arquitectura de software.

    Precisamente por eso me interesa usar la neurociencia como provocación, no como manual de implementación.

    La teoría de los sistemas de aprendizaje complementarios, planteada por McClelland, McNaughton y O’Reilly en los noventa y revisada posteriormente por Kumaran, Hassabis y McClelland, propone —simplificando bastante— una separación entre el aprendizaje rápido de experiencias concretas y la incorporación más gradual de regularidades a estructuras de conocimiento. Los propios autores posteriores señalan además su relevancia para pensar agentes artificiales.

    No necesito convertir el hipocampo en una tabla de PostgreSQL.

    Me interesa una diferencia mucho más pequeña:

    «esto ocurrió» no es lo mismo que «esto suele ocurrir».

    La primera frase puede ser un episodio.

    La segunda ya es una interpretación de varios episodios.

    Y muchos sistemas actuales tratan ambas cosas como texto.

    Una frase no debería perder su historia al convertirse en memoria

    Supongamos que un cliente dice:

    Creo que el problema es el precio.

    Guardamos la frase.

    Meses después otra persona escribe:

    Los clientes de este segmento son muy sensibles al precio.

    Ambas frases se parecen.

    Pero no son epistemológicamente iguales.

    La primera es una observación atribuida a una persona concreta en un momento concreto.

    La segunda puede ser una hipótesis.

    O una conclusión.

    O una generalización producida por una IA después de leer varias conversaciones.

    Si convertimos ambas en texto + embedding y dejamos que el modelo descubra el resto, estamos pidiendo que reconstruya constantemente algo que el sistema podría conservar de forma explícita.

    ¿Quién lo dijo? ¿Cuándo? ¿En qué contexto? ¿Era un hecho, una opinión o una inferencia? ¿Sigue vigente? ¿Qué otras memorias la contradicen? ¿De qué evidencias deriva?

    Cada una de esas preguntas cambia lo que significa recordar la frase.

    Por eso he empezado a pensar que la unidad de una memoria artificial quizá no debería parecerse a:

    texto + embedding

    sino a algo más parecido a:

    contenido + origen + momento + tipo + confianza + relaciones + estado + evidencia

    No es una arquitectura estándar.

    Es mi manera provisional de ordenar el problema.

    El embedding sigue siendo útil.

    Muchísimo.

    Pero es una manera de encontrar la memoria.

    No la memoria misma.

    El pasado debería poder cambiar el presente

    Dos trabajos de 2023 me ayudaron a ver mejor esta diferencia desde la ingeniería.

    Generative Agents almacena experiencias, las recupera y construye reflexiones de nivel superior que después participan en la planificación del agente. MemGPT, desde otro enfoque, trata explícitamente el límite del contexto y gestiona diferentes niveles de memoria para decidir qué información debe estar disponible en cada momento.

    No creo que ninguno resuelva «la memoria» en sentido general.

    Ni falta que hace.

    Lo importante es el cambio de pregunta.

    Ya no es únicamente:

    ¿cómo recuperamos el fragmento correcto?

    Empieza a ser:

    ¿qué parte del pasado debería influir ahora y de qué manera?

    Eso introduce selección.

    Y la selección es incómoda.

    Porque si un sistema lo recuerda todo con el mismo peso, en realidad no ha decidido nada.

    Recordar podría ser activar relaciones, no documentos

    Cuando pienso en algo, rara vez siento que mi cabeza haya ejecutado una búsqueda de los diez recuerdos más similares.

    Una cosa llama a otra.

    Un lugar trae una persona. Una persona trae una conversación. La conversación trae una decisión. La decisión trae el error que vino después.

    No quiero decir que el cerebro funcione como un grafo de conocimiento.

    Sería otra metáfora demasiado literal.

    Lo que quiero conservar es la intuición de que un recuerdo puede activar otros recuerdos por razones distintas a la similitud textual.

    Una memoria sobre WordPress puede estar relacionada con un cliente, un proyecto, un error, una regla que nació de ese error, una decisión posterior que sustituyó la regla o una conversación en la que descubrimos que el problema nunca había sido WordPress.

    Una búsqueda puramente semántica puede encontrar algunas de esas cosas.

    Una arquitectura que conserve relaciones puede recorrer otras.

    Pero aquí aparece inmediatamente mi tendencia natural:

    si hacen falta relaciones, construyamos un grafo.

    Personas. Proyectos. Conceptos. Decisiones. Documentos. Reglas. Todo conectado.

    Parece precioso.

    Hasta que dentro de tres años tenemos quince millones de relaciones y nadie sabe cuáles siguen significando algo.

    Hemos sustituido un trastero de documentos por un trastero de nodos.

    El problema no es conectar todo.

    Es decidir qué conexiones siguen mereciendo influir.

    Una memoria que no cambia acaba siendo un archivo

    La investigación sobre memoria también sugiere algo que me resulta especialmente provocador: las memorias pueden cambiar con el tiempo y relacionarse con estructuras de conocimiento más generales.

    Krenz y sus colaboradores estudiaron transformaciones temporales de la representación de recuerdos. Spens y Burgess propusieron en 2024 un modelo computacional donde episodios y conocimiento general interactúan, permitiendo tanto generalización como determinadas distorsiones.

    Otra vez: no quiero copiar el cerebro.

    Quiero quedarme con la pregunta.

    ¿Qué pasa con una experiencia después de guardarla?

    Nuestros sistemas suelen capturar, indexar, almacenar y esperar.

    La memoria crece.

    Pero el sistema que la utiliza puede seguir siendo exactamente el mismo.

    ¿Y si necesitáramos una fase diferente?

    Un momento en el que el sistema no se limite a esperar nuevas entradas, sino que vuelva sobre lo ocurrido.

    Detecte repeticiones. Encuentre contradicciones. Compruebe qué reglas siguen vigentes. Observe patrones. Construya una hipótesis. Reduzca la importancia de una excepción antigua.

    No sé si llamarlo consolidación es técnicamente la mejor elección en ingeniería.

    Me sirve porque distingue dos operaciones:

    incorporar experiencia y reorganizar lo experimentado.

    Y esa distinción cambia completamente la arquitectura.

    Aprender exige poder cambiar de opinión

    Un sistema que únicamente añade información puede acumular contradicciones sin resolverlas.

    Un cliente prefiere A.

    Después prefiere B.

    Una norma dice X.

    Se actualiza y ahora dice Y.

    Un proyecto tiene una prioridad.

    Tres meses después deja de tenerla.

    Si todo permanece con la misma vigencia, el sistema no tiene historia.

    Tiene capas.

    La temporalidad importa.

    Pero cambiar una memoria también da miedo.

    Porque en cuanto permitimos que el sistema resuma, generalice o sustituya, puede equivocarse.

    Imaginemos:

    Quizá deberíamos cambiar de proveedor.

    Después una IA resume:

    Se está considerando un cambio de proveedor.

    Meses más tarde otra capa condensa varias conversaciones:

    Existe insatisfacción con el proveedor actual.

    Otro agente utiliza eso como evidencia:

    El equipo quiere cambiar de proveedor.

    Y finalmente alguien pregunta qué se decidió.

    El sistema responde:

    Se decidió cambiar de proveedor.

    Nunca ocurrió.

    Ninguna transformación individual era completamente absurda.

    El problema apareció acumulándose.

    Si una memoria puede aprender, también puede aprender mal.

    Aquí dejo de querer una memoria humana

    En este punto la metáfora biológica deja de ser mi objetivo.

    No quiero construir una máquina que recuerde como nosotros.

    Quiero que pueda hacer algunas cosas que nosotros hacemos y otras que nosotros hacemos fatal.

    Una de ellas es conservar procedencia.

    Yo no puedo abrir un panel y reconstruir con precisión por qué mantengo una convicción que empezó a formarse hace quince años.

    Una máquina podría.

    Si diseñamos el sistema para ello.

    Una memoria artificial podría distinguir:

    esto fue observado;

    esto estaba escrito en este documento;

    esto lo dijo esta persona;

    esto fue inferido;

    esto resume estas experiencias;

    esto contradice aquello;

    esto dejó de estar vigente;

    esto todavía no está confirmado.

    Y, sobre todo:

    esto deriva de aquí.

    No es una conclusión de neurociencia.

    Es una decisión de arquitectura.

    Y me parece una oportunidad enorme.

    Podemos permitir que el sistema reorganice conocimiento sin destruir el camino hasta las evidencias originales.

    Podemos tener abstracción con procedencia, cambios de opinión con historial, inferencias con nivel de confianza, contradicciones que siguen abiertas y olvido funcional sin destrucción.

    No necesitamos fabricar una memoria humana.

    Podríamos intentar construir una memoria auditable.

    Olvidar no debería significar borrar

    Esta parte me cuesta.

    He pasado muchos años construyendo sistemas para no perder información.

    Guardar, versionar, hacer copias, registrar logs, no borrar.

    Desde la perspectiva de una base de datos es bastante sensato.

    Desde la perspectiva de una memoria, no estoy tan seguro.

    Si cada experiencia conserva para siempre la misma probabilidad de influir, el pasado termina ocupando todo.

    Una conversación irrelevante de hace cuatro años puede competir con una decisión confirmada ayer.

    Una regla obsoleta puede reaparecer porque semánticamente se parece mucho a la pregunta.

    Una hipótesis antigua puede sobrevivir indefinidamente porque nadie la eliminó.

    Olvidar no tiene por qué significar destruir.

    Puede significar reducir prioridad, archivar, comprimir o mantener el episodio como evidencia pero dejar de activarlo normalmente.

    Distinguir entre:

    esto ocurrió

    y

    esto sigue siendo relevante.

    En una máquina podemos incluso separar ambas cosas mejor de lo que lo hacemos nosotros.

    El registro puede permanecer.

    Su influencia puede cambiar.

    El contexto no es la memoria

    También me cuesta llamar memoria a una ventana de contexto enorme.

    Cien mil tokens.

    Doscientos mil.

    Un millón.

    Impresiona.

    Pero una biblioteca abierta encima de una mesa sigue sin equivaler a haberla aprendido.

    Me resulta más útil pensar el contexto como el espacio de trabajo temporal donde colocamos aquello que el sistema necesita para actuar ahora.

    La pregunta. El objetivo. Unas experiencias. Una regla. Una excepción. Algún conocimiento relevante.

    Y el resto queda fuera.

    Por eso recuperar no debería significar simplemente «trae los diez chunks más parecidos».

    Puede importar la similitud.

    También la fecha, la fuente, la importancia, la vigencia, la contradicción, la relación con el objetivo actual o la frecuencia con la que algo se ha demostrado útil.

    Una memoria poco parecida semánticamente puede contener precisamente la excepción que destruye nuestra hipótesis.

    Eso me parece importante.

    Un sistema que solo recuerda lo que se parece a lo que ya está pensando corre el riesgo de convertirse en una máquina extraordinariamente sofisticada para confirmarse a sí misma.

    He acabado con seis procesos

    Como me ocurre siempre que una idea se vuelve demasiado grande, he construido categorías.

    No son una taxonomía de neurociencia.

    Tampoco un estándar de arquitectura de IA.

    Son mi mapa provisional.

    Capturar. Registrar una experiencia sin convertirla automáticamente en conocimiento.

    Relacionar. Conectarla con tiempos, personas, proyectos, conceptos, evidencias y contradicciones.

    Activar. Decidir qué pequeña parte de todo lo acumulado merece entrar ahora en el contexto.

    Razonar. Operar sobre lo activado: comparar, inferir, planificar o decidir.

    Consolidar. Volver sobre múltiples experiencias y construir regularidades sin perder su origen.

    Olvidar. Reducir la influencia de aquello que ha perdido relevancia sin borrar necesariamente que ocurrió.

    El modelo funciona hasta que empiezas a hacer preguntas difíciles.

    ¿Quién decide qué consolidar?

    ¿Cuánta evidencia hace falta para cambiar una creencia?

    ¿Cómo evitamos que una inferencia producida por el propio sistema se convierta después en «hecho»?

    ¿Qué hacemos con conocimiento procedural que no cabe bien en una frase?

    ¿Dónde viven los objetivos?

    No lo sé.

    Me gusta no saberlo.

    Significa que el modelo todavía está sirviendo para encontrar problemas en lugar de ocultarlos.

    No quiero una IA que lo recuerde todo

    Creo que empecé este trabajo con la intuición equivocada.

    Quería una IA que no olvidara.

    Ahora no estoy seguro de quererla.

    Una máquina que recuerde absolutamente todo no tiene por qué ser más inteligente.

    Puede parecerse a alguien que intenta mantener una conversación mientras escucha simultáneamente todas las conversaciones que ha tenido en su vida.

    El almacenamiento ya lo hacemos extraordinariamente bien.

    El problema es qué hacemos con lo almacenado.

    Cómo una experiencia se convierte —o no— en memoria.

    Cómo varias experiencias producen conocimiento.

    Cómo una regla deja de estar vigente.

    Cómo una contradicción permanece abierta.

    Cómo algo deja de ser relevante sin dejar de existir.

    Cómo una inferencia conserva el rastro de aquello que la produjo.

    Cómo el sistema cambia de opinión sin reescribir el pasado para fingir que siempre pensó lo mismo.

    Eso ya no se parece demasiado a un disco duro.

    Tampoco a una base vectorial más grande.

    Empieza a parecerse a un sistema que se reorganiza mediante su propia actividad.

    No sé cuánto de esto se parecerá finalmente a nuestra manera de recordar.

    Probablemente menos de lo que hoy imagino.

    Y quizá sea mejor así.

    Porque la idea que me cuesta abandonar no es que debamos copiar la memoria humana.

    Es esta:

    recordar no consiste únicamente en conservar el pasado. Consiste en permitir que el pasado modifique la forma en que interpretaremos lo siguiente.

    Si conseguimos construir algo parecido, la memoria dejará de ser el lugar donde una inteligencia busca información.

    Pasará a formar parte del mecanismo mediante el que esa inteligencia cambia.

    Y entonces la pregunta realmente importante ya no será cuántos tokens caben en el contexto ni cuántos vectores caben en la base de datos.

    Será bastante más incómoda:

    ¿por qué cree lo que cree?

    Y tendremos que asegurarnos de que todavía pueda reconstruir la respuesta.

    Referencias

    McClelland, J. L., McNaughton, B. L. y O’Reilly, R. C. (1995). Why there are complementary learning systems in the hippocampus and neocortex. Psychological Review, 102(3), 419–457. DOI: 10.1037/0033-295X.102.3.419.

    Kumaran, D., Hassabis, D. y McClelland, J. L. (2016). What Learning Systems do Intelligent Agents Need? Complementary Learning Systems Theory Updated. Trends in Cognitive Sciences, 20(7), 512–534. DOI: 10.1016/j.tics.2016.05.004.

    Park, J. S. et al. (2023). Generative Agents: Interactive Simulacra of Human Behavior. Proceedings of UIST ’23. DOI: 10.1145/3586183.3606763.

    Packer, C. et al. (2023). MemGPT: Towards LLMs as Operating Systems. arXiv:2310.08560.

    Krenz, V. et al. (2023). Time-dependent memory transformation in hippocampus and neocortex is semantic in nature. Nature Communications, 14, 6037. DOI: 10.1038/s41467-023-41648-1.

    Spens, E. y Burgess, N. (2024). A generative model of memory construction and consolidation. Nature Human Behaviour, 8, 526–543. DOI: 10.1038/s41562-023-01799-z. Publicado el 19 de enero de 2024.

  • No compras por una frase: qué nos persuade de verdad en una página de venta

    Quería saber qué parte de una página de venta nos hace comprar.

    Las palabras. La estructura. El diseño. Las reseñas. El precio. La emoción. La confianza. La fricción.

    Pensaba que, si buscaba suficiente, acabaría encontrando una respuesta con porcentajes. Algo parecido a: el copy explica un 30% de la decisión, la estructura otro 20%, la prueba social un 15% y el resto se reparte entre precio, diseño y estado de ánimo.

    Me habría encantado.

    No la encontré.

    Y cuanto más leía, más sospechaba que el problema no estaba en la falta de investigación.

    Estaba en mi pregunta.

    Porque una página de venta no recibe a una persona neutra.

    La recibe después de que hayan ocurrido muchas cosas.

    Alguien llega buscando exactamente ese producto. Otro llega porque ha visto un anuncio. Otro porque se lo recomendó un amigo. Otro quiere comparar precio. Otro todavía no sabe si tiene un problema. Otro ya ha decidido comprar y solo necesita comprobar que no va a arrepentirse.

    Después aparece nuestro magnífico titular.

    Quizá la persuasión no empieza ahí.

    La misma página puede significar dos cosas distintas

    Imaginemos dos personas viendo exactamente la misma página.

    Mismo texto. Mismo producto. Mismo precio. Mismas fotografías. Mismas reseñas. Mismo botón.

    Una compra.

    La otra no.

    Si el estímulo es idéntico, entonces una parte importante de la explicación está fuera de la página.

    Parece obvio.

    En marketing conseguimos olvidarlo con bastante facilidad.

    Miramos la conversión y empezamos a mover objetos. Cambiamos el titular. Añadimos un testimonio. Subimos el botón. Quitamos un campo. Hacemos el precio más grande.

    Y muchas veces funciona.

    El error aparece después, cuando convertimos una intervención que funcionó en una situación en una teoría general sobre cómo compran las personas.

    No es lo mismo.

    La investigación sobre persuasión es bastante menos cómoda que las plantillas de copy. Una revisión amplia publicada en marzo de 2025 por Davide Orazi y sus colaboradores vuelve a mostrar un paisaje lleno de condiciones: importa el tipo de procesamiento, el mensaje, la fuente, el receptor, el canal y el contexto.

    No hay una combinación universal.

    Tiene sentido.

    No compramos una página. Tomamos una decisión dentro de una situación.

    La página entra en esa situación.

    No la crea desde cero.

    Las personas llegan antes que el copy

    Hay una frase que el marketing ha repetido hasta convertirla en mueble de oficina:

    Compramos con la emoción y justificamos con la razón.

    Tiene algo de verdad y demasiado de eslogan.

    El problema de separar emoción y razón como dos personajes que pelean dentro de nuestra cabeza es que ambos participan en la decisión de formas mucho más mezcladas.

    A veces decidimos rápido.

    A veces comparamos.

    A veces una sensación nos hace mirar un argumento.

    A veces un argumento cambia la sensación.

    A veces estamos cansados y aceptamos una opción suficientemente buena.

    A veces llevamos tres semanas investigando un producto de ciento cincuenta euros como si fuéramos a fusionar dos multinacionales.

    No somos el mismo comprador todo el tiempo.

    Eso me parece más interesante que decidir quién gana entre emoción y razón.

    Cuando entramos en una página, ya traemos una interpretación del mundo.

    Sabemos cosas. Creemos cosas. Tememos cosas. Confiamos en determinadas señales. Tenemos más o menos tiempo, más o menos dinero y más o menos ganas de pensar.

    La página puede modificar todo eso.

    Pero no empieza desde cero.

    Y esa idea cambia bastante la manera de escribir.

    AIDA puede ser una buena herramienta sin ser una teoría de la mente

    Cuando pensaba en la estructura, pensaba sobre todo en fórmulas.

    AIDA: Attention, Interest, Desire, Action.

    PAS: Problem, Agitate, Solution.

    Before–After–Bridge.

    Son atractivas porque ponen orden.

    La página en blanco desaparece. Ya sabemos qué hacer después.

    Primero llamo la atención. Después construyo interés. Después deseo. Después pido la acción.

    Como herramienta de escritura, no tengo ningún problema con ello.

    El problema empieza cuando confundimos una secuencia útil para redactar con la secuencia por la que necesariamente pasa una persona para comprar.

    Vakratsas y Ambler revisaron en 1999 más de doscientos cincuenta trabajos sobre cómo funciona la publicidad y encontraron poco apoyo para la idea de una única jerarquía temporal de efectos.

    No creo que eso mate AIDA.

    Creo que la coloca en su sitio.

    Una persona puede llegar a nuestra página con atención, interés y deseo construidos semanas antes.

    Quizá vio el producto en casa de alguien. Lo buscó. Leyó opiniones. Comparó. Volvió.

    Y ahora únicamente quiere comprobar las condiciones de devolución.

    Otra persona puede descubrirnos ahí. Otra puede llegar deseando el producto y desconfiando de nosotros. Otra puede confiar muchísimo en la marca y no querer aquello que le estamos vendiendo.

    AIDA tendría que hacer bastante gimnasia para convertir todos esos recorridos en una secuencia universal.

    Pero sigue siendo útil.

    Porque obliga al redactor a hacerse preguntas razonables.

    ¿Por qué debería importarle esto a alguien? ¿Qué necesita comprender? ¿Qué valor puede imaginar? ¿Qué tiene que hacer después?

    Una fórmula de copy puede ser una buena herramienta para ordenar un mensaje y una teoría bastante pobre sobre cómo decide una persona.

    No hay ninguna contradicción.

    Las palabras importan porque hacen inferir cosas

    También me incomoda la idea de las «palabras que venden».

    Urgente. Exclusivo. Probado. Descubre. Ahora.

    Como si la persuasión viviera dentro de determinadas combinaciones de letras.

    Las palabras sí importan.

    Muchísimo.

    Pero no porque tengan poderes.

    Importan porque nos hacen interpretar.

    Grant Packard y Jonah Berger estudiaron el lenguaje concreto en interacciones de atención al cliente. Encontraron que hablar de manera más concreta podía aumentar la percepción de que el empleado estaba escuchando y, con ello, la satisfacción y la disposición a comprar.

    La parte interesante no es convertirlo en otra receta:

    usa palabras concretas.

    La parte interesante es entender por qué.

    «Voy a buscar esa camiseta gris» puede transmitir que he atendido a lo que me dijiste mejor que «voy a buscar eso».

    No es magia verbal.

    Es una inferencia.

    La concreción comunica atención.

    En otro contexto podría comunicar rigidez.

    Una explicación técnica puede transmitir competencia a una persona y resultar sospechosamente complicada a otra.

    Una frase corta puede parecer clara.

    O infantil.

    Un tono seguro puede reducir incertidumbre.

    O sonar arrogante.

    Buscar palabras que venden me parece menos útil que preguntarme:

    ¿qué está permitiendo inferir esta formulación?

    Ahí la escritura deja de parecer una colección de trucos y vuelve a parecer una relación entre personas.

    La estructura tampoco es una sola cosa

    Durante mucho tiempo metí bajo la palabra estructura demasiadas cosas.

    Ahora intento separarlas.

    Una cosa es la estructura retórica: en qué orden cuento el argumento.

    Otra es la estructura informativa: qué información aparece y cuándo.

    Y otra distinta es la arquitectura de decisión: cómo está construido el entorno en el que la persona tiene que actuar.

    Una página puede seguir AIDA perfectamente y tener un checkout insoportable.

    Puede explicar el producto de maravilla y esconder el precio hasta el final.

    Puede tener un mensaje mediocre y convertir bien porque todos los usuarios llegan desde una recomendación muy fuerte.

    Puede escribir diez testimonios excelentes y perder la venta porque la página parece una estafa.

    Puede no tener prácticamente copy y funcionar porque el producto ya se ha vendido antes de que el usuario llegue.

    Por eso cuando alguien dice «la estructura convierte» me quedo con ganas de preguntar:

    ¿qué estructura?

    ¿Para quién?

    ¿En qué momento?

    ¿Para resolver qué?

    El orden de las frases importa.

    Pero también importa qué dudas existen cuando la persona las lee.

    La confianza no vive en el bloque de testimonios

    Una de las cosas más curiosas de una compra online es que empezamos a leer antes de leer.

    Miramos la página.

    ¿Parece real? ¿Parece cuidada? ¿Hay una empresa detrás? ¿Puedo devolverlo? ¿El pago parece seguro? ¿Las fotografías son propias? ¿Las reseñas parecen escritas por humanos? ¿Hay alguien a quien reclamar?

    Todo eso ocurre aunque no nos sentemos conscientemente a elaborar una lista.

    La página completa produce señales.

    Por eso la confianza no está en una sección.

    No vive únicamente en «lo que dicen nuestros clientes».

    Una garantía puede reducir riesgo. Una explicación clara puede demostrar conocimiento. Una política de devolución puede hacer una compra menos peligrosa. Una marca conocida trae confianza construida fuera de esa URL.

    Un error de ortografía en un sitio financiero puede destruir en segundos parte de lo anterior.

    Las reseñas también cambian de función según lo que compramos. El trabajo de Hengchen Dai, Cindy Chan y Cassie Mogilner mostró que los consumidores se apoyaban menos en reseñas para determinadas compras experienciales que para compras materiales.

    Otra vez, la conclusión no es «las reseñas funcionan menos para experiencias».

    La conclusión que me interesa es más básica:

    una señal no tiene un peso fijo. Tiene una función dentro de una decisión.

    Si no sé si una maleta resiste, la experiencia de cien compradores puede ayudarme.

    Si quiero saber si una obra de teatro me emocionará, quizá crea menos que la experiencia de otra persona pueda anticipar la mía.

    El bloque es el mismo.

    La incertidumbre no.

    Persuadir tampoco es conseguir que alguien compre

    Hay otra confusión que hacemos constantemente porque la métrica final es cómoda.

    Conversión.

    La persona compró o no compró.

    Pero antes de la transacción pueden haber cambiado muchas cosas.

    Puedo creer que un producto es bueno y no comprarlo. Puedo desearlo y no comprarlo. Puedo decidir que lo compraré mañana. Puedo abandonar porque la tarjeta falla. Puedo cambiar de opinión porque aparecen gastos inesperados. Puedo estar completamente persuadido y no tener dinero.

    La conversión es un resultado.

    No contiene por sí sola todo el proceso.

    Esto también explica por qué optimizar pequeños pasos puede producir resultados extraños.

    Podemos mejorar el clic en un botón y empeorar la confianza.

    Podemos aumentar la urgencia y conseguir más ventas hoy a cambio de una peor percepción de marca.

    Podemos reducir tanto la fricción que alguien complete una acción sin haber entendido bien qué estaba aceptando.

    El dashboard lo llamará conversión.

    La experiencia de la persona puede contar otra historia.

    He acabado pensando en cinco capas

    Cuando algo me parece demasiado desordenado, intento construir categorías.

    Luego procuro recordar que las categorías son mías.

    Estas cinco no aparecen juntas así en ningún paper.

    Son mi manera provisional de ordenar el problema.

    La primera es estado: qué quiere la persona antes de llegar, qué sabe, qué siente, cuánto riesgo percibe y cuánto le importa la decisión.

    La segunda es procesamiento: qué consigue hacer el mensaje. Hacer comprender, comparar, imaginar, recordar, sentir o dudar.

    La tercera es valor y riesgo: qué cree que puede ganar si compra y qué cree que puede perder si se equivoca.

    La cuarta es confianza: en el producto, en quien vende, en las reseñas, en el sistema de pago, en la promesa.

    La quinta es fricción: todo lo que queda entre «esto me interesa» y «ya está hecho».

    El modelo funciona.

    Y se rompe en cuanto lo tocamos.

    Una garantía reduce riesgo y aumenta confianza. Una buena explicación modifica procesamiento y confianza. Una página lenta añade fricción y puede reducir confianza. Una historia aumenta deseo para alguien y molesta a quien solo quiere encontrar una especificación.

    Me gusta que el modelo se rompa.

    Significa que todavía no lo he confundido del todo con la realidad.

    Entonces, ¿qué pesa más?

    Esta era mi pregunta inicial.

    Las palabras o la estructura. La emoción o la razón. La oferta o el diseño. Las reseñas o la confianza.

    Después de leer bastante, la respuesta que puedo defender es la que menos apetece poner en una portada:

    depende.

    Pero no un depende para escapar.

    Un depende estructural.

    Depende de qué producto, qué persona, qué sabe ya, cuánto riesgo percibe, cómo ha llegado, cuánto confía, qué tiene que resolver y qué ocurrió antes de abrir la página.

    No puedo decir seriamente que el copy pesa un 40%.

    No puedo decir que AIDA explica un 30% de la decisión.

    No puedo decir que la emoción vence siempre.

    Lo que sí puedo hacer es estudiar mecanismos.

    ¿Qué duda estoy resolviendo? ¿Qué estoy haciendo imaginable? ¿Qué información falta? ¿Qué riesgo percibe? ¿Qué señal podría generar confianza? ¿Qué esfuerzo estoy añadiendo? ¿Qué parte de la venta ocurrió antes de que yo apareciera?

    Es menos cómodo que una plantilla.

    También me parece mucho más humano.

    Una página de venta es una arquitectura de decisión

    Al final he dejado de pensar en la página como un texto.

    La veo más como un entorno.

    Decide qué aparece primero. Qué puede compararse. Qué se oculta. Qué parece urgente. Qué demuestra autoridad. Qué riesgo se hace visible. Qué esfuerzo exige continuar. Qué ocurre si queremos irnos.

    Eso introduce una pregunta que me interesa más que la optimización.

    Podemos eliminar un campo inútil para facilitar una decisión que alguien ya quería tomar.

    También podemos esconder un coste hasta el último paso para hacer más caro psicológicamente abandonar.

    Ambas cosas pueden aumentar la conversión.

    No son la misma intervención.

    Podemos mostrar una reseña real que ayuda a evaluar algo que el comprador no puede comprobar.

    También podemos fabricar consenso.

    Ambas cosas utilizan prueba social.

    No son lo mismo.

    Podemos explicar que una oferta termina porque existe una limitación real.

    También podemos fabricar urgencia.

    Ambas pueden producir acción.

    No son lo mismo.

    Desde el dashboard todas acaban bajo una palabra bastante limpia:

    optimización.

    Pero en realidad estamos haciendo algo más concreto.

    Estamos modificando un entorno para aumentar la probabilidad de una conducta.

    Eso no convierte toda persuasión en manipulación.

    Tampoco permite fingir que todo es neutral.

    El botón es el final de una historia que empezó antes

    Empecé intentando descubrir qué hace comprar a una persona.

    Ahora la pregunta me parece demasiado grande para una página.

    Una página puede empujar, facilitar, explicar, hacer imaginable, demostrar, tranquilizar, reducir esfuerzo, crear presión u ocultar.

    Pero nunca opera sola.

    La persona llega con una historia.

    La página entra durante unos minutos.

    Una persona ve una oportunidad y otra un riesgo. Una necesita veinte reseñas y otra sospecha precisamente porque todas son perfectas. Una quiere que le expliquen el producto desde cero. Otra sabe exactamente lo que quiere y solo necesita que no la estorbemos.

    Quizá por eso no encontré los porcentajes.

    Porque no compramos por una frase.

    Tampoco por una estructura.

    Ni por AIDA.

    Ni por una emoción aislada.

    Compramos cuando una combinación concreta de estado, interpretación, valor, riesgo, confianza y fricción hace que actuar tenga suficiente sentido en una situación determinada.

    Sigue siendo un modelo.

    Seguramente incompleto.

    Pero al menos ya no pretende ser una receta.

    Y deja abierta la pregunta que me parece más importante.

    Si podemos diseñar todas esas condiciones, ¿en qué momento dejamos de ayudar a alguien a tomar una decisión y empezamos a construir el entorno para que le resulte más difícil no tomarla?

    No tengo una respuesta limpia.

    Probablemente por eso todavía me interesa la pregunta.

    Referencias

    Vakratsas, D. y Ambler, T. (1999). How Advertising Works: What Do We Really Know? Journal of Marketing, 63(1), 26–43. DOI: 10.1177/002224299906300103.

    Packard, G. y Berger, J. (2021). How Concrete Language Shapes Customer Satisfaction. Journal of Consumer Research, 47(5), 787–806. DOI: 10.1093/jcr/ucaa038.

    Dai, H., Chan, C. y Mogilner, C. (2020). People Rely Less on Consumer Reviews for Experiential than Material Purchases. Journal of Consumer Research, 46(6), 1052–1075. DOI: 10.1093/jcr/ucz042.

    Orazi, D. C. et al. (2025). Verbal persuasion in marketing: A multimethod meta-analysis of analytical and narrative processing. Journal of the Academy of Marketing Science, 53, 1600–1623. DOI: 10.1007/s11747-025-01095-4. Publicado el 20 de marzo de 2025.

  • Digitalizar no era hacer una web

    Durante años hemos utilizado la palabra digitalizar para nombrar cosas muy distintas.

    Hacer una web, abrir redes sociales, comprar un CRM, implantar un ERP, pasar las facturas a PDF, automatizar un correo o subir documentos a la nube.

    Todo cabe dentro. Y precisamente por eso la palabra acaba explicando bastante poco.

    En España la confusión se hizo especialmente visible con el Kit Digital. Era fácil mirar el programa desde fuera y reducirlo a una caricatura: dinero público para hacer páginas web. La caricatura funcionaba porque la web es visible. Puedes abrirla, hacer una captura de pantalla y decidir en treinta segundos si te gusta.

    Pero el programa nunca se limitó a eso. Sus bases incluían también gestión de clientes, analítica, factura electrónica, oficina virtual, ciberseguridad y gestión de procesos, entre otras soluciones.

    La discusión interesante, por tanto, no es si digitalizar significaba literalmente hacer una web.

    La pregunta es otra.

    ¿Qué significa que una empresa se haya digitalizado?

    Porque una empresa puede tener web, CRM, ERP, firma electrónica, almacenamiento en la nube y veinte automatizaciones y seguir dependiendo de que María recuerde cada jueves qué Excel hay que enviar a producción.

    Puede estar llena de tecnología y continuar funcionando mediante memoria humana, excepciones, duplicidades y conversaciones de pasillo.

    Y ahí la palabra empieza a romperse.

    La herramienta es la parte que podemos fotografiar

    Creo que una de las razones por las que confundimos digitalización con herramientas es bastante sencilla.

    Las herramientas se ven.

    Un CRM existe o no existe. Una web está publicada o no. Una factura se envía electrónicamente o no. Podemos presupuestar la implantación, aprobarla, poner una fecha y dar el proyecto por terminado.

    La transformación es mucho menos agradecida. No tiene una pantalla necesariamente.

    Puede consistir en que dos departamentos dejen de llamar de manera distinta a la misma cosa. En que un dato se capture una sola vez. En que una decisión deje de depender de la memoria de una persona. En que ventas sepa qué ocurrió con un cliente sin llamar a administración. En que un error pueda reconstruirse.

    Nada de eso queda demasiado bien en una foto.

    Pero es difícil imaginar una empresa realmente digital sin esas cosas.

    La literatura sobre transformación digital lleva años diferenciando la incorporación de tecnologías de los cambios más amplios que esas tecnologías pueden provocar en procesos, estructuras, capacidades y formas de crear valor. Gregory Vial, después de revisar una amplia literatura sobre el tema, describe la transformación digital precisamente como un proceso de cambios significativos desencadenados por combinaciones de tecnologías digitales. Peter Verhoef y sus colaboradores distinguen, además, entre convertir información a formato digital, utilizar tecnologías para modificar procesos y una transformación organizativa más amplia.

    No necesito asumir que esas categorías son la verdad definitiva.

    Me basta con la grieta que abren.

    Una cosa es introducir tecnología en una empresa. Otra es que la empresa cambie porque esa tecnología existe.

    Un PDF no es una transformación

    Pensemos en una factura.

    La imprimíamos. Ahora la guardamos como PDF.

    Algo ha cambiado. La información ya no vive únicamente en papel, puede duplicarse sin fotocopiadora, enviarse en segundos y archivarse de otra manera.

    Pero el proceso puede seguir siendo prácticamente el mismo.

    Después conectamos la facturación con pedidos, cobros y contabilidad. La información deja de reconstruirse manualmente cada vez que cambia de departamento.

    Ha ocurrido algo distinto.

    Después descubrimos que, al tener datos consistentes, podemos detectar retrasos, anticipar tesorería, automatizar determinados controles o permitir que un sistema consulte la situación de un cliente sin preguntárselo a nadie.

    Otra vez ha ocurrido algo distinto.

    Las tres situaciones utilizan tecnología.

    Llamarlas simplemente digitalización oculta las diferencias que más importan.

    Por eso cada vez me interesa menos preguntar si una empresa es digital y más preguntar qué capacidades ha construido gracias a lo digital.

    La pregunta parece menos espectacular. También es mucho más difícil de responder con una checklist.

    Digitalizar era hacer explícito lo que antes podía permanecer implícito

    Hay una parte de la empresa tradicional que funciona sorprendentemente bien gracias a que los humanos somos excelentes rellenando huecos.

    Sabemos que cuando Pedro dice «cliente activo» se refiere a una cosa y cuando administración utiliza la misma expresión se refiere a otra. Sabemos que esa columna del Excel no debería contener fechas con ese formato, pero entendemos qué quiso decir quien la rellenó. Sabemos que el procedimiento escrito está desactualizado y que la manera correcta de hacerlo es preguntarle a Ana.

    El sistema funciona porque las personas corrigen constantemente al sistema.

    Eso tiene una ventaja: es flexible.

    Y un coste: buena parte de la organización existe solo dentro de las personas que la sostienen.

    En cuanto intentamos integrar, automatizar o analizar, el problema aparece.

    El software tiene una manía bastante incómoda: nos obliga a decidir.

    ¿Qué significa exactamente cliente? ¿Cuándo consideramos cerrado un pedido? ¿Quién puede modificar este dato? ¿Cuál es la fuente válida? ¿Qué ocurre cuando aparecen dos valores distintos? ¿Qué excepción aceptamos?

    Lo que parecía un proyecto tecnológico empieza a convertirse en una discusión sobre cómo funciona realmente la empresa.

    Ahí creo que empieza la parte interesante de la digitalización.

    No cuando sustituimos un papel por una pantalla.

    Cuando la tecnología nos obliga a mirar el sistema que había debajo.

    El WordPress era la parte fácil

    Una web puede ser una magnífica inversión. También puede ser la primera pieza que necesita una empresa.

    El error sería despreciarla por no ser suficientemente transformadora.

    No todo proyecto necesita transformar una organización entera. A veces necesitamos una web. Y ya está.

    El problema aparece cuando el objeto comprado se convierte en la prueba de que la transformación ha ocurrido.

    Podemos contratar una web.

    Es más difícil contratar que una organización aprenda a producir contenido de manera consistente, entienda qué información necesita su cliente, mida qué ocurre después de una visita y conecte esa información con ventas.

    Podemos instalar un CRM.

    Es más difícil conseguir que el equipo comparta criterios, introduzca información fiable y utilice el sistema para tomar decisiones en lugar de como obligación administrativa.

    Podemos implantar un ERP.

    Es más difícil que compras, almacén, ventas y administración acuerden procesos suficientemente claros para que el ERP represente algo coherente.

    Podemos comprar un dashboard.

    Es más difícil saber si aquello que hemos decidido medir representa de verdad lo que nos importa.

    La herramienta puede comprarse.

    La capacidad que esperamos obtener de ella tiene que construirse.

    Esta diferencia aparece también en los trabajos de la OCDE sobre digitalización de pymes. La adopción no avanza igual en todas las funciones ni produce automáticamente el mismo valor; las empresas pequeñas afrontan además brechas de capacidades y adopción a medida que aumenta la sofisticación tecnológica.

    No hace falta convertir esa observación en una ley universal.

    Basta con mirar alrededor.

    ERP más Excel. CRM más libreta. Cloud más carpetas duplicadas. Automatizaciones más excepciones manuales. Documentos digitales más conocimiento tribal.

    No es una contradicción.

    Es el estado normal de una transformación que todavía no ha terminado.

    Lo digital no elimina la organización

    Durante un tiempo creo que tratamos la tecnología como si fuera una capa que podía colocarse encima de cualquier empresa.

    Primero la web. Después las redes. Después el CRM. Después el ERP. Después las automatizaciones. Ahora la inteligencia artificial.

    Como si una empresa pudiera avanzar acumulando piezas.

    La idea es tentadora porque convierte el cambio en una compra.

    Pero una empresa no es un ordenador al que instalamos programas.

    Es una colección bastante extraña de personas, acuerdos, hábitos, reglas, excepciones, incentivos, datos y recuerdos compartidos.

    La tecnología entra ahí dentro. Y cuando entra, o se adapta a esa realidad o empieza a modificarla.

    Normalmente ocurren ambas cosas.

    Una herramienta nueva puede obligarnos a definir un proceso que nunca habíamos escrito. También puede acabar reproduciendo digitalmente un proceso absurdo porque nadie quiso discutirlo.

    Una automatización puede eliminar veinte minutos de trabajo diario. También puede ejecutar cien veces más rápido una regla que nunca debió existir.

    Un ERP puede crear una fuente común de información. También puede convertirse en la base oficial mientras todo el mundo mantiene su Excel real escondido al lado.

    La tecnología no garantiza transformación.

    Pero tampoco es una simple decoración.

    Tecnología y organización se cambian mutuamente.

    Ese proceso, más que la compra, es lo que me interesa cuando hablo de digitalización.

    La parte importante suele ser la aburrida

    Hay una digitalización que vende muy bien: interfaces nuevas, inteligencia artificial, automatizaciones, dashboards, aplicaciones.

    Y hay otra que no suele protagonizar ninguna demo.

    Definir datos. Eliminar duplicidades. Acordar criterios. Documentar procesos. Decidir permisos. Integrar sistemas. Determinar qué fuente tiene autoridad. Formar personas. Construir trazabilidad. Decidir qué ocurre con una excepción. Conseguir que dos departamentos utilicen el mismo concepto para hablar de la misma cosa.

    La segunda parece menos tecnológica.

    A menudo es la que permite que la primera funcione.

    Esto explica algo que me he encontrado una y otra vez: muchas empresas no tienen un problema de falta de software.

    Tienen un problema de representación.

    No existe una versión suficientemente compartida de cómo funciona la empresa.

    Cada sistema contiene una parte. Cada persona otra. Cada departamento ha desarrollado sus propias categorías.

    Y después pedimos que todo se integre.

    La integración revela la contradicción que ya existía.

    No la crea.

    La inteligencia artificial no nos permite saltarnos el trabajo anterior

    La llegada de los grandes modelos añade una capa especialmente interesante porque parecen capaces de trabajar con mucho más desorden que el software tradicional.

    Un modelo puede leer un documento sin que hayamos convertido cada frase en campos de una base de datos. Puede interpretar un correo, resumir una conversación o buscar información entre textos que jamás diseñamos para una máquina.

    Eso es importante.

    Quizá algunas formas de organización que antes exigían estructurar cada dato puedan resolverse ahora de otra manera.

    Pero hay un límite.

    Si existen cinco versiones de una política, la IA tiene cinco versiones de una política.

    Si dos departamentos utilizan el mismo concepto para cosas distintas, tiene una ambigüedad.

    Si nadie sabe cuál es el documento vigente, el modelo tampoco lo sabe por arte de magia.

    Si el CRM contiene datos que nadie actualiza, la IA puede razonar maravillosamente sobre información equivocada.

    Si nunca hemos definido una decisión, pedir que un agente la automatice significa pedirle que invente parte de la política.

    La IA puede tolerar mejor el desorden.

    No convierte automáticamente el desorden en conocimiento.

    Y quizá esa sea una buena prueba de lo que hemos digitalizado de verdad.

    En cuanto queremos que una máquina atraviese la organización, aparecen todas las zonas donde el sistema seguía dependiendo de una persona que entendía el contexto sin explicarlo.

    Digitalizar no era quitar humanos

    También hemos cometido otra simplificación.

    A veces describimos la digitalización como el proceso de eliminar intervención humana. Si una tarea necesita una persona, está poco digitalizada. Si ocurre automáticamente, está avanzada.

    No estoy seguro.

    Una empresa puede automatizar muchísimas cosas y tomar peores decisiones.

    Otra puede mantener una decisión humana pero darle información mejor, contexto suficiente y un proceso mucho más claro.

    La pregunta no debería ser cuántas personas hemos conseguido sacar del flujo.

    Debería ser qué clase de trabajo estamos dejando a las personas y qué clase de trabajo estamos entregando a los sistemas.

    Hay tareas donde automatizar tiene todo el sentido. Hay otras donde la excepción, el juicio o la relación importan precisamente porque no pueden reducirse con facilidad.

    Digitalizar bien también consiste en decidir dónde termina la regla.

    No únicamente en extenderla.

    Quizá la palabra transformación nos exige demasiado

    Hay algo que tampoco me gusta de todo este discurso.

    Llamamos transformación a cualquier proyecto y después nos sorprende que no transforme.

    No todas las empresas necesitan reinventar su modelo de negocio. No todo CRM tiene que cambiar la cultura. No toda integración necesita producir una revolución.

    Una mejora puede ser simplemente una mejora.

    Y está bien.

    El problema no es que un proyecto tecnológico sea pequeño.

    El problema es utilizar un resultado pequeño como prueba de una transformación grande.

    Una web puede mejorar la visibilidad. Una automatización puede ahorrar tiempo. Una factura electrónica puede reducir errores. Un CRM puede ordenar información comercial.

    Todo eso tiene valor aunque la empresa siga siendo esencialmente la misma.

    La precisión empieza por permitir que una cosa sea lo que es.

    Porque si llamamos transformación a toda adopción, después ya no tenemos una palabra para describir lo que ocurre cuando la tecnología obliga de verdad a cambiar procesos, decisiones, conocimiento y estructura.

    Entonces, ¿qué significa digitalizar?

    No tengo una definición cerrada.

    Tengo una que me sirve para pensar.

    Una empresa se digitaliza de verdad cuando utiliza tecnología para aumentar su capacidad de comprender lo que ocurre y actuar sobre ello.

    Es una definición mía, no académica.

    Y precisamente por eso quiero poder romperla.

    Una organización podría aumentar su capacidad de actuar utilizando tecnología y, al mismo tiempo, volverse más frágil. Podría entender mejor una parte del negocio y perder visión de otra. Podría automatizar tanto que nadie recordara ya cómo resolver una excepción.

    Todo modelo revela algo y oculta otra cosa.

    Pero esta definición me obliga al menos a mirar más allá del inventario.

    No me pregunta qué hemos comprado.

    Me pregunta qué ha cambiado.

    ¿Sabemos algo que antes no sabíamos? ¿Podemos hacer algo que antes dependía de una persona concreta? ¿La información circula mejor? ¿Podemos reconstruir una decisión? ¿Hemos reducido trabajo absurdo? ¿Podemos incorporar una herramienta nueva sin reconstruir toda la empresa? ¿Somos capaces de cambiar el sistema cuando cambie el negocio?

    Esas preguntas no producen un certificado.

    Me parecen más útiles.

    Quizá digitalizar nunca fue añadir una capa

    Cuanto más pienso en ello, menos me convence la imagen de una empresa tradicional a la que vamos añadiendo tecnologías.

    La web encima. El CRM encima. El ERP encima. La automatización encima. La IA encima.

    Como estratos geológicos.

    A veces solo conseguimos una organización más sofisticada y más difícil de entender.

    La transformación aparece cuando la nueva capa obliga a revisar las anteriores.

    Cuando para automatizar una decisión tenemos que preguntarnos primero qué decisión estábamos tomando.

    Cuando para integrar dos sistemas descubrimos que cada departamento representa la empresa de manera diferente.

    Cuando para utilizar inteligencia artificial tenemos que decidir qué conocimiento es fiable y quién tiene autoridad para modificarlo.

    Cuando una herramienta no tapa el problema, sino que nos obliga a verlo.

    Ahí la tecnología deja de ser un objeto instalado.

    Se convierte en una forma de pensar la organización.

    Y quizá eso era digitalizar.

    No hacer una web.

    No instalar un CRM.

    No poner inteligencia artificial encima.

    Construir una empresa capaz de utilizar todas esas cosas para entender mejor lo que ocurre y actuar mejor sobre ello.

    La diferencia parece pequeña hasta que intentas hacerlo.

    Entonces descubres que el WordPress era la parte fácil.

    Referencias

    Gobierno de España (2021). Orden ETD/1498/2021, de 29 de diciembre, por la que se aprueban las bases reguladoras del Programa Kit Digital. Boletín Oficial del Estado.

    Vial, G. (2019). Understanding digital transformation: A review and a research agenda. The Journal of Strategic Information Systems, 28(2), 118–144. DOI: 10.1016/j.jsis.2019.01.003.

    Verhoef, P. C. et al. (2021). Digital transformation: A multidisciplinary reflection and research agenda. Journal of Business Research, 122, 889–901. DOI: 10.1016/j.jbusres.2019.09.022.

    OECD (2021). The Digital Transformation of SMEs. OECD Studies on SMEs and Entrepreneurship. DOI: 10.1787/bdb9256a-en.