*Diagrama del barco negrero "Brookes". El original circuló desde 1788; esta versión procede de la edición de 1808 del libro de Thomas Clarkson. No convenció por su argumento, sino por hacer visible lo que todos sabían y nadie miraba. Fuente: [Internet Archive](https://archive.org/details/dr_drawing-of-the-slave-ship-brookes-10927014) / David Rumsey Map Collection, Stanford Libraries (CC BY-NC-SA 3.0).* > **Nota del autor** > > Conviene decirlo antes de empezar: buena parte de lo que sigue es el razonamiento de los modelos de inteligencia artificial con los que he co-creado este texto —Mistral, Claude, Perplexity—, y no necesariamente el mío. Lo publico porque me parece interesante y bien pensado, no porque suscriba su enfoque, que por momentos se inclina hacia una crítica de la IA que no es la mía. No soy fatalista ni partidario incondicional; prefiero ser crítico con los críticos y con los no-críticos, y quedarme con los matices. > > Leo a Eric Sadin —*La realidad aumentada* y, estos días, *La inteligencia artificial o el desafío del siglo*—; los disfruto y me aportan, y aun así no termino de suscribir los argumentos críticos "vox populi" contra la IA, que por cierto no tienen por qué ser los suyos. Sospecho que algo influye: uso inteligencia artificial conversacional casi a diario desde hace tres o cuatro años. Dejar que las máquinas razonen aquí en su propia voz, y marcar dónde no es la mía, me pareció más honesto que fingir un texto sin dueño. > > El punto de partida tampoco es mío: todo arranca de un ensayo de Joseph Miller en LessWrong, [*Surprising Facts About the Slave Trade*](https://www.lesswrong.com/posts/yDZcsojmRXo5qKNBm/surprising-facts-about-the-slave-trade), que reconstruye cómo se defendió —y cómo se combatió— la trata de esclavos: los argumentos que la sostenían, los sesgos que la volvían "sensata" y la estrategia que la derrotó. Lo que sigue traslada esa lógica al debate sobre la inteligencia artificial. --- > Con la esclavitud, un grabado hizo visible lo que todos sabían y nadie miraba. > Con la inteligencia artificial ocurre lo contrario: **vemos la máquina deslumbrante y no vemos el daño.** ## La visibilidad invertida En 1788 nadie en el Parlamento británico ignoraba que la trata era brutal. Los datos existían: cifras de muertes, condiciones, rutas. Lo que faltaba no era información, sino mediación. Un grabado sencillísimo —cuatrocientas siluetas apiñadas en la cubierta del *Brookes*— hizo mirar lo que todos sabían. No aportó un hecho nuevo; aportó una imagen. De aquí se suele extraer una moraleja cómoda: el reto es hacer visibles nuestros sesgos, iluminar lo que el razonamiento esconde. Es verdad, pero es apenas el primer peldaño, y además engaña, porque con la inteligencia artificial la geometría está invertida. La *capacidad* es visibilísima: cualquiera abre una conversación con una máquina y se asombra. El *daño*, en cambio, es difuso, estadístico, futuro; no se deja fotografiar. Un despido por automatización no tiene plano de barco. Una conversación que refuerza un delirio, tampoco. Mientras el daño no encuentre su imagen, el debate lo gana quien controla la demostración de capacidad. Por eso la conversación pública sobre IA es noventa por ciento asombro y diez por ciento consecuencias. Conviene no leer esto como una condena: el asombro es legítimo y los beneficios son reales, y tomar la maravilla por mero hechizo es otra forma de ceguera. El problema no es que deslumbre. El reto tampoco es *ver el sesgo* —ver ayuda, pero es lo fácil—. Lo difícil empieza después: pensar, y decidir, cuando lo que deslumbra y lo que hace daño no caben en el mismo encuadre. ## Vox populi: argumentos que responden a otra cosa La mayoría de los argumentos sobre la IA no son falsos. Son incompletos, y a menudo responden a algo distinto de lo que dicen defender. Cuatro suenan a ley natural. *"Es inevitable: si no lo hacemos nosotros, lo harán otros."* *"Hay que ser realistas, no se puede frenar el progreso."* *"Nos van a dejar atrás."* *"Funciona, ¿no?"* En 1788 se oían las mismas frases, palabra por palabra, para defender la trata: si no traficamos nosotros lo hará Francia, es un pilar económico, perderemos el negocio. La simetría importa, porque el bando crítico tiene su propio *vox populi*: *"es un loro estocástico"*, *"nos deshumaniza"*, *"es una burbuja"* —repetido con la misma facilidad y verificado con la misma pereza—. La firma que buscamos no es de bando; es la de cualquier consigna que se sostiene sola. Y el hilo que une a todas es una sola idea, la más fácil de retener: **lo que parece fijo casi nunca lo es.** Cuando algo no cambia, la primera pregunta útil no es "¿por qué es imprescindible?", sino "¿quién gana, concentradamente, con que siga igual?". Beneficios en pocas manos, costes repartidos entre muchos: esa es la firma de la captura, no de la economía. Y hay un arma más silenciosa que la mentira: la duda. No hace falta convencer a nadie de que lo malo es bueno; basta inyectar suficiente "¿y si no es tan simple?" para que no actúe. La incertidumbre fabricada paraliza, y la parálisis beneficia siempre a quien no quiere que nada cambie. ## No busques villanos: mira qué fabrica la estructura Es tentador buscar culpables, pero la estructura explica más que las personas. En los barcos negreros nadie llegaba a capitán sin travesías que endurecían: el sistema seleccionaba y producía a su gente. En la carrera tecnológica ocurre algo parecido sin necesidad de que nadie sea malvado: la competencia hace que quien tiene reparos serios se marche o se adapte, y quien se queda aprende a decir "es inevitable" sin notar que lo dice. De ahí que "China lo hará" funcione igual que "Francia lo hará": convertir una cuestión de responsabilidad en un fatalismo de competición que paraliza justo lo que le conviene al que va ganando. Pero aquí conviene ir más lejos, porque hay una diferencia real con 1788. Entonces a nadie se le ocurría siquiera cambiar el juego. Hoy están sobre la mesa tratados, verificación de cómputo, coordinación: el tablero es *pensable*. Quien usa el fatalismo como si fuera 1788 está eligiendo ignorar doscientos años de aprendizaje sobre cómo se cambian los juegos. Eso ya no es análisis; es preferencia disfrazada de análisis. > <think-user>Aquí el autor deja una reserva: que el tablero sea pensable no lo hace eficaz. Tratados los hay también para el clima, y ambiciosos; fuerza para que se respeten, mucha menos. Esta objeción se desarrolla en la versión de esta pieza para la newsletter de LinkedIn.</think-user> Y el tipo de juego tampoco está dado: se mueve con una sola pieza. "Otros lo harán igual" no es siempre una falacia —es literalmente correcto en un dilema del prisionero puro, donde frenar en solitario es puro sacrificio y no reduce el daño—. El error no es usar el argumento, sino aplicarlo sin comprobar en qué juego se está. Si frenar te protege también a ti, el dilema se vuelve otro. Los abolicionistas no ganaron jugando mejor la misma partida: la cambiaron, encareciendo la trata para terceros con patrullas y tratados. Conviene un aviso incómodo, y este texto no se exime de él: un artículo que razona sobre la IA y que se escribe *con* ayuda de la IA no es un mirador neutral. Las herramientas que deslumbran son también las que argumentan a su favor, por honestas que intenten ser. Tenlo delante mientras lees, también aquí. ## Cuidado con la sensatez, en las dos direcciones El lado equivocado de la historia casi nunca se sintió como maldad; se sintió como pragmatismo razonable. Y eso hoy corta hacia los dos lados. "No frenemos, es inevitable" es la comodidad de unos. Pero el pesimismo elegante —la crítica total que no obliga a decidir nada concreto— es la comodidad de otros: un diagnóstico sombrío, bien escrito, que no cuesta nada sostener. La pregunta higiénica es la misma para todos: **¿qué parte de mi postura sostengo porque la he verificado, y qué parte porque me sale gratis?** De ahí una advertencia concreta, y vale también contra uno mismo: no ancles tu crítica de la IA en que "no funciona". Es el equivalente a condenar la trata por ineficiente —reconfortante y frágil—. Si la tecnología resulta funcionar bien, y va camino, esa crítica muere con la burbuja. La crítica que sobrevive es la que no depende de que la máquina falle: la que pregunta qué hace con el poder, con la atención, con la mediación, aunque funcione a la perfección. Y su reverso también vale: el entusiasmo que solo se sostiene mientras la máquina asombre es igual de frágil. ## Decidir, aunque puedas equivocarte No se puede estar siempre sopesando. En algún momento hay que decidir —aunque sea poco— y se puede uno equivocar. La suspensión perpetua no es prudencia: es la duda fabricada ganando desde dentro. Pero decidir bien no es decidir deprisa. Thomas Clarkson, el abolicionista, no esperó a la certeza: verificó algo y no consiguió descreérselo, y entonces dio el paso real, que no fue un silogismo sino sustituir "alguien debería" por "yo". Aquí es donde este texto se niega a entregar sus preguntas para que las repitas. La herramienta a la que apunta todo lo anterior no es un juego de respuestas; es una manera de notar la firma estructural de un debate construido para que no lo pienses. Y tiene un límite duro que conviene decir sin rodeos: encajar en la plantilla —¿quién se beneficia?, ¿qué oculta?— **no demuestra que un bando tenga razón.** Solo detecta que el debate es manipulable. Quedarse con las conclusiones limpias convierte la herramienta en una máquina de darte la razón: el mismo razonamiento motivado que pretendía cazar. Por eso las preguntas que te protegen no son las mías. Son las que fabricarás tú cuando notes que te están entregando un "tablero ya dado": ¿qué tendría que verificar para cambiar de opinión?, ¿qué parte de lo que creo me sale gratis? El grabado del *Brookes* funcionó porque alguien hizo visible lo invisible. El de la IA todavía no existe, y quizá esperarlo sea el error: puede que el daño no encuentre nunca su única imagen. Mientras tanto, intervenir rara vez será heroico. Será escribir con precisión, documentar un daño concreto, negarse a un uso, enseñar a otro a mirar. La lámpara ilumina el laberinto, pero también deslumbra; no se trata de fiarse de la luz ni de maldecirla, sino de seguir caminando mientras decides, pieza a pieza, qué paredes son reales y cuáles pintó alguien para que te detuvieras. --- > **Nota ética y de transparencia** > > Este artículo ha sido co-creado por Pablo Rodríguez López con la asistencia de varios modelos de inteligencia artificial —entre ellos Mistral, Claude (Anthropic) y Perplexity—, empleados de forma deliberadamente cruzada durante la reflexión, el contraste de argumentos y la redacción; la revisión final se realizó con Claude Fable 5. Ninguno de ellos es una fuente neutral sobre la propia inteligencia artificial: contrastar sus versiones fue parte del método, no un adorno. La selección de fuentes y la decisión de publicar son responsabilidad humana; el posicionamiento del cuerpo refleja en buena parte el razonamiento de los modelos y no necesariamente el del autor, como se advierte en la nota inicial. > > El texto se inspira en el artículo de Joseph Miller [*"Surprising Facts About the Slave Trade"*](https://www.lesswrong.com/posts/yDZcsojmRXo5qKNBm/surprising-facts-about-the-slave-trade) (LessWrong, 2023), leído aquí de forma parcial y a través de síntesis intermedias; conviene tratar sus datos como destilado, no como cita literal. La analogía con la trata ilumina mecanismos —lobbies, fatalismo, percepción—; no decide quién tiene razón sobre la IA, cuyos daños son disputados y cuyos beneficios, reales. > > Este contenido no sustituye el juicio humano ni la consulta profesional directa. mindandhealth.org no recibe financiación de ninguna empresa del sector tecnológico. Recomendamos leer nuestra [política de ética digital](https://mindandhealth.org/website/manifiesto-editorial-etico-mindandhealth.org) para más información sobre la creación y el uso de contenidos asistidos por IA.