Cuando la IA te convierte en un recurso: la advertencia de Miklos Lukacs sobre eficiencia, poder y delegación cognitiva

El título del video de Miklos Lukacs —“Para la IA no eres una persona, eres un recurso”— suena provocador, pero la charla no gira realmente alrededor de una teoría conspirativa sobre una máquina que “odia” a los seres humanos.

Su tesis es más interesante.

Lukacs intenta explicar qué ocurre cuando una sociedad adopta como criterio dominante la eficiencia técnica. Su preocupación no es que una inteligencia artificial despierte un día, desarrolle intenciones malignas y decida dominarnos. Es que empresas, gobiernos y organizaciones empiecen a mirar a las personas con el mismo marco con el que un sistema técnico mira cualquier otra variable:

  • coste;
  • rendimiento;
  • disponibilidad;
  • riesgo;
  • productividad;
  • tasa de error;
  • capacidad de sustitución.

En ese marco, la pregunta deja de ser “¿qué necesita esta persona?” y puede convertirse en “¿qué rendimiento produce este recurso?”.

Ahí aparece la idea central de toda la exposición:

el peligro no es únicamente que construyamos máquinas cada vez más humanas, sino que empecemos a organizar a los humanos como si fueran componentes de una máquina.

La charla mezcla historia, filosofía de la tecnología, política, antropología, IA, transhumanismo y ética. Algunas conexiones son potentes. Otras son más discutibles. Y precisamente por eso vale la pena separarlas.

1. La gran pregunta: ¿la tecnología nos complementa o nos sustituye?

Lukacs abre con una distinción que atraviesa toda la charla.

La tecnología puede funcionar como complemento de las capacidades humanas o como sustituto.

Una calculadora complementa nuestra capacidad matemática cuando nos libera de operaciones mecánicas para permitirnos concentrarnos en el razonamiento.

Un sistema de navegación complementa nuestra orientación cuando nos ayuda a encontrar una ruta sin impedir que entendamos dónde estamos.

Un modelo de IA puede complementar el trabajo de un programador cuando acelera tareas rutinarias, explica código o propone alternativas que luego son evaluadas críticamente.

Pero la relación cambia cuando dejamos de ejercitar la capacidad que delegamos.

Si un estudiante utiliza una IA para investigar, contrastar fuentes y recibir explicaciones, la herramienta puede ampliar su aprendizaje.

Si la utiliza para entregar tareas completas que nunca lee, el sistema ya no está ampliando su capacidad: está ocupando el lugar del proceso cognitivo que debía entrenar.

Lukacs llama la atención sobre esa frontera.

Y es una pregunta mucho más útil que el clásico “¿la IA es buena o mala?”.

La pregunta correcta es:

¿qué parte de mí está ampliando esta herramienta y qué parte estoy dejando de ejercer porque la herramienta la hace por mí?

2. Mumford: cuando la eficiencia deja de ser un medio y se convierte en el criterio

Una de las columnas filosóficas de la charla es Lewis Mumford.

Mumford distinguía entre formas de técnica orientadas a la pluralidad de necesidades humanas y sistemas técnicos dominados por producción, expansión, poder y organización jerárquica.

También desarrolló la idea de la megamáquina: organizaciones humanas capaces de funcionar como una gran máquina antes incluso de la existencia de computadoras modernas.

Un ejército, una burocracia o una gigantesca estructura administrativa pueden comportarse como sistemas donde cada individuo ocupa una función precisa dentro de una arquitectura superior.

La intuición de Lukacs es que la IA acelera esa lógica.

Una organización ya no necesita únicamente procedimientos humanos rígidos. Puede convertir cada vez más decisiones en software:

  • evaluación de rendimiento;
  • contratación;
  • asignación de trabajo;
  • precios;
  • recomendaciones;
  • promociones;
  • detección de fraude;
  • priorización de clientes;
  • cálculo de riesgo;
  • despidos o desactivaciones.

La tecnología no inventa la obsesión por medir.

La automatiza y escala.

El problema surge cuando una métrica útil empieza a confundirse con la realidad completa.

Una puntuación de productividad puede medir algo real.

Pero una persona no es su puntuación.

Un score de riesgo puede resumir una probabilidad.

Pero una persona no es el score.

Un ranking puede ordenar resultados.

Pero no contiene toda la dignidad, contexto, intención o circunstancia de quien aparece en él.

La advertencia de Mumford que Lukacs recupera puede formularse así:

cuando la eficiencia se convierte en el criterio rector de todo el sistema, los seres humanos empiezan a adaptarse a las necesidades de la máquina en vez de exigir que la máquina se adapte a las necesidades humanas.

3. Jacques Ellul: la técnica como sistema, no como colección de gadgets

El segundo autor clave es Jacques Ellul.

Ellul utilizaba “técnica” en un sentido más amplio que “tecnología”. No hablaba solo de computadoras, máquinas o dispositivos, sino del conjunto de métodos racionalizados que buscan el procedimiento más eficiente en cada ámbito de actividad.

Eso cambia bastante la discusión.

La IA no sería únicamente ChatGPT, Claude, Gemini o un conjunto de modelos.

También forma parte de una red mucho mayor:

  • centros de datos;
  • APIs;
  • sistemas de identidad;
  • métricas;
  • workflows;
  • políticas internas;
  • algoritmos de recomendación;
  • software de gestión;
  • sistemas de vigilancia;
  • automatización administrativa;
  • procedimientos de cumplimiento;
  • incentivos económicos.

Desde la perspectiva de Ellul, el punto inquietante aparece cuando el sistema técnico se vuelve tan profundo que ya no “elegimos” simplemente utilizarlo.

Nacemos y trabajamos dentro de él.

Una empresa moderna no puede decidir fácilmente operar sin correo electrónico, bases de datos, autenticación, software financiero, sistemas de pagos, nubes públicas o redes digitales.

La IA empieza a incorporarse de la misma manera.

Primero es opcional.

Después es una ventaja competitiva.

Luego se convierte en expectativa.

Finalmente puede convertirse en requisito.

El desarrollador que no usa IA compite contra quien sí la usa.

La empresa que no automatiza compite contra quien reduce costes con agentes.

El trabajador que no domina nuevas herramientas puede descubrir que ya no se le compara únicamente contra otros trabajadores, sino contra una combinación de personas asistidas por software.

Ese proceso no necesita una conspiración.

Puede emerger simplemente de la competencia.

4. Heidegger: el concepto que da sentido al título del video

La parte más filosóficamente potente del video aparece con Martin Heidegger.

Heidegger describió una forma de relación con el mundo en la que todo aparece como reserva disponible: algo que puede ser medido, organizado, movilizado y explotado según una finalidad.

Lukacs utiliza el ejemplo clásico del río.

Un río puede ser paisaje, historia, símbolo cultural o ecosistema.

Pero dentro de un marco técnico también puede aparecer como:

  • caudal;
  • potencia hidroeléctrica;
  • capacidad productiva;
  • recurso disponible.

El río no ha cambiado.

Lo que ha cambiado es el marco desde el que lo observamos.

Lukacs aplica esa lógica al ser humano.

Las expresiones corporativas lo muestran de manera casi literal: durante décadas hemos hablado de recursos humanos.

Un sistema automatizado puede representar a una persona como un conjunto de variables:

[ persona ightarrow {coste, rendimiento, historial, riesgo, score, disponibilidad} ]

Esto no significa que el algoritmo “desprecie” a la persona.

Un algoritmo no necesita despreciar nada.

El problema es más frío: aquello que no está representado en la función objetivo puede no existir para la decisión.

Compasión, contexto, dignidad, segunda oportunidad o impacto familiar no aparecen mágicamente en una optimización.

Hay que diseñarlos, imponerlos o incorporarlos como restricciones.

Y aquí la filosofía conecta directamente con ingeniería de IA.

5. El salto moderno: de medir personas a gobernarlas mediante modelos

La charla da un salto desde Heidegger hacia Big Tech, plataformas digitales y poder político.

Es una transición importante.

Las grandes plataformas no solo venden productos.

En muchos casos administran infraestructuras donde ocurre actividad social y económica:

  • comunicación;
  • comercio;
  • publicidad;
  • identidad;
  • pagos;
  • transporte;
  • distribución de contenidos;
  • almacenamiento;
  • computación;
  • búsqueda.

Cuando una infraestructura se vuelve indispensable, quien la controla obtiene una capacidad de decisión que va mucho más allá de un producto tradicional.

No hace falta aceptar cada ejemplo político de Lukacs para reconocer el fenómeno.

La pregunta relevante es:

¿qué ocurre cuando reglas fundamentales de participación económica o social pasan a estar codificadas en plataformas privadas difíciles de auditar?

Una política empresarial puede convertirse en una regla que afecta a millones de personas.

Un cambio de ranking puede alterar quién recibe visibilidad.

Un ajuste en un algoritmo puede cambiar ingresos.

Un sistema automatizado puede suspender una cuenta, bloquear una transacción o reducir el acceso a una oportunidad.

Eso no convierte automáticamente a una compañía tecnológica en un Estado.

Pero sí crea un espacio nuevo de gobernanza privada mediante software.

6. El punto técnico más fuerte: el problema de alineación

Curiosamente, una de las secciones más sólidas del video es también una de las menos ideológicas: el problema de alineación.

Lukacs utiliza dos ejemplos.

El primero es el rey Midas.

Midas pide que todo lo que toque se convierta en oro.

Obtiene exactamente lo que pidió.

Y precisamente por eso obtiene una catástrofe.

El segundo es el famoso paperclip maximizer asociado a Nick Bostrom: una superinteligencia hipotética cuyo objetivo fuera maximizar la producción de clips podría perseguir ese objetivo de manera incompatible con los intereses humanos si su función objetivo no incorpora límites adecuados.

El valor de estos ejemplos no es que predigan literalmente el futuro.

Son experimentos mentales.

La lección es:

una especificación correcta en términos formales puede producir un resultado desastroso si el objetivo formal no captura lo que realmente queríamos.

Esto ya ocurre, a escalas pequeñas, en sistemas reales.

Si optimizas una red social únicamente por tiempo de permanencia, puedes obtener contenido que maximiza atención pero no bienestar.

Si optimizas un sistema de reparto solo por velocidad, puedes empujar a trabajadores hacia incentivos peligrosos.

Si optimizas soporte al cliente únicamente por duración media de llamada, puedes castigar a quien se toma tiempo para resolver problemas complejos.

La alineación no es un problema exclusivo de una futura superinteligencia.

Es una versión extrema de una dificultad antigua:

las métricas se convierten en objetivos y los objetivos empiezan a deformar el sistema.

7. Delegación cognitiva: quizá el argumento más cercano a nuestra vida diaria

Lukacs dedica bastante atención a estudiantes y jóvenes que dejan tareas completas en manos de modelos de IA.

Aquí su lenguaje es deliberadamente alarmista, pero el problema que señala es real: la capacidad que no se practica se debilita.

La cuestión no es prohibir IA.

El propio Lukacs reconoce que utilizó IA para preparar parte de su presentación.

Su distinción es otra:

  • usar IA para acelerar una actividad que comprendes;
  • usar IA para reemplazar una actividad que todavía necesitabas aprender.

Un programador experimentado puede ahorrar tiempo generando boilerplate.

Un principiante que acepta código que no entiende puede estar saltándose precisamente la etapa que desarrolla criterio.

Un escritor puede utilizar IA para explorar estructuras.

Alguien que nunca construye un argumento por sí mismo puede terminar dependiendo de una herramienta para pensar.

La diferencia no está en el botón que pulsamos.

Está en qué capacidad conserva el humano después de usar la herramienta.

Podemos expresarlo así:

[ ext{IA útil} = ext{capacidad humana} + ext{amplificación} ]

frente a:

[ ext{dependencia} = ext{delegación} - ext{comprensión} ]

No es una ecuación científica.

Es una buena regla mental.

8. El “farmacón”: tecnología como remedio y veneno

Lukacs introduce después la idea griega del pharmakon: algo que puede funcionar a la vez como remedio y veneno.

Es probablemente la mejor vacuna contra una lectura simplista de toda la charla.

La tecnología no es únicamente liberación.

Tampoco es únicamente amenaza.

Puede hacer ambas cosas.

La misma IA que permite a una persona con pocos recursos acceder a tutoría personalizada también puede fomentar dependencia intelectual.

La misma automatización que elimina tareas tediosas puede concentrar poder.

La misma personalización que mejora una experiencia puede convertirse en vigilancia.

La misma infraestructura que conecta a millones puede volverlos dependientes de unas pocas plataformas.

Por eso la pregunta tecnológica madura no es:

¿esto es bueno o malo?

Sino:

¿qué capacidad amplifica, qué dependencia crea, quién obtiene poder, quién asume el riesgo y qué ocurre cuando falla?

9. Transhumanismo: cuando ya no adaptamos la máquina al humano

La charla conecta estas ideas con el transhumanismo.

Aquí Lukacs pasa de la IA como herramienta externa a tecnologías que modifican directamente capacidades humanas:

  • interfaces cerebro-computadora;
  • edición genética;
  • prótesis avanzadas;
  • aumento cognitivo;
  • extensión radical de capacidades biológicas.

Su pregunta es antropológica:

si la máquina supera ciertas capacidades humanas, ¿intentaremos diseñar máquinas para servirnos o empezaremos a rediseñarnos para competir con ellas?

Lukacs adopta una posición claramente crítica del transhumanismo.

Pero incluso sin compartirla, la pregunta merece atención.

No toda modificación es lo mismo.

Una prótesis que devuelve movilidad, una terapia genética contra una enfermedad y una intervención destinada a aumentar capacidades por encima de lo considerado normal plantean problemas éticos diferentes.

La palabra “mejora” también contiene una dificultad: mejorar requiere definir primero qué cuenta como mejor.

Más memoria puede parecer mejor.

¿Más obediencia?

¿Menos emociones?

¿Mayor capacidad de trabajo?

¿Mayor tolerancia al estrés?

En cuanto convertimos “optimización humana” en un objetivo técnico, volvemos al problema de alineación.

Solo que esta vez el sistema que estamos optimizando somos nosotros.

10. Hans Jonas: más poder técnico exige más responsabilidad

La charla termina con Hans Jonas y su obra El principio de responsabilidad.

Jonas argumentó que la tecnología moderna amplía tanto el alcance de nuestras acciones que la ética ya no puede limitarse a consecuencias inmediatas entre personas contemporáneas.

Una decisión tecnológica puede producir efectos:

  • globales;
  • intergeneracionales;
  • difíciles de revertir.

Ese marco encaja especialmente bien con IA, biotecnología y sistemas autónomos.

Un software defectuoso puede corregirse.

Pero no todos los efectos sociales derivados de sistemas desplegados a gran escala son fáciles de revertir.

Una infraestructura puede generar dependencia.

Una base de datos puede ser filtrada.

Una norma técnica puede consolidarse.

Un mercado laboral puede reorganizarse.

Una tecnología militar puede proliferar.

Jonas propone una intuición que, traducida al lenguaje actual, sería:

cuanto mayor sea la escala y la irreversibilidad potencial de una tecnología, mayor debe ser el estándar de responsabilidad antes de desplegarla.

Eso no equivale a detener toda innovación.

Equivale a reconocer que “podemos hacerlo” no responde todavía a “debemos hacerlo” ni a “bajo qué condiciones deberíamos hacerlo”.

11. Dónde el argumento de Lukacs es fuerte

Hay varias partes de la charla que sobreviven perfectamente aunque eliminemos todo componente partidista.

La eficiencia no es una teoría completa del ser humano

Una organización necesita métricas.

Pero una sociedad no puede reducir todos sus valores a métricas de rendimiento.

La automatización también redistribuye poder

Cuando una decisión pasa de una persona a una plataforma, no desaparece la autoridad.

Cambia de lugar.

Los objetivos mal especificados importan

El problema de alineación no es ciencia ficción. Cualquier sistema optimizado puede encontrar atajos o producir consecuencias no deseadas si medimos mal el objetivo.

La delegación cognitiva tiene coste

La IA puede ampliar nuestras capacidades, pero también puede volvernos dependientes si dejamos de comprender lo que delegamos.

La escala tecnológica cambia la ética

Una herramienta utilizada por diez personas no plantea el mismo nivel de responsabilidad que una infraestructura utilizada por mil millones.

12. Dónde conviene poner freno y matizar

La charla también contiene afirmaciones que no deberían aceptarse solo porque encajen bien con la narrativa.

“Cada prompt entrena al algoritmo que te dejará sin empleo”

Eso es demasiado categórico.

El uso de conversaciones para mejorar modelos depende del proveedor, el producto, el tipo de cuenta, el contrato y los controles de datos.

Por ejemplo, OpenAI permite desactivar el uso de nuevas conversaciones para mejorar sus modelos, y trata de forma diferente los servicios de consumo y ciertas ofertas empresariales.

La preocupación más amplia —que la actividad humana genera datos que pueden mejorar sistemas automatizados— es válida.

Pero convertirla en “cada prompt entrena directamente a tu sustituto” simplifica demasiado el funcionamiento real.

La historia no funciona como una cadena determinista

Lukacs presenta con frecuencia una secuencia:

[ ext{tecnología} ightarrow ext{modelo económico} ightarrow ext{ideología} ]

Es una herramienta narrativa útil.

No es una ley histórica.

Tecnología, instituciones, política, cultura, guerra, geografía y economía se influyen mutuamente.

Algunos ejemplos políticos son interpretaciones, no demostraciones

La participación de empresarios tecnológicos en política, el poder de Big Tech o la vigilancia estatal son temas legítimos.

Pero pasar de esos hechos a una conclusión única sobre “privatización total del poder” exige evidencia adicional.

Sus debates sobre género, aborto y eutanasia pertenecen a su marco moral

Lukacs conecta esos asuntos con su crítica a la “cosificación” del ser humano.

Es una posición filosófica y política concreta.

No hace falta aceptar esas conclusiones para entender —o incluso compartir— su crítica a la reducción del ser humano a métricas, datos y funciones.

Separar ambas capas hace el argumento más fuerte, no más débil.

13. La pregunta que queda después del video

El video tiene un mérito importante: desplaza la conversación desde “qué tan inteligente será la IA” hacia una pregunta más profunda:

¿qué clase de ser humano y qué clase de instituciones estamos construyendo alrededor de ella?

Podemos tener modelos más precisos, agentes más autónomos y empresas más eficientes.

Pero todavía tenemos que decidir:

  • qué decisiones nunca deberían ser completamente automáticas;
  • qué métricas no deberían convertirse en objetivos;
  • dónde debe existir derecho de apelación;
  • qué capacidades humanas queremos preservar aunque una máquina pueda hacerlas más rápido;
  • qué poder estamos dispuestos a delegar a plataformas;
  • qué responsabilidad exigimos cuando una tecnología opera a escala masiva.

El riesgo más interesante del que habla Lukacs no es Terminator.

Es mucho más cotidiano.

Es aceptar poco a poco un mundo en el que todo lo que no cabe en una métrica parece irrelevante.

Y quizá ahí está la mejor forma de interpretar el título del video.

La IA no necesita decidir que eres “solo un recurso”.

Basta con que construyamos sistemas donde todo lo importante sobre ti se reduzca a las variables que el sistema sabe medir.

Fuentes