¿Progreso o Trampa Digital?
Mi experiencia con la IA y el futuro de nuestra democracia
Seguro que muchos de vosotros, al leer los últimos posts de este blog, os habréis preguntado: «¿Cuánto tiempo tardará en diseñar estas entradas, buscar la información y dejarlo todo impecable?»
Os confieso la verdad: sin ayuda, hacer un post con este nivel de diseño me costaría un día entero de trabajo. Serían al menos ocho horas sin levantar cabeza, peleándome con el código HTML y las hojas de estilo CSS para que todo se adapte a vuestras pantallas. Eso sin contar los días enteros que antes hacían falta para buscar información histórica o local, filtrarla, contrastarla y seleccionarla. En fin... una inversión de tiempo enorme.
Sin embargo, hoy me cuesta prácticamente lo que tardo en escribir un prompt de 20 o 30 palabras. Nada. Si sabes cómo hablarle a la Inteligencia Artificial, tardo menos en generar la estructura de lo que vosotros tardáis en leerla. La IA es una herramienta tremendamente sorprendente.
Pero, como todo en la vida, aquí viene el doble filo. La IA es una tecnología creada por hombres y mujeres, y puede ser utilizada solidariamente para el bien común o —y este es el verdadero peligro— para el beneficio de unos pocos y el control de muchos.
Según el filósofo César Rendueles, el peligro real de la Inteligencia Artificial no está tanto en los robots que nos sustituyen, sino en cómo se usa para explotar a las personas, manipular nuestra forma de pensar y concentrar el poder en unas pocas manos. Estos son los cinco riesgos que ya estamos viviendo:
Trabajadores invisibles detrás de la pantalla brillante
La explotación que no vemos
Cuando le pedimos a ChatGPT que nos escriba un texto, no pensamos en quién ha "enseñado" a esa máquina a no decir barbaridades. El secreto está en que, detrás de la interfaz limpia y futurista, hay miles de personas en países pobres que pasan ocho horas al día viendo imágenes de violencia, abuso infantil y tortura para que el sistema aprenda a filtrarlas. Cobran menos de dos euros la hora y muchos desarrollan trastornos de estrés postraumático.
Ejemplo práctico: Imagina que pides a una IA que te resuma un artículo. Para que esa respuesta sea "segura", alguien en Kenia ha tenido que ver cientos de fotos de violencia extrema, una tras otra, marcando cuáles deben bloquearse. Esa persona no aparece en los créditos de la app. Ni siquiera sabe para qué empresa trabaja, porque está contratada por una subcontrata de una subcontrata. Es como si el fontanero que arregla tu casa cobrara menos que el café que te tomas mientras esperas.
Otro caso: Amazon tiene un servicio llamado "Mechanical Turk" donde personas de todo el mundo hacen microtareas (como etiquetar fotos o transcribir textos) por centavos. Muchas startups venden estos resultados como "inteligencia artificial", cuando en realidad son personas reales trabajando a contrarreloj. Es lo que Rendueles llama "inteligencia artificial artificial": hacer creer que una máquina hace el trabajo cuando lo hace un humano explotado.
Convertidos en máquinas obedientes
Cuando el algoritmo es tu jefe
No es que los robots nos quiten el trabajo. Es peor: nos transforman en robots. En muchos almacenes de grandes empresas, ya no hay un capataz humano que te dice "date prisa". Hay un algoritmo que mide cada segundo: cuántos pasos das, cuánto tardas en ir al baño, si has escaneado suficientes paquetes. Si bajas el ritmo, la máquina misma puede recomendar tu despido, sin que ninguna persona te haya mirado a la cara.
Ejemplo práctico: María trabaja en un almacén de reparto. Lleva un dispositivo en la muñeca que le indica dónde está cada producto y le cuenta los segundos. Si tarda más de lo previsto en recoger un artículo, su puntuación baja. Al final del mes, si su rendimiento está por debajo de la media, recibe un email automático diciéndole que no renueva contrato. Nadie le ha preguntado si estaba enferma, si el pasillo estaba bloqueado o si simplemente necesitaba un descanso. La máquina decidió que ya no servía.
Otro caso: Los repartidores de comida a domicilio reciben sus pedidos por una app que calcula el tiempo de entrega sin tener en cuenta el tráfico, las obras o el ascensor averiado. Si llegan tarde, la app les penaliza. Muchos se ven obligados a saltarse semáforos o a conducir de forma temeraria para no perder estrellas. El algoritmo no sabe que hay una ambulancia en la esquina. Solo sabe que el cliente quiere su hamburguesa en 20 minutos.
La máquina que confirma lo que ya creíamos
Sesgos que se multiplican
Los algoritmos no son neutrales. Aprenden de los datos que les damos, y esos datos reflejan nuestra sociedad con todos sus prejuicios. Si durante décadas los bancos han concedido menos préstamos a mujeres o a inmigrantes, la IA "aprenderá" que eso es "normal" y lo hará todavía más eficientemente, sin que nadie tenga que dar la orden explícita. El resultado: la discriminación se vuelve invisible, automática y casi imposible de denunciar.
Ejemplo práctico: Un sistema de selección de currículums en una gran empresa descarta automáticamente a candidatos cuyos nombres suenan extranjeros, porque históricamente esos currículums han tenido menos éxito. La IA no sabe por qué: quizá fueron descartados por racismo humano, quizá por falta de reconocimiento de títulos extranjeros. Lo único que "aprende" es que esos nombres son "menos rentables". Ahora el rechazo es instantáneo, masivo y sin rostro. Nadie puede acusar a nadie de racismo, porque "es el algoritmo".
Otro caso: En Estados Unidos, un programa judicial predice la probabilidad de que un detenido reincida. Estudios demostraron que el sistema calificaba como "de alto riesgo" a personas negras que luego no cometían delitos, mientras liberaba a blancos que sí reincidían. El algoritmo no era racista a propósito: simplemente había aprendido de décadas de arrestos desproporcionados en barrios pobres. Pero ahora esa injusticia histórica se ejecuta sola, sin juez que la revise.
El miedo como forma de gobierno
Democracia en peligro
La IA se nos presenta como un tsunami imparable del que no podemos escapar. Ese mensaje de impotencia —"ya no hay nada que hacer, la tecnología avanza sola"— es en sí mismo una forma de control. Si creemos que no podemos decidir nada, dejamos de exigir. Y mientras tanto, un puñado de multimillonarios de Silicon Valley acumulan un poder que desafía a los gobiernos enteros. Pueden decidir quién tiene internet, qué noticias se ven y qué opiniones se amplifican.
Ejemplo práctico: Durante la guerra de Ucrania, Elon Musk decidió activar o desactivar el acceso a su red de satélites Starlink en zonas de combate. No lo hizo un gobierno elegido democráticamente, sino un empresario desde su teléfono móvil. Un solo hombre pudo influir en el curso de una guerra porque controlaba una infraestructura que debería ser pública. Es como si el dueño de una autopista decidiera de repente cerrarla para que no llegaran las ambulancias.
Otro caso: En redes sociales, los algoritmos no te muestran lo que más te interesa, sino lo que más te enfada. Porque una persona enfadada pasa más tiempo conectada, y más tiempo conectado significa más anuncios vendidos. El resultado es que bulos y teorías conspirativas se propagan más rápido que la verdad. En cuestión de días, millones de personas pueden convencerse de que la Tierra es plana o de que una vacuna es veneno, no porque sean tontas, sino porque el sistema está diseñado para que eso ocurra.
Papeleo infinito que nadie lee
La burocracia de las máquinas
Cada vez que rellenas un formulario online interminable, cada vez que una web te pide los mismos datos una y otra vez, cada vez que recibes un correo automático que no responde a tu pregunta, estás alimentando un ciclo absurdo: una máquina genera documentos para que otra máquina los procese, y tú en medio, perdiendo horas de tu vida en algo que no sirve para nada. Además, los centros de datos que hacen funcionar todo esto consumen cantidades masivas de agua y electricidad, mientras nos dicen que hay que ahorrar en casa.
Ejemplo práctico: Juan necesita una cita médica. Entra en la web del hospital, rellena un formulario de 15 campos, recibe un correo automático confirmando que su solicitud ha sido "registrada", y luego otro diciendo que será "procesada". Al cabo de una semana, recibe un tercer correo pidiéndole que vuelva a rellenar el formulario porque "hubo un error en el sistema". En realidad, nadie ha leído su petición. Ha perdido dos horas interactuando con máquinas que hablan entre sí, mientras su dolor de espalda sigue sin diagnosticar.
Otro caso: Un pueblo de Arizona se está quedando sin agua potable. Resulta que el centro de datos de Microsoft, ubicado a pocos kilómetros, consume millones de litros al año para enfriar sus servidores de IA. La empresa promete que en 2030 será "carbono negativa", pero mientras tanto, los vecinos tienen restricciones de riego en sus huertos familiares. La IA que nos promete un futuro brillante está secando pozos reales.
¿Y ahora qué hacemos?
Rendueles no nos dice que tiremos el móvil a la basura. Lo que propone es algo más difícil: recuperar el control. La tecnología no es un destino inevitable, es una elección colectiva. Y como toda elección, puede ser discutida, regulada y redirigida.
Tres pasos concretos:
1. Exigir transparencia: Cuando una empresa usa un algoritmo para decidir quién contrata, quién recibe un préstamo o quién va a la cárcel, debe explicar cómo funciona. No vale decir "es el algoritmo". Si una decisión te afecta, tienes derecho a saber por qué.
2. Defender lo público: Internet, los mapas, los satélites, los datos sanitarios... son infraestructuras que deberían pertenecer a todos, no a un multimillonario. Necesitamos alternativas públicas y cooperativas a los gigantes de Silicon Valley.
3. Pensar antes de compartir: Cada vez que das "me gusta" o reenvías algo sin leerlo, estás entrenando al algoritmo. Pregúntate: ¿esto me lo muestra porque es verdad, o porque me enfada? ¿Quién gana con que yo esté indignado ahora mismo?
La IA no es magia, ni destino, ni fuerza de la naturaleza. Es una herramienta hecha por personas, y como tal, puede ser rediseñada por personas. El primer paso es dejar de creer que no tenemos nada que decir.
No hay comentarios:
Publicar un comentario