Una nueva era se abre. La inteligencia artificial se
perfecciona para razonar y tomar decisiones dentro de un poder brutal. Se
confía en que no atente contra la democracia. El catedrático de Sociología de la Universidad de
Almería (UAL), Juan Sebastián Fernández Prados (Berja, 1966), lleva más de
treinta años dedicado a la docencia y hoy dedica buena parte de ella a una
pregunta incómoda: qué hacen los algoritmos con nosotros y quién responde de
ello. Lo hemos visto en una de sus sesiones formativas con docentes de
Humanidades, donde plantea la inteligencia artificial como una tecnología que
resuelve problemas, pero que todavía necesita orientación humana. Su aportación
consiste, en gran medida, en abrir los ojos a quienes la usan sin cuestionarla.
 |
| El catedrático Fernández Prados, en una de sus clases / A. Torres |
Lo que más le inquieta no es la técnica, sino el
ritmo. «Lo que da miedo es la velocidad que no nos permite reflexionar para
qué, o cómo queremos utilizarla. Ahora vamos al ritmo acelerado de las grandes
empresas y de los intereses estratégicos. Estados Unidos-China van a todo trapo
sin tener límites. La clave es quién tendrá la gran infraestructura del mañana.
Todo está relacionado en un contexto de lucha de poder bestial». La
administración Trump, por su parte, se ha opuesto a regular el desarrollo de la
IA. A juicio del catedrático, se está produciendo «un proceso de concentración
tremendo de recursos y de inteligencia», en el que las grandes empresas
acumulan capital, talento e influencia política. En Estados Unidos hay incluso
un debate abierto sobre qué impuestos debería pagar la IA si el robot sustituye
al humano, con proyectos promovidos por los demócratas desde agosto.
Esto no le lleva al pesimismo. Para él, la IA es «una
revolución global, inevitable, disruptiva» que «está creando las bases de una
nueva era», y recuerda que ya ayuda a curar enfermedades y a descubrir
fármacos. Su preocupación es que no vaya en contra de la democracia, como se
están pronunciando intelectuales en otros países. Propone como gran reto el
«alineamiento ético», un concepto que obligaría a la IA a responder a las
necesidades de las personas y de la sociedad. A sus colegas y estudiantes de la
UAL les advierte de que la formación crítica en este tema es más indispensable
que nunca para discernir la verdad, valorar las consecuencias de esta
transformación y asumir el control democrático de esta revolución algorítmica,
que tiende a concentrarse en pocas manos.
El riesgo más visible es la desinformación. «Va más
allá de la revolución digital de finales del siglo pasado. Entonces hablábamos
de fake news y ahora hablamos de deepfake (contenido multimedia creado o
modificado mediante la IA). Cada vez es más difícil distinguir entre hechos
reales y desinformación». Su receta es contundente: «Normativa más severa para
las plataformas y usuarios que falten a la verdad aposta, sin datos o rigor,
sea periodista, docente, político o juez, que sean sancionados o señalados de
algún modo». Y añade: «Debe haber herramientas que permitan dejar rastro de
cuando se utiliza mal o de forma inadecuada, como ya está ocurriendo con las
redes sociales, facilitando mecanismos de control para evitar que se difundan
bulos, la polarización y el odio».
Los ejemplos se acumulan. En abril de 2018, el
director Jordan Peele difundió con BuzzFeed un vídeo falso de Barack Obama
insultando a Donald Trump, concebido como aviso público sobre los peligros de
esta tecnología y convertido en el primer deepfake político de concienciación
masiva. Giorgia Meloni ha sufrido manipulaciones sexuales de su imagen, entre
ellas imágenes en lencería generadas con IA que circularon en mayo, y en
octubre ha solicitado registrar su voz como marca sonora ante la Oficina de Propiedad
Intelectual de la Unión Europea (EUIPO): cuatro segundos con la frase «Io sono
Giorgia Meloni». La violencia sexual digital afecta sobre todo a las mujeres,
también a las políticas: un informe de Agora Digitale Transformation,
presentado este mes en Estrasburgo, detectó pornografía sintética con 46
eurodiputadas, aproximadamente una de cada seis.
Responsabilidad humana. «Nos debemos preparar para
que la IA haga lo que nosotros queramos o necesitemos como sociedad. No se
pueden delegar decisiones sin supervisión humana, porque estamos jugando con la
vida de las personas». El 28 de febrero, el bombardeo estadounidense de una
escuela primaria de niñas en Minab (Irán), que dejó más de 150 muertos, puso en
entredicho la precisión de los algoritmos: según distintas investigaciones, un
sistema de apoyo a la decisión recomendó como objetivo un edificio catalogado
con datos obsoletos, sin verificación humana suficiente. Y la degradación no es
solo tecnológica. María del Carmen Abascal, Maricarmen, pensionista de 87 años,
fue desahuciada en Madrid el 23 de septiembre y murió el 7 de octubre en el
Hospital Gregorio Marañón. Se la insultó y se le faltó al respeto en redes y en
medios que se autocalifican de serios. Además, en redes circularon imágenes y
vídeos falsos creados con IA para desacreditarla. Carlos Alsina lamentó en uno
de sus monólogos en Onda Cero que hubiera comentaristas incapaces de abordar su
historia con una sensibilidad de mínimos. En los pueblos se nos enseñó que ante
la muerte deben imperar el respeto y el silencio. Esa miseria humana no nace de
un algoritmo, aunque la IA la amplifique; sirve de espejo a quienes se
preguntan si la tecnología nos está haciendo peores.
Miembro del Consejo Editorial de Cuadernos
Metodológicos (CIS) desde 2012, Fernández Prados trabaja en participación
ciudadana, voluntariado, sociedad digital e IA, y se define apasionado de la
objetividad y de los datos: su herramienta es la encuesta, técnica
cuantitativa. Mira también hacia su propia casa. La UAL ofrece los grados en
Informática y en Inteligencia Artificial y Ciberseguridad, de la Escuela
Superior de Ingeniería, y un máster en Inteligencia Institucional: Gestión y
Gobernanza de Datos, de la Facultad de Derecho. «Los nuevos egresados y
doctores especializados que se incorporen en el futuro tendrán el gran reto de
coger las riendas humanas de esta revolución desbocada que anda tan deprisa».
Entre sus lecturas recomendadas figuran El imperio de
la IA, de Karen Hao, primera periodista en tener acceso amplio a OpenAI en
2019, que desde entonces investiga esta industria. Ingeniera mecánica de
formación, especializada en el impacto de la inteligencia artificial en la
sociedad, la revista Time la nombró una de las 100 personas más influyentes en
el campo de la IA en 2025. Fernández Prados también recomienda Tecnofeudalismo:
El sigiloso sucesor del capitalismo, de Yanis Varoufakis, exministro griego,
sostiene que el capitalismo está muerto y el nuevo orden es una economía
tecnofeudal, dice. Después de la conversación con el catedrático, nos llega la
voz de Agustín Fernández Mallo, autor de El ángel de la inteligencia
artificial, quien dijo a Jorge Morla en El País: «decir que en 10 años la IA
acabará con nosotros es un chiste».
Javier Sampedro lo resumía en El País con una idea que
conecta con la tesis del catedrático: la creatividad no sustituye a la
soberanía del conocimiento, sino que es su consecuencia. Antes se hacía
política y luego se comunicaba, ahora no, afirman y con razón.
