Nos pasa a todos, todos los días. Y le pasó también, hace poco, al español Pedro Almodóvar con el cartel de Madres paralelas. Sobre el fondo rojo del primer póster promocional de esa película destacaba, en primer plano y enmarcado en la silueta de algo que podría ser un ojo, el pezón en blanco y negro de una mujer, con una gota de leche materna a punto de caer. El cartel fue publicado en redes sociales el 9 de agosto, se viralizó en poco tiempo y fue censurado, en poco tiempo también, por Instagram, porque, según explicaron después los responsables de la plataforma propiedad de Facebook, Inc. y dirigida a los jóvenes, violaba su política sobre la desnudez.
Reclamaron el autor del cartel, Javier Jaén, la productora del filme, El Deseo, el propio Almodóvar… y un montón de gente más en las redes digitales. Instagram se disculpó mediante un comunicado, en el que básicamente reconoció la esencia artística del pezón lácteo –solo de ese pezón–, y restituyó sin más los posts que había borrado. Almodóvar lo celebró con otro comunicado, que se publicó también en redes sociales, y en el que decía: “Habéis conseguido que las mentes que hay detrás del algoritmo que decide qué es o no es obsceno y ofensivo hayan dado marcha atrás y permitan que el cartel circule libremente (…) Hay que estar alerta antes de que las máquinas decidan qué podemos hacer y qué no podemos hacer (…) Por mucha información que posea el algoritmo nunca tendrá corazón ni sentido común. Mil gracias a todos, de nuevo. Ojalá la película esté a la altura de vuestras expectativas”.
Para la plataforma social, en la que si hay algo que se exhiben son cuerpos, el pezón con el que una mujer da de lactar había resultado ofensivo. Y eso, como es lógico, reavivó el debate sobre el cuerpo femenino y la sociedad machista en que vivimos. Por otro lado, recordó que en los entornos digitales donde nos movemos miles de millones, todos los días, el que decide –y el que cancela, en este caso– no es directamente un humano. Les decimos algoritmos porque es la palabra que hemos escuchado de las industrias y plataformas digitales. Y hay cientos, miles de ellos, interactuando a cada segundo con los humanos. ¿Sabemos hasta qué punto son capaces de orientar nuestras acciones dentro y fuera de la pantalla? ¿Somos conscientes de que algunas de nuestras decisiones podrían no ser tan nuestras, sino motivadas?
Los algo… qué
Quizá habría que empezar diciendo que los algoritmos son invisibles, como el pensamiento o la lógica, están ahí y actúan, tienen repercusiones, aunque a veces no alcancemos a ver cuáles. Para los matemáticos son cálculos, operaciones que mediante un procedimiento permiten llegar a un resultado: una raíz cuadrada, una multiplicación cualquiera. A los ojos de los programadores son algo parecido a un guion o un manual de instrucciones con reglas fijas, que indica a las máquinas cómo proceder, paso a paso, en tales y cuales situaciones, cómo procesar datos, resolver un cómputo, solucionar un problema. Pero, para de verdad entenderlos, hay que ir más atrás, a la India, donde se supone que tuvo lugar la creación del cero. El cero es a las matemáticas lo que la rueda es a la tecnología mecánica: en palabras técnicas, evitó que para sumar nos faltaran dedos. Y así fue posible el álgebra, en la que sobresalieron los árabes. Fue un tal Al-Khwārizmī el matemático y astrónomo que escribió, en el siglo IX, un tratado sobre números y ecuaciones, en donde explicaba de manera detallada procedimientos en los que el valor de cada dígito depende de su lugar respecto a otro dígito: un sistema en el que el 1 y el vacío –un número nulo– permiten hacer operaciones con el 10.
Aunque Al-Khwārizmī no creó los algoritmos, los avances que recogió en su obra lo pusieron en la historia. La palabra algoritmo se deriva de la traducción de su nombre al latín: algorithmus. Y esta es la parte en la que los que creen que las matemáticas no sirven en la vida cotidiana se decepcionan: sin el desarrollo de cálculos algorítmicos, aplicados, paso a paso, mediante reglas que siguen un procedimiento predeterminado hasta llegar a un resultado, no existiría, por ejemplo, el semáforo, el reloj digital, la televisión, cualquier otro aparato electrónico y ni hablar de las computadoras y las inteligencias artificiales.
Sabemos que interactuamos con aparatos informáticos a través de programas, apps, buscadores, plataformas digitales… que nos dejan ver, no los códigos o lenguajes de programación con que están hechos, sino iconos reconocibles para el común de los mortales: una carpeta para guardar archivos, una papelera de reciclaje para desecharlos…, o sea, interfaces gráficas. En la “lógica” de todos esos programas, que nos permiten interactuar con cada vez más aparatos, están los algoritmos. Y nos facilitan la vida en muchos sentidos. Y hay varios tipos. Los algoritmos informáticos actuales, con los que convivimos en internet, procesan gran cantidad de datos –el big data, que dicen– a gran velocidad. Y, de esa manera, cada una de nuestras acciones en la red (cada clic, cada búsqueda, cada comentario, cada “me gusta”, cada vez que deslizamos el dedo sobre la pantalla) se convierte, adivinen en qué, exacto, en más datos.
¿Y para qué sirven tantos datos? Pues, bueno, no es secreto que el modelo de las plataformas sociales se sustenta particularmente en la atención y los datos que obtienen de sus usuarios. Es una cuestión cíclica. Con los datos de los usuarios procesados algorítmicamente se crean perfiles sociales, con las preferencias, gustos, inclinaciones de cada uno, que le permiten, digamos a Google, Facebook o Amazon, por mencionar a las más grandes, conocerte quizá más de lo que te conoces tú mismo.
La más obvia de las “coincidencias” ocurre cuando cualquier usuario, luego de hacer una búsqueda en internet, empieza a recibir promociones, recomendaciones o mensajes publicitarios relacionadas en su buzón de correo electrónico o en sus plataformas digitales. En un artículo llamado ‘Lo imaginario de las narrativas algorítmicas’, los profesores Daniel Cabrera Altieri y María Angulo Egea aseguran que de esa manera no solo se puede clasificar a la población en compradores de productos o servicios varios, sino ponerla en casillas de votantes de algún candidato o partidarios de una idea. Y eso, entre otras cosas, ayuda a entender el famoso filtro burbuja, que no es otra cosa que la idea del mundo que puede hacerse un usuario a través de su experiencia personalizada en internet, una experiencia que simpatiza con sus gustos e ideas y lo aleja de lo que discrepa, o sea, deforma su percepción de la realidad. Vive en su mundo Konitos, digamos.
De ahí el gran debate sobre cuestiones fundamentales, como la libertad y la seguridad o privacidad de los datos que las plataformas extraen de sus usuarios. Sobre esto último, uno de los casos más conocidos terminó con una multa de cinco mil millones de dólares impuesta a Facebook y la obligación de crear un comité independiente sobre temas de privacidad, cuando, en 2019, la Comisión Federal de Comercio de Estados Unidos sancionó a la empresa liderada por Mark Zuckerberg por vender los datos de 87 millones de usuarios a una consultora política llamada Cambridge Analytica.
Como todo en internet, los algoritmos de cada plataforma, de cada buscador, servicio de streaming, aplicación…, tampoco son estáticos, sino que se van afinando en función de los objetivos de cada compañía. Y las compañías, sabemos, tienen objetivos comerciales. Aunque invisibles, los algoritmos actuales no son transparentes: conocemos sobre ellos tanto como nos dicen los expertos o hacen público sus propietarios. Lo que sí está claro es que en internet o en cualquier otro lado no hay nada gratis, y que, además de los modelos publicitarios respectivos cada usuario paga parte de la factura con su tiempo de atención y el rastro que dejan sus acciones.
Los algoritmos o las narrativas
Al final es una cuestión de orden. Primero convengamos que para que existan las artes de programación se necesitan estructuras de datos y algoritmos, pero las estructuras de datos, dice Lev Manovich en su ya casi clásico El lenguaje de los nuevos medios de comunicación, no producen sentido por sí mismas, como sí ocurre con las narrativas. Ambas, es decir, bases de datos y narrativas, sigue Manovich, son representaciones del mundo en la cultura generada por la computadora, pero representaciones opuestas. Más fácil: todo lo que existe en internet o de forma no física, sino digital, en verdad no es más que bases de datos almacenadas –no importa donde– y transformadas mediante tecnologías informáticas, cada vez que el usuario así lo requiere, en textos, fotos, audios, videos o lo que fuera. Las narrativas, en cambio –pongamos un cuento, una noticia, una película–, consisten básicamente en organizar un acontecimiento tras otro, con cierto orden que se aleja del caos que puede ser la realidad. Acontecimiento por acontecimiento, los usuarios encuentran sentido en las narrativas. Las bases de datos, desde ese punto de vista, son el caos.
¿Los servicios y productos que nos sugieren las plataformas sociales, los contactos, grupos u organizaciones a quienes nos recomiendan seguir; los videos, canciones, series y películas que nos proponen YouTube, Spotify, Netflix, entre otras plataformas; las relaciones románticas que ponen a nuestra disposición Tinder o Facebook Dating; las compras que nos propone Amazon; los trending topics o tendencias de Twitter; el orden y la relevancia según la cual cada red social decide qué post noticioso, publicitario, de entretenimiento o de nuestros contactos o seguidores va primero…, son bases de datos procesadas algorítmicamente o narrativas?
En las clases de periodismo y plataformas sociales es común poner como ejemplo la portada de un diario o cualquier noticiero, incluso la home o “portada” de los medios digitales, para hablar de una forma de ordenar lo que acontece en el mundo según criterios de relevancia social, del medio y los editores: a cada publicación, su espacio, una extensión, un lugar, una jerarquía. Los algoritmos organizan la información que nos llega vía plataformas sociales según otros criterios, como las reacciones y recomendaciones de otros usuarios, la relación con los contactos que más interactuamos, el tipo de contenido con el que más reaccionamos –no en vano la popularidad de los contenidos que apelan a emociones como la alegría (memes) o la ira–, la temporalidad –le dan prioridad a lo más reciente– y la popularidad –y sabemos que lo popular no siempre es lo más relevante–. En otras palabras: si a las plataformas les interesa particularmente nuestro tiempo de atención y nuestros datos se entiende el porqué de la tendencia a hacer virales los contenidos que ya son populares.
Y hay algo más. Los algoritmos ponen en entredicho aquello de que la comunicación en las redes digitales fluye libre, entre unos y otros, sin necesidad de esos intermediarios dedicados tradicionalmente a corregir, equilibrar, verificar, poner en contexto, maquetar, mejorar… que llamamos editores y medios de comunicación. Porque, como escribió el crítico cultural y narrador Jorge Carrión en The New York Times, “está claro que sí existe una intermediación (…) El editor, en este caso, es una fórmula matemática, una serie de protocolos automatizados que no solo se apropia de los procesos de edición: los algoritmos están editando la mismísima realidad”. Y estos ya no tan nuevos editores –si consideramos más o menos dos décadas de redes sociales–, editan, también dice Carrión, de cierto modo, incluso a los viejos editores: medios, editoriales, creadores de contenido que usan las plataformas sociales, por lo que “va siendo hora de que las grandes plataformas asuman lo que son” y se hagan cargo de su responsabilidad, la asuman. Un ejemplo: ¿si un medio permite que en sus páginas, o en su espacio, se publique algo falso debe hacerse responsable o no? ¿Por qué la indulgencia con los gigantes del entorno digital?
Quizá los algoritmos todavía no decidan qué podemos hacer y qué no, pero a estas alturas ya se han vuelto parte de la cotidianidad y su influencia crece fuera de las pantallas. En una encuesta realizada por investigadores del IE Center for the Governance of Change, la mayoría de europeos consultados dijo, para vergüenza de los implicados, que estaría dispuesta a reemplazar a sus políticos por inteligencias artificiales –y los algoritmos, dijimos, son la base de las inteligencias artificiales–. En 1996 un algoritmo le ganó por primera vez en la historia una partida de ajedrez al campeón del mundo de la época, el ruso Garry Kaspárov. Además, ya existen algoritmos capaces de componer música, escribir noticias sencillas, hacer obras de arte gráfico (una de ellas, subastada en 432 mil dólares en Nueva York) o crear literatura no muy buena, aunque van mejorando con el entrenamiento (repeticiones) y la tecnología. Otro tipo de inteligencias no humanas puede contribuir a la lucha contra la desinformación y, en términos generales, a mejorar nuestras interacciones digitales. Todo dependerá de cómo y con qué propósitos se apliquen. Por eso, como decía Almodóvar, más vale estar alerta, y presionar para que las decisiones se tomen sobre la base de criterios verdaderamente humanos.
Este texto se publicó originalmente en la revista Mundo Diners, de Ecuador.
