Dominados por un ejército de algoritmos.

Verónica López Rojo

Universidad de Murcia (España).

Las redes sociales, los smartphones, los sistemas de almacenamiento en nubes y otras novedades tecnológicas están revolucionando nuestras vidas y cambiando la forma en la que nos comunicamos a pasos agigantados. Son diversas las formas en las que se pueden presentar los algoritmos. En este sentido, resalta la importancia de los mismos en la programación, ya que permiten representar datos como secuencias de bits; pero, más allá de su origen técnico, hemos de pararnos a pensar en que, según el promedio, un adulto pasa a la semana alrededor de 30 horas conectado a redes sociales o navegando por otros rincones de internet.

Hoy en día, en un mundo donde la tecnología está en todos los ámbitos de nuestra vida, los algoritmos están dominando la realidad en la que vivimos. Estos se definen como “el número fijo de pasos necesarios para transformar información de entrada, es decir, un problema, en una salida o solución”. Lo que muchos navegantes desconocen es que, con tan solo consultar algo en Google o en cualquier otro motor de búsqueda, vamos dejando un rastro sobre nuestros intereses y, con esto, nos exponemos a que esos algoritmos de los que hablo induzcan nuestro comportamiento, ya que una plataforma como esta ha logrado implantarse y alzarse entre los motores de búsqueda y va siendo modificada constantemente con la intención de que las mejoras ofrezcan unos resultados lo más cercanamente posible a lo que el navegante necesita; esta interfaz altera sus algoritmos unas 500 veces al año, es decir, cada 17 horas aproximadamente. Este motor utiliza la PageRank y se ha convertido en una poderosísima industria de grandes dimensiones.

De acuerdo con Noah Harari, autor de Sapiens y Homo Deus, nos encontramos a las puertas del dataísmo; nuestra vida ya depende de estas fórmulas y vamos a llegar a cierto punto en el que un algoritmo nos entenderá mejor de lo que lo hacemos nosotros mismos. A este propósito, he de destacar otros dos ejemplos que, a simple vista, puede parecer algo disparatado encasillarlos en medio de este fenómeno, estos serían el sistema de navegador GPS de los coches y, por otro lado, las páginas de contacto para buscar pareja como Tinder. El primero, parece inofensivo, pero si nos paramos a meditarlo por un momento, nos dejamos llevar por un dispositivo que nos guía hacia el destino seleccionado confiando plenamente en este y disminuyendo la atención que ponen nuestros sentidos en la tarea que estamos realizando. El segundo, trata de emparejarle con una persona “compatible” con usted según una información que volcamos, no sabemos dónde, mediante la que un sistema de algoritmos agrupa las informaciones concordantes de los usuarios. Nos estamos deshumanizando.

Así, las búsquedas, las compras online, las cuestiones que nos preocupan, las consultas sobre viajes que vamos a realizar y otros muchos datos que lanzamos a la red a diario nos exponen a una vida condicionada, ya que en función de esas preferencias que quedan registradas en internet, a través de los algoritmos, nos vemos bombardeados con recomendaciones como ocurre, por ejemplo, en las redes sociales sobre personas próximas a nuestro entorno con gustos similares a los nuestros. Esto lo consiguen con filtros del tipo: gustos, aficiones, estado sentimental, etc. Facebook, por su parte, utiliza también un famoso algoritmo mediante el cual se analizan absolutamente todos los datos de los usuarios. Con esto, planean sus estrategias para que aquello que se ofrece en su red sea cuanto más objetivo y viable y esté lo más adaptado posible a las exigencias del usuario. Esto sería una explicación lógica ante la pregunta de por qué las plataformas sociales conocen nuestro comportamiento mejor que nadie. Siguiendo con el mundo de las redes sociales, algo que creó una gran polémica fue el uso de un programa de Microsoft llamado “Tay”. La creación de este programa consistió en un diseño que permitiese interactuar con usuarios de Twitter, algo similar a Siri en los productos de Apple. Este programa tuvo que ser retirado debido a que el mismo se volvió xenófobo y racista, aprendió lo peor de sus interlocutores.

Pero esto no es una realidad que afecte únicamente al universo de las redes sociales, también en nuevas plataformas como Spotify en cuanto a música o Netflix, en lo que a películas y series se refiere, nos vemos influenciados en nuestras decisiones por las preferencias del resto de la sociedad. El algoritmo de Netflix obra sobre una descomunal base de datos que se sustenta gracias a los millones de usuarios que exponen su información personal sin conocer lo que ello conlleva.

Los algoritmos ya son capaces de escribir poesía o crear sus propias obras de arte a partir de una simple fotografía, teniendo incluso la capacidad de aprender complejas técnicas de pintura creadas por el ser humano siglos atrás.

Por otro lado, se pueden extrapolar, por ejemplo, a mecanismos como las instrucciones que da un jefe a sus empleados y a los protocolos de actuación de cuerpos y fuerzas de seguridad, así como los protocolos que se llevan a cabo en el ámbito sanitario.

En relación con lo mencionado anteriormente, me resulta impresionante el hecho de que en el noreste de Inglaterra se haya trabajado con un sistema algorítmico como herramienta de evaluación del daño en el ámbito criminal llamado Harm Assessment Risk Tool, que se basaba en el uso de información digital con la intención de clasificar a los sospechosos según su potencial de riesgo para cometer un crimen.

Según la doctora Cathy O’Neil, tal y como da a entender en su obra Weapons of math destruction (Armas de destrucción matemática), su visión a cerca de este creciente fenómeno no es precisamente de lo más optimista pues, “ciertos algoritmos que son opacos y están desregulados siembran el caos y pueden tener efectos muy perniciosos”. Con esto, se hace referencia a que cada vez con más frecuencia, las decisiones que afectan a nuestras vidas como a qué universidad iremos, si conseguiremos un préstamo o incluso cuánto pagaremos por un seguro, no están en manos de personas, sino que están gobernadas por modelos matemáticos. En teoría, esto debería suponer un mayor nivel de imparcialidad, es decir, todos somos juzgados sobre unas mismas reglas. Sin embargo, ocurre todo lo contrario, estos modelos son en su mayoría discriminatorios. Estos puntúan a profesores y estudiantes, clasifican currículums, conceden o deniegan préstamos, evalúan a los trabajadores, supervisan nuestra salud, etc.

En relación con lo anterior, resulta estremecedor, al menos bajo mi punto de vista, que se haya podido llegar a desarrollar un software el cual permita, a través de la información que volcamos en las redes sociales, predecir casos de depresión antes de que aparezcan los síntomas. Esto, en un contexto de contratación laboral parece preocupante, ya que el sistema puede eliminar los perfiles laborales de aquellas personas que poseen una mayor probabilidad de verse envueltas en una futura depresión.

Como vemos, la capacidad de los algoritmos es mucho mayor de lo que podemos llegar a imaginar y pueden llegar a sustituir al hombre en tareas impensables. Así que, si usted no consigue una primera entrevista, es muy probable que su currículum haya sido analizado por un algoritmo que realiza una previa selección antes de pasar a manos de un humano. Esto puede generar un gran problema, ya que, además de dificultar la contratación de nuevos empleados, el desempleo iría in crescendo debido a que las empresas reemplazarían profesionales por máquinas con formulaciones matemáticas y de programación.

Por el contrario, en este aspecto no todo es negativo. actualmente existen aplicaciones que permiten buscar ofertas de trabajo. Estas se basan en aplicar filtros de categoría y nivel profesional junto con la provincia a la que pertenece la persona interesada. Funcionan mediante algoritmos predictivos que establecen grados de afinidad entre perfiles profesionales y ofertas de trabajo. Una vez que el usuario dispone de todas las ofertas favorables cumpliendo los requisitos seleccionados, puede conocer con más detalle cada una de ellas, registrarse en la que más le interese y responder a lo que la empresa requiera. Este avance facilita en gran medida la búsqueda de trabajo y los usuarios tienen a su disposición un amplio abanico de ofertas que, de no ser por estas aplicaciones, los interesados no serían conscientes de que existen.

Además, los algoritmos están cobrando una gran importancia en el mundo de las finanzas y, en especial, en los negocios bursátiles. Los inversores pueden realizar sus operaciones a partir de sugerencias de un algoritmo, pero, por otro lado, también tienen la opción de permitir que éstos actúen sin intervención humana. En muchas ocasiones, las operaciones se realizan en segundos y, asimismo, no se encuentran influidas por emociones humanas, por lo que se evita el tomar decisiones equivocadas.

En cuanto a lo que a gobiernos y empresas respecta, los algoritmos han sido usados como medio de control y vigilancia. A diferencia de lo que ocurre con internet, solo unos pocos tienen el monopolio de la televisión y la radio. Como marca la teórica Mercedes Bunz, es increíble cómo los algoritmos transforman el conocimiento, el trabajo, la opinión pública y la política sin hacer demasiado ruido. Esta transformación está siendo aún más grandiosa gracias al “internet de las cosas” y a la inteligencia artificial. En términos de política, se están usando técnicas puramente predictivas, evitando el riesgo; se lee a los votantes como simples usuarios con unas determinadas preferencias rastreables, generando nuevas cuestiones sobre la democracia y la opinión pública, además se utilizan datos algorítmicos en el ámbito de las campañas electorales, aprovechando los agujeros legislativos en materia de protección de datos personales.

En el aspecto mencionado anteriormente, cabe destacar la técnica de Trump frente a su oponente Clinton para alcanzar la victoria. Mientras que Hilary invirtió muchísimo en una campaña tecnológica, Trump, además, utilizó su cuenta de Twitter, dando día a día su opinión sobre el Trending Topic más reciente, ganando así simpatizantes con cada comunicación que hacía.

Entre tanta polémica, me resulta imposible no dedicar unas líneas al famoso fenómeno Brexit. En medio de este referéndum británico para salir de la Unión Europea intervino una compañía de análisis de big data para la campaña de marketing online llamada Cambridge Analytica, persuadiendo a los votantes a votar a favor. Esta misma empresa llevó gran parte de la campaña de Trump, interesante, ¿verdad? De esto podemos deducir que el poder estará en manos de quien controle los algoritmos.

A modo de reflexión, cabe concluir que los algoritmos pueden ser positivos ayudando a la representación política en tanto permitan identificar con la mayor precisión posible las necesidades de los ciudadanos, pero, sin embargo, no lo son tanto si, en lugar de ello, se usan con la intención de manipular a los votantes. Tienen una aplicación potencial en el ámbito político y electoral, por lo que es solo una finísima línea la que marca el margen entre una simple interpretación de datos para aplicarlos en mejora del plan político o, por el contrario, para utilizarlos como medio de manipulación de los ciudadanos.

En este contexto, los efectos sociales de los mensajes y representaciones de los medios tienen como consecuencia la creación de un imaginario colectivo entorno al mundo de la tecnología, ya que llega a trascender las circunstancias que se producen en realidad; de ahí que esta materia cobre cada vez mayor importancia en cuanto a la formación de la imaginación colectiva, interviniendo en este proceso los medios de comunicación de masas y ayudando en este sentido a que la información sea global y accesible.