Datos somos y en datos nos convertiremos

Bruno Mateos30 noviembre, 2020

En la epopéyica serie de ciencia ficción Battlestar Galactica, los cylon, una raza de cíborgs creada por los seres humanos con la intención inicial de servir en trabajos diversos, se vienen arriba tras alcanzar la singularidad tecnológica y deciden que el universo sería un sitio mucho más agradable si los humanos no estuviesen en él. Nada personal. La singularidad tecnológica es un estado en el desarrollo de la inteligencia artificial que se alcanza cuando esta es capaz de mejorarse a sí misma de forma recursiva, entrando en una fase de avance exponencial con consecuencias imprevisibles. Me gustaría pensar que, llegado ese momento, la tecnología a la que tanto hemos mimado utilizará sus recién adquiridas capacidades para solucionar algunos de los problemas más acuciantes que tenemos como especie. Nos vendría bien ayuda extra en temas como el cambio climático, la falta de alimento y agua o la cura de enfermedades como el cáncer o nuestra amiga la COVID-19. Este tecnooptimismo es ampliamente compartido entre muchos pensadores influyentes en las esferas cercanas a las grandes compañías tecnológicas, así como a los gobiernos e instituciones supranacionales encargados de legislar y regular.

Personajes como Ray Kurzweil, uno de los principales ideólogos del llamado transhumanismo, además de ingeniero jefe en Google, llevan décadas propagando una visión idílica de la relación entre las personas y la tecnología. Para Kurzweil y sus afines, afectados de un determinismo tecnológico que raya lo patológico, no solo es inevitable sino también deseable que humanos y máquinas caminen de la mano hacia un nuevo estadio evolutivo. Que nos fundamos en una relación simbiótica para superar limitaciones biológicas. El gran objetivo de todas las mejoras que los gurús transhumanistas nos prometen es un viejo conocido de nuestras aspiraciones: la inmortalidad. Lo que distingue a los modelos más avanzados de cylon de los humanos es su capacidad de transferir su conciencia a otros cuerpos sin perder memoria de su existencia pasada. Son capaces de enchufarse a una máquina y traspasar toda su identidad y recuerdos a un nuevo receptor como el que se descarga una película por torrent. Son inmortales, en otras palabras, y sin esa característica apenas podrían distinguirse de una persona cualquiera. Se pasarían el test de Turing como yo me paso el primer nivel del Super Mario Bros.

Esta idea de entender nuestra conciencia (alma, para los muy religiosos) como un flujo de datos que define nuestra identidad es recogida por Yuval Noah Harari en su libro Homo Deus: breve historia del mañana. Harari habla del dataísmo como el último gran paradigma sobre el que pivotan todas nuestras disciplinas científicas. Si hasta ahora las respuestas a nuestras preguntas las encontrábamos primero en Dios y luego en el propio hombre, el dataísmo viene a superar el pensamiento humanista para concluir que las decisiones han de ser tomadas por algoritmos convenientemente alimentados con toda la información a nuestro alcance. Cuantos más datos le proporcionemos a la máquina, mejores decisiones tomará por nosotros. El sueño tecnohumanista incluye crear personas que puedan comunicarse y procesar información de manera mucho más efectiva, pero a costa de degradar nuestras capacidades mentales y convertirnos en seres sin apenas capacidad de mantener la atención, de soñar o de dudar. Porque la duda nos convierte en algo excesivamente complejo como para ser procesado por un algoritmo. Dudar, como muchas otras imperfecciones tan humanas, forma parte de esas actividades que una máquina solo puede simular, pero no procesar.

¿Qué puede salir mal?

La idea es sencilla. Podemos fragmentar nuestra identidad en innumerables variables que pueden ser medidas y por lo tanto cuantificadas. La agregación de todas esas variables nos permitirá definirnos y, aún más importante, predecirnos. Somos el conjunto de datos que incluye nuestro peso, nuestra altura y el número de zapato que calzamos, pero también somos las decisiones que tomamos, a quién amamos y a quién odiamos. Cuantas más variables consideremos, más precisa será la definición que tengamos de nosotros. La fotografía cada vez más enfocada. Si es importante almacenar toda la información biométrica es para ser capaces de reconstruir nuestra persona física. Si registramos nuestras decisiones y nuestros sentimientos es para predecir nuestro próximo movimiento. ¿Por qué es importante alcanzar ese grado de conocimiento sobre nosotros? Por la promesa de eliminar incertidumbre de nuestras vidas. La incertidumbre es algo que detestamos por naturaleza y las nuevas tecnologías de la información han llegado con la promesa de erradicarla. Si uno de los motivos del surgimiento de los Estados-nación fue reducir el grado de incertidumbre de sus ciudadanos garantizando la prestación de servicios básicos como la sanidad o la educación, las nuevas tecnologías están tratando de usurpar ese papel creando la falsa sensación de que pueden dar respuesta a nuestros problemas más básicos. Casi siempre lo hacen con el argumento tan etéreo de que, comunicándonos (así, en genérico) podemos resolver cualquier reto que nos propongamos. Para ello, debemos permanecer conectados, compartir nuestros datos, cuantos más mejor, y confiar en que los algoritmos hagan bien su trabajo. Que para algo les pagamos.

Kyle Behm es un joven norteamericano que vio interrumpido su periodo universitario debido a un episodio de trastorno bipolar que requirió tratamiento. Tras reanudar sus estudios, por recomendación de un amigo que trabajaba en un supermercado solicitó un empleo a tiempo parcial en esa cadena. Su candidatura fue descartada y a este le siguieron otros tantos rechazos en distintos trabajos de baja cualificación. Gracias a su amigo, Kyle supo que el motivo por el que sistemáticamente lo descartaban era un test de personalidad que los departamentos de recursos humanos estaban utilizando y cuya legalidad era, cuanto menos, cuestionable atendiendo a la legislación sobre discriminación por discapacidad. El test, desarrollado por la empresa de gestión de personal Kronos, evalúa aspectos de la personalidad de los candidatos y dictamina su idoneidad para el puesto de trabajo, algoritmo mediante. Uno de los problemas de este tipo de algoritmos es la utilización que hacen de valores sustitutivos. Los valores sustitutivos son variables utilizadas en la toma de decisiones, pero que no guardan conexión aparente sobre el tema a tratar. Por ejemplo, utilizar el código postal de alguien para decidir si se le concede un crédito bancario puede que parezca aleatorio, pero si ese valor se utiliza como complemento de otras variables, el big data, procesamiento de datos a gran escala, puede hacer aflorar patrones que para la mente humana pasen desapercibidos. La contrapartida es que la utilización de estos valores sustitutivos contribuye a perpetuar desigualdades (de clase social, raza o género) así como a excluir a los casos excepcionales. Los algoritmos en general no son muy amigos de aquello que se sale de la norma, posiblemente porque su tarea sea la de crear esa misma norma.

Dataismo Solucionismo Tecnológico — Ordenador cuántico de la serie Devs (HBO)

La historia de Kyle es una de las muchas recogidas por Cathy O´Neil en su revelador ensayo Armas de destrucción matemática (ADM). O´Neil, matemática de formación, detalla tres características que los algoritmos han de tener para ser considerados como una ADM:

Son opacos. No existe forma de saber cómo funcionan o están programados. Si resultas afectado por una de sus decisiones no podrás impugnar el resultado.
Son escalables. Estos algoritmos son utilizados para la toma de decisiones que afectan a millones de personas en aspectos tan importantes como la justicia, la educación o el sistema sanitario.
Son injustos. Aunque prometen sistemas más eficaces acaban reproduciendo las desigualdades y los prejuicios de aquellas personas que los crean.

Y, sin embargo, nos hemos entregado a ellos. Hemos puesto nuestra confianza en unas herramientas matemáticas que nos prometen tomar las decisiones correctas por nosotros y sin ningún tipo de mala influencia externa. Libres de los típicos vicios humanos como xenofobia, racismo o machismo. Decisiones limpias como solo una ecuación puede serlo. Los algoritmos están en la cocina de las áreas más importantes de nuestras vidas. Campan a sus anchas por cuestiones que afectan directamente a esa hipoteca que te tienes que pedir, al colegio en el que estudian tus hijos o a quién va a ganar las próximas elecciones. Todo esto sin la posibilidad de cuestionarlos, porque nunca es posible saber cómo el algoritmo de turno está programado. ¿Quién osa cuestionar las matemáticas? Da igual que las fórmulas en las que toman forma tengan nombres y apellidos humanos. Como si no se pudiese hacer política con los números.

Making the world a better place

Resulta difícil precisar en qué momento comenzamos a permitir que las grandes compañías tecnológicas se apropiasen de nuestros datos sin casi ningún tipo de control. En 2008, EEUU puso en marcha el llamado Internet Freedom program, coronado en 2010 con un discurso de la por entonces secretaria de Estado, Hillary Clinton. Con el apoyo político y económico del gobierno se promovería la expansión mundial de Internet y sus sistemas de comunicación para favorecer la implantación de democracias liberales y el desarrollo de derechos humanos en lugares del mundo con escasa tradición en su cumplimiento. En la práctica fue el comienzo de una fructífera relación entre Washington y Silicon Valley que llega hasta nuestros días y que abrió las puertas de los despachos de los reguladores internacionales a las grandes empresas tecnológicas como Google o Facebook. Sus agendas pasaban por convertir el mundo en un sitio mejor. Recordemos que, en sus comienzos, el lema de Google era «Don´t be evil» (No seas maligno), lo que nos da una idea de lo ambicioso de su proyecto. Pero el lado oscuro de la fuerza es poderoso, como todos sabemos, y la necesidad de rendir cuentas a sus accionistas impone en cualquier empresa la maximización del beneficio. No parece que permitiendo a la gente bucear gratis en Internet o compartir sus momentos más íntimos sin coste económico alguno se puedan engordar las cuentas de corporaciones que, por otra parte, tenían aspiraciones planetarias. Era hora de aprovechar las plataformas que habían creado para aplicar un poco de esa lógica extractivista que el capitalismo adora.

Pero la idea de seguir siendo los chicos buenos de la película resultaba muy tentadora. Era necesario que la gente aprobase el cambio de un modelo económico basado en la oferta de servicios a uno basado en la venta de publicidad, sin perder el sex appeal que las empresas de nuevas tecnologías llevaban años cultivando. No basta con decirle a la gente que necesitamos sus datos para poder ofrecerle mejores anuncios, hay que convencerla de que entregándonos toda su información podremos ayudarla a resolver sus problemas más acuciantes. Es lo que el sociólogo bielorruso Evgeny Morozov llama solucionismo tecnológico, la idea de que a través de algún tipo de tecnología podemos resolver cualquier reto que aparezca en nuestras vidas. Normalmente, lo que se nos ofrecen son soluciones que pasan por el seguimiento personal para, con la información que obtenemos sobre nosotros o nuestros hábitos, poder tomar decisiones y cambiar nuestro comportamiento más fácilmente. Dinos qué compras en el súper cada semana para ayudarnos a optimizar tu economía doméstica, introduce tus datos biométricos en tu iPhone y te avisaremos si vemos algo fuera de lo normal. De esta forma la responsabilidad se traslada a los individuos y a los gobernantes les resulta mucho más fácil y barato ofrecer soluciones basadas en aplicaciones móviles que poner en práctica políticas públicas arriesgadas que afronten los problemas desde la raíz. Parece deseable, en este punto, recuperar cierto control sobre los datos que generamos para desmontar este modelo de negocio que se apoya en un tecnooptimismo enraizado culturalmente. Entender que, en la toma de decisiones, los sentimientos han de seguir teniendo un lugar importante más allá de lo que diga un algoritmo, por muchos datos con que lo alimentemos. Porque equivocarse es una cualidad humana que ninguna máquina debería eliminar. Un mundo sin error es un mundo donde no es necesario el perdón.