Lunes, 21 Diciembre 2020 05:49

Veronica Barassi: “La primera generación de personas datificadas antes de nacer ya ha llegado”

Escrito por Álvaro Lorite
Valora este artículo
(4 votos)
Foto cedida por la autoraFoto cedida por la autoraFoto cedida por la autora

Veronica Barassi, antropóloga e investigadora italiana publica en diciembre de 2020 Child | Data |Citizen una investigación que muestra los peligros de la datificación de los niños y niñas de cara a que ciertas empresas creen perfiles que podrían determinar su futuro

 

En un futuro próximo, los datos perfilarán a las personas con una precisión que nunca antes fue posible. La familia, la escuela, los hospitales o el Estado producen una cantidad ingente de datos de bebés que aún no han adquirido ni siquiera su lengua materna. Una foto enviada a un amigo puede rebotar en decenas de grupos y acabar en centenares de teléfonos en un día. ¿Qué consecuencias puede llegar a tener para el futuro de las criaturas? ¿Qué ocurre con toda esa huella digital que están dejando?

Veronica Barassi, antropóloga e investigadora italiana, catedrática de Medios y Comunicación en la Facultad de Humanidades y Ciencias Sociales de la Universidad de St. Gallen, Suiza, da carpetazo a 2020 publicando en diciembre a través de MIT Press el libro Child | Data | Citizen, una obra (todavía sin traducir ni editar en castellano) que nace de una investigación de 3 años que parte de 50 entrevistas con 8 familias de diferentes perfiles etnográficos, económicos y nacionales en las ciudades de Londres y Los Ángeles. A pesar de partir de la academia, el libro es un ensayo plagado de conversaciones y anécdotas que lo acercan más a las librerías de barrio que a las estanterías de las universidades.

“Soy antropóloga y desde siempre me ha interesado estudiar qué sentido tienen las transformaciones digitales para las personas. Desde que empecé a estudiar siempre me interesó la forma en que las redes sociales podrían cambiar la democracia”. En 2014 publicó Activismo en la web: luchas del día a día contra el capitalismo digital estando embarazada. En ese momento se empieza a relacionar con padres y madres primerizos y se da cuenta de la cantidad ingente de datos que se producen de los bebés, antes incluso de los embarazos, a través de las aplicaciones de preparación y ayuda al parto. “En 2017, cuando empiezo a escribir este libro, nace mi segunda hija en un contexto muy diferente al de 2014, mucho más acelerado”.

Como madre, de entre todos los aspectos que has tratado en el libro, ¿cuál es el que más te preocupa o interesa?
El libro estudia la cantidad de datos que producimos y cómo las grandes tecnológicas pueden integrar estos datos recopilados de distintas áreas, como el colegio, el hogar o la salud, para crear perfiles únicos de identidad. Tenemos también las tecnologías que toman decisiones de forma automática, que ya están siendo usadas en hospitales, administraciones y centrales de policía. Mi preocupación es que estas tecnologías, probablemente, van a tener acceso a todos estos datos agregados de una forma más vasta que hasta ahora. Digo probablemente porque trato de no ser apocalíptica, pero es un hecho que nuestra relación con la llamada “inteligencia artificial” ha cambiado dramáticamente en los últimos cuatro años. No hemos asumido los riesgos de lo que está pasando. Tenemos que tener en mente lo que se puede llegar a hacer con estos perfiles.

Ya desde el prólogo señalas el peligro para cualquier persona de ser datificada como ciudadana, no solo porque los algoritmos le estén diciendo a las empresas o los gobiernos quién eres, sino también por la capacidad que tienen de cambiarnos y transformarnos en lo que “se supone que debemos ser”. ¿Estamos siendo reducidos de ciudadanos a consumidores?
Se están creando perfiles a partir de las huellas digitales que dejamos cuando compramos, pero también con lo que hacemos en nuestras propias casas. Como hemos visto con el escándalo de Cambridge Analytica, estos rastros digitales no solo nos perfilan como consumidoras, sino que crean perfiles políticos. Esto es lo que señalo en el libro, se está borrando la frontera entre nuestro perfil de consumidor y perfil político. Los principales estudiosos en este campo que han estado trabajando en este tema, hablan de la idea de la prevención o predicción. Gente como Greg Elmer, Palm en Canada o Lina Denick en Cardiff hablan de cómo la tecnología de datos esta ahí para prevenir, mitigar riesgos en el futuro.

Se aplica a las criaturas la misma lógica que se usa para prevenir crímenes, la cual pone una barrera entre ellas y muchos procesos humanos importantes. Déjame darte un ejemplo concreto, si piensas en educación, muchas de las tecnologías aplicadas a este campo van sobre aprendizaje personalizado: se usan para identificar “riesgos” en las escuelas para que puedas mitigarlos de forma personalizada. Lo cual suena increíble, piensas “es una buen idea”, pero la verdad es que si empiezas a crear aprendizaje personalizado basándote en rastreo de datos, lo que ocurre es que excluyes a los niños de explorar en lo que se podrían convertir, les encierras en estereotipos, les metes en un perfil desde temprano y esto es muy importante si piensas en la desigualdad social.

Es similar a lo que ocurre en Estados Unidos con los sistemas de predicción y detección de crímenes, que se retroalimentan en sus estereotipos y, si violentas a una persona porque crees que va a cometer un crimen o la detienes sin que haya hecho nada, la empujas a que tenga ciertos comportamientos.
Sí, exacto. Si eres adolescente y te identifican con el perfil de una etnia minoritaria y te interesa la justicia social solo te meten esa información, todo el tiempo, porque piensan que esa es toda la información que te interesa. Así no es como yo solía aprender, ¿sabes? Yo aprendí porque estuve expuesta a muchos tipos diferentes de conocimiento y decidí convertirme en una cosa y luego en otra. Así que creo que ese es uno de los problemas principales, es muy difícil salir de esos estereotipos en los que te meten.

Dentro de un rango, has hablado con padres y madres de muy distintos perfiles en Londres y Los Ángeles, ¿qué preguntas crees que debería hacerse toda persona envuelta en la crianza respecto a los datos?
[Risas] Esa es una buena pregunta, la primera pregunta a la que se debería enfrentar cualquier padre o madre es ¿cómo se van a usar los datos de nuestras huellas digitales? Las dejamos constantemente a través de mensajes y fotos de forma voluntaria. Pero también cuando aceptamos los términos y condiciones de uso en webs, o dependiendo del colegio u hospital que elegimos ¿Van a tener un impacto negativo en los hijos? Un ejemplo que suelo usar y que, de hecho, es una cuestión que me hizo pensar en los niños como ciudadanos de datos (data citizens) era la cuestión de los perfiles políticos en redes sociales. Yo soy de Italia que, igual que España, tiene un historial de regímenes autoritarios y dictaduras. Me sorprendió cuando empece mi investigación cuánta información política se compartía sobre ellos. Fotos de niños en manifestaciones, con pancartas contra el gobierno local y cosas así. Imagínate saltar 20 años hacia delante y que ya no vivimos en ese sistema democrático o en una sociedad más tolerante, ¿cómo les va a afectar este perfil político? Estas son cosas en las que todavía podemos trabajar un poco, pero los padres y madres no tenemos mucha elección en esto ya que estamos constantemente aceptando los términos y condiciones de estas compañías.

¿Qué consejos les darías?
Individualmente diría que tuviesen mucho cuidado con cualquier información compartida en linea y ser estratégicos a la hora de tomar decisiones. Por ejemplo, nunca compartir información sobre tu salud o la de tus crías en Gmail. Sé que suena estúpido pero tener tu cuenta de Gmail conectada al servicio de salud no es una buena opción porque van a hacer negocio con ello. Si subes contenido a redes sociales, trata de que sea neutral y no pueda ser puesto en su contra en el futuro. Pero estos consejos son individualizados. Creo que la clave está en trabajar con profesores, doctores, académicos hacia una mayor privacidad y protección de datos. Por ejemplo, encontrando plataformas alternativas a Google Classroom.

Es algo que ya está ocurriendo en Barcelona por ejemplo, desde la institución pública se está expulsando a Google de las aulas. Defiendes en tu libro que los niños y niñas son la clave para explorar la emergencia de la datificación ciudadana y cómo se está transformando la sociedad, ¿por qué?
Son la primera generación datificada antes de nacer. No me pasó a mí, no te pasó a ti, esta es realmente la primera generación a la que le está ocurriendo esto. Tenemos que analizarlo. Hay una diferencia fundamental entre mis hijas y yo. Yo pude desarrollar mi carrera profesional y vivir en un mundo que no conocía información sobre mi infancia. Especialmente aquella que yo no deseaba compartir. Nadie sabe la filiación política que tenían mi madre o mi abuelo o mis hábitos alimentarios. Para mis hijas esto ya no va a ser así. Nuestros datos son agregados en unidades familiares por las empresas que los utilizan y cada vez va a ser más difícil ocultar o desconectar ese bagaje.

Estoy pensando que ya no solo esas empresas sino, por ejemplo, sus propios compañeros cuando tengan 15 ó 16 años, podrán encontrar esa información fácilmente.
¡Sí! Este tipo de daño con los datos siempre ha existido. No es nada nuevo. La gente siempre ha sido metida en perfiles basándose en sus orígenes, en el color de su piel, en su religión, no seamos ingenuos con esto, no es ninguna novedad. Lo que cambia hoy en día a es la amplificación y es muy importante que lo entendamos.

Como señalas en el libro, las crías tradicionalmente han sido excluidas de los debates públicos sobre ciudadanía. Más adelante se les da una protección y derechos específicos, pero parece que no hemos dado el paso de incluirles como agentes de solución en sus propios problemas. Incluso desde la academia, aunque estén presentes en estudios, pocas veces lo están sus voces, ¿crees que podrían ser una clave para enfrentar estos problemas que señalas?
Creo que tienes toda la razón. Existe esta negligencia hacia la capacidad de ser agentes de nuestras crías. Siempre han sido ignoradas como ciudadanas de muchas maneras. Hay muchos estudios sobre su capacidad de acción, especialmente en cómo se relacionan con los dispositivos tecnológicos. Uno de los que más admiro es el trabajo de la profesora Sonia Livingstone, de la London School Economics, que durante años se ha estado centrando en dar a los niños esa voz, esa capacidad de acción. En mi libro no incluyo sus testimonios u opiniones, porque mi objetivo es mostrar cómo se les roba esa capacidad de acción. Cómo están siendo construidos por esos datos agregados y los algoritmos debido a los datos compartidos por sus padres y madres, colegios, sistemas de salud. Tienen poca voz ahora y van a tener poca voz en el futuro.

Mientras leía tu libro, hice un pequeño experimento en algunas clases de secundaria. Traté de explicarles todos los datos que se estaban recolectando sobre ellos y les pregunté qué opinaban al respecto. Me sorprendió encontrarme con que a muchos no les importaba demasiado.
No me sorprende. Lo dan por sentado porque la sociedad en la que viven lo da por sentado también. Están reproduciendo lo que ven en el mundo de los adultos. Es la misma respuesta que he recibido de padres y madres cuando les expongo mi trabajo: “ya lo sé, pero ¿qué opciones tengo?” ¿A quién le importa que Google sepa qué marcas especificas de pañales compras? Hay muy poco conocimiento de lo que ocurre con estos datos. La gente ya sabe que se usan para dirigirse hacia ella de una forma más específica a través de los anuncios. Lo que no ven son a brokers de datos operando en las sombras. En los últimos doce años hemos creado una economía totalmente dependiente de esta datificación. Todo va a depender de estos datos. Tu trabajo, tu acceso a primas de riesgo, tu vivienda, el colegio de tus hijos…

Hablas en el libro de lo difícil que es decirles que pasan demasiado tiempo con las pantallas cuando tú estás conectada 24/7 a la pantalla.
Estamos todo el tiempo conectadas. Esto es un problema de la sociedad en la que vivimos, no solo de ellos. Yo hablo de esta tecno-dependencia que hemos creado. Muchas investigaciones ya hablan de adicciones, ¿cuántas veces miras la pantalla de tu teléfono?

No quiero ni saberlo, pero es, casi siempre, lo primero que hago al levantarme y lo último antes de acostarme.
He intentado mostrar este cambio radical en nuestras vidas. La gente que he entrevistado tiene entre 30 y 40 años y me dicen sin excepción: “todavía recuerdo la época en la que podía elegir cuándo meterme en Internet, antes esto, aún con tecnología, no era así”. Estas tecnologías están diseñadas para ser adictivas, pero también critico esta reducción a la adicción. Padres y madres se echan la culpa a sí mismos o a sus parejas. Hay una tendencia a a la dependencia o necesidad de sentirse constantemente conectados, pero lo que está pasando también es que en los últimos 10 años, todo nuestro mundo ha sido digitalizado y por ende, datificado. Escribo un mensaje instantáneo a la profesora de mi hija mientras contesto a los correos de mis alumnos. Estamos migrando a la vida en linea y esta es una gran transformación que va más allá de una adicción.

En Los Desposeídos, Ursula K. Le Guin imagina una comunidad anarquista donde el cuidado y la educación de las crías está en manos de la comunidad y no de su padre y madre biológicos. Teniendo en cuenta la clara distancia con nuestras sociedades, ¿crees que algunas soluciones a estos problemas pueden aproximarse tratando el problema de forma social o tribal para no cargar de culpabilidad y responsabilidad a padres y madres?
No usaría las palabras ‘social’ o ‘tribal’, pero sí definitivamente la palabra ‘política.

¿Te refieres a ‘pública’?
Lo que intento mostrar es que no es un problema de individuos, es un problema del sistema. Necesitamos nuevas políticas de cuidados, una transformación de la manera en la que pensamos los derechos digitales. Así que tiene que ser una respuesta colectiva definitivamente.

Las grandes empresas de datos, las llamadas GAFAM, por ejemplo, están explotando cantidades ingentes de datos, no solo a través de sus propias plataformas, sino a través de la compra de datos a empresas de otros sectores, como el de la salud. En España, una compañía de la industria militar como Oesia produce software clínico también. Da la sensación de que operan fuera del control de los Estados.
Hay varios problemas en esto, pero el de los datos médicos es uno de los más preocupantes. Imagínate ser adscrito a un perfil para toda tu vida en términos de salud mental. Somos personas, somos vulnerables y tenemos distintas épocas en la vida. Los sistemas de datos que usan estas compañías se ceban especialmente con las vulnerabilidades de las personas. Esto se ve muy bien con los anuncios a padres y madres primerizos, explotan los miedos normales que cualquiera puede tener. La covid ha traído al primer plano las implicaciones de la elaboración de perfiles médicos porque se asocian a limitaciones de libertades concretas. No critico esta práctica en concreto, pero es importante observar las implicaciones.

Pienso en que hace 30 ó 40 años aquí en España con el tema del sida la gente era señalada y perfilada de muchas maneras.
Sí, y en la mera elaboración de perfiles médicos ya hay involucrada una gran discriminación previa a esa. Como humanos tenemos miedo a las enfermedades y es normal, porque ello nos enfrenta a nuestra mortalidad. Hay todavía trabajo que hacer con el VIH pero hemos avanzado bastante como sociedad. Es un ejemplo de cómo de problemático y discriminatorio puede ser tener esa marca en tu perfil social. Imagina lo que es que una empresa tenga acceso a todos los registros de salud mental de sus empleados o de gente a la que vas a contratar. Ahora mismo el problema de la elaboración de estos perfiles es de urgencia, por toda la discriminación que conlleva. Los datos médicos son un gran negocio y todavía hay muy poco regulación al respecto. Hay regulaciones a la hora de recoger los datos, pero el problema real, de nuevo es cómo se usan estos datos por los brokers. Es un mundo opaco y sin apenas regulación.

Me he sentido identificado cuando dices en el libro: “cuando era una niña, estaba aterrorizada por las notas. Estudiaba y trabajaba duro para tener buenas notas. Ya entendía la importancia de las notas, cómo iban a definirme, no solo frente a mis profesores y compañeros, sino también frente a mi propia familia”. Las notas están lejos de ser preciosas a la hora de valorar las capacidades de un niño o niña. Dejan de lado cuestiones como las condiciones económicas de la familia o cuánto tiempo pasa ese niño o niña haciendo labores de cuidados, cosa que se ha intensificado con el covid. ¿Enraíza en esto todo lo que estamos hablando?
[Risas] No creo que ese sea el problema real. La idea de medición en la educación fue introducida a principios del siglo XX, esto ha definido la historia de la educación tal y como la conocemos en occidente. Sin embargo, en términos de big data, el sector educativo fue particularmente vulnerable desde el principio por esta tendencia a puntuar a los niños y niñas y la obsesión con los rankings y competiciones. De nuevo tengo que mencionar el trabajo de gente a la que admiro mucho. Ben Williamson escribió un libro llamado Big Data in Education que explica perfectamente esta vulnerabilidad intrínseca de las escuelas precisamente por esta tendencia a numerarlo todo. Estoy de acuerdo contigo, tus notas no te definen, yo saqué notas muy malas en el colegio (risas). No creo que quisiera que esa información me definiera hoy en día. Ese es el tema, darle a la gente la capacidad de escoger y equivocarse. Saca malas notas, aprendes de ello, pero que eso no te defina ni entre a formar parte de tu perfil para determinar de una manera mucho más directa, tu futuro.

Durante los meses de confinamiento más duros, muchas escuelas e institutos permitieron que Google entrase con sus herramientas por la puerta grande para poder digitalizar la educación.
No hemos tenido tiempo de pensar ni debatir todo lo que implica. Además hay que reconocer que esta empresa desarrolla tecnologías que funcionan muy bien y las ofrece muy baratas. Para las escuelas sin muchos fondos son una solución real y esto es lo triste. Cuando hablo de solución política creo que aquí es donde hay que crear el debate.

Por Álvaro Lorite

@lorojuntaletras

Pablo Müller

20 dic 2020 07:00

Información adicional

  • Autor:Álvaro Lorite
  • Fuente:El Salto
Visto 612 veces

Deja un comentario

Asegúrate de llenar la información requerida marcada con (*). No está permitido el Código HTML. Tu dirección de correo NO será publicada.