No es lo mismo ("big data" que inteligencia)

Hace unos días La Tercera dio a conocer detalles de un supuesto uso de "big data" por parte del Gobierno de Chile como fuente de "inteligencia", aludiendo a influencia extranjera en el estallido social ocurrido desde mediados de octubre. Esto en un contexto de rumores, propagados por el mismo gobierno, algunos de sus partidarios e incluso algunos medios de comunicación sobre esa supuesta influencia.

Creo pertinente conversar algunos puntos al respecto:

En primer lugar, la sociedad es un sistema complejo. Los social media también. Cualquier análisis simplista de ambos fallará, más todavía si excluye otras señales y formas de OSD* y OSF*.

Asimismo, un análisis sin continuidad organizacional y metodológica no tiene como formar parte de una línea histórica que permita hacer diagnóstico diferencial. Este es un elemento fundamental en encuestas, donde comparar mediciones obtenidas en el tiempo y ver correlación con procesos que vive la sociedad ayuda a validar metodología y darle un sentido contingente a los resultados.

Otro problema al sacar conclusiones en base a plataformas de social media como fuente pública es la cantidad de información falsa y/o dirigida. Quienes hemos trabajado de cerca con estas plataformas y hecho algo de análisis sabemos lo fácil que es acceder a grandes volúmenes pero lo difícil que es extraer información valiosa.

Me gusta lo que dijo José Kusunoki (@jkusunoki): "Hacer una query de Twitter no es big data".

En parte, dicha dificultad existe porque hay grandes esfuerzos puestos en usar estas plataformas para manipular percepción y comportamiento de usuarios. Los llamados "bots" o cuentas dirigidas son un problema importante reconocido por las propias plataformas.

También, cada dato visto en social media necesita ser verificado si queremos generar algo más que un simple análisis de opinión. Si hablamos de grandes volúmenes de datos ("big data") es prácticamente imposible verificar dichos datos de manera costo-efectiva, vale decir el resultado no se puede llamar "inteligencia" en el sentido en que la palabra suele utilizarse en el ámbito de la seguridad, al menos cuando se extraen desde las interfaces públicas de las plataformas.

Jordán (2013) dice “Uno de los principios no escritos en materia de inteligencia es que no puede darse como completamente válida una información que no haya sido contrastada con, al menos, otra fuente”, nos recuerda S.Negri (@csnegri).

Uno pensaría que, siendo economistas, quienes están a la cabeza del actual gobierno sabrían todo esto. Pues análisis y predicción del comportamiento de personas también forma parte fundamental del quehacer empresarial moderno. En consecuencia, queda impresión que el aludido informe se puede haber mandado a hacer con sesgos previos, para justificar el accionar represivo de los últimos meses, pues en la moneda no parecen tener duda alguna respecto de la supuesta injerencia extranjera en el estallido social chileno.

Habiendo en Chile actores serios capaces de llevar análisis complejos, como la Universidad de Chile, como Analytic y como Brandmetric, el Gobierno ha preferido contratar algún actor desconocido, sin respaldo, o (peor) algún conocido que prefiere el anonimato, pues dicho actor podría no estar dispuesto a dar la cara por la validez de este análisis. Expertos como Bárbara Poblete (@bpoblete) y Jorge (@perez) de la Universidad de Chile revelaron que La Moneda se acercó a pedir ayuda, y ellos en cambio no estuvieron disponibles para hacer algo mediocre por encargo.

Desde el 18 de octubre hasta ahora, organismos nacionales e internacionales han consignado reiterados abusos en el uso de la fuerza contra la población civil en Chile, asemejando la respuesta del gobierno al estallido social con la represión en tiempos de la dictadura chilena 1973-1990. En este contexto, el contenido del informe citado parece consistente con la estrategia de criminalizar al movimiento social o propagar la idea de un enemigo imaginario.

También debemos considerar el aspecto de la vigilancia. El análisis general de tendencias a partir de lo que ciudadanos publicamos en plataformas puede ser de legítimo interés público y un insumo útil para el Estado. Pero el actual gobierno ha perdido ante la ciudadanía confianza en su buena fe, debido a la acción represiva. En este sentido, no es alentador que el informe aluda a usuarios en particular, individualizando posiciones políticas. Ese tipo de perfilamiento, que incluye identidad (o intento de) geolocalización, puede ser considerado una transgresión a los derechos fundamentales, explicó Sebastián Becker (@sebabecks).

Si de verdad el actual gobierno quisiera escuchar a la gente vía social media, bastaría con poner expertos, que los hay localmente, a trabajar en serio con las herramientas correctas. En media tarde ya habría un resumen. Y probablemente, en el primer lugar estarían las demandas por salarios, pensiones y salud dignas.

Y finalmente una reflexión: si bien al parecer este papelón no fue ni big data ni un creíble monitoreo de plataformas de social media, sí existen grandes volúmenes de información en manos de esas plataformas. No solo las más obvias como Google y Facebook, el comportamiento de cada uno de nosotros y muchas de nuestras comunicaciones pasan a través de las empresas de telecomunicaciones móviles. Tanto las plataformas como dichas empresas pueden construir perfiles detallados de quiénes somos, qué opinamos, qué hacemos y con quién. Ya lo hacen, ya existe intercambio mercantil de esos datos (Shoshanazuboff habla de "capitalismo de la vigilancia"), que ya se usa para predecir e incluso moldear nuestros comportamientos. ¿Qué va a pasar cuando gobiernos encuentren la manera de comprar u obligar a las plataformas a entregarles ese tipo de inteligencia?

Ojalá que lo sucedido y las conversaciones resultantes nos permitan reflexionar sobre lo importante que es proteger y regular los datos del comportamiento de personas y su uso, tanto en miras a los cambios en curso a la legislación de protección de datos y ciberseguridad como a los principios que deberían abordar esto en la próxima carta fundamental.

Una versión posterior de esta columna fue publicada en El Desconcierto.

El capitalismo hiper conectado: de cada uno según *su* vulnerabilidad

Los medios (participativos como también tradicionales) reflejan, transportan y potencian lo que la sociedad ya es, con una importante salvedad: son manipulables por quienes tienen más poder para hacerlo. Ya se ha visto, y se seguirá viendo, tanto en la historia de los mass media como en la historia reciente de los "new media".

Esto lo sospechábamos hace tiempo y ya hemos visto algunos efectos, pero además Shoshana Zuboff le pone nombre Y focaliza el problema al explicar que el "capitalismo de la vigilancia" va más allá de solo traficar los datos de las personas. Plataformas como Google, Facebook y Twitter han desarrollado la capacidad de modificar el comportamiento de la sociedad completa a través de las plataformas participativas, al presentar experiencias a la medida para manipular a cada persona según su vulnerabilidad, y en este sentido hay un potencial de influencia cualitativamente mayor, y por lo tanto mucho más peligroso, que con los medios tradicionales. Por eso es importante hablar de esto, desarrollar una cultura medial para que el usuario pueda leer entre líneas, pues ya no basta con explicarle el entre líneas de "el relato" del momento, cuando el relato es diferente para cada uno.

Así, la sociedad pasó de anhelar que "de cada cual según sus capacidades, a cada cual según sus necesidades" a aceptar que se explota a los individuos "a cada uno según su vulnerabilidad".

En este sentido, Cadem se hace honor a si misma y equivoca, con este estudio que o está mal hecho, o intenta ocultar lo que un análisis más profundo revelaría, lo mismo que se ha revelado en el Reino Unido, EEUU y Brasil: aunque "no se identifican" conscientemente, mayoría sí son "volátiles", altamente manipulables medialmente.

Mientras más pienso en lo que ha planteado Shoshana Zuboff y lo aplico a la sociedad actual y su contingencia, más sentido me hace.

Esta reflexión nació de una conversación en la timeline de Andrés Azocar donde participó Enzo Abbagliati.

El caso Nido, los datos personales y una noticia personal

Queridos contertulios, ¿les conté que voy a estar en la Fundación Datos Protegidos? Bueno, hoy parece un buen día para anunciarlo, dadas las noticias de hoy.

Creo que también es un buen día para hablar sobre caso Nido.

Para los que no se enteraron, nido.org como un "club" de usuarios anónimos que, entre otras cosas, comparten imágenes y datos de chicas entre sí con fines espurios.

Muchas de esas imágenes y datos parecen venir de lo que gente comparte en medios participativos como Instagram y Tumblr o grupos en plataformas de mensajería "privada" como WhatsApp y Telegram.

Algunos medios o datos podrían también venir de filtraciones o hackeos.

El modus operandi del club en cuestión parece ser "jugar" a usar dichos datos para acosar o "conquistar", a menudo a través de extorsión, típicamente a chicas jóvenes, pero no necesariamente, también operarían contra la comunidad LGBT.

Es una madeja bien compleja entre lo legal y lo ilegal, pero una cosa está clara: esto es un problema cultural y no va a desaparecer solo con más leyes.

Uno de los aspectos más graves es lo vulnerable que pueden estar adolescentes / menores de edad frente a grupos que actúan de esta manera. Hoy salió a la luz este sitio pero seguro hay otros, quizás más ocultos y todavía más violentos y peligrosos.

Por eso es importante explicar desde niños a usuarios de social media que todo lo que ponemos en la Internet implica riesgo.

De hecho, podríamos preguntarnos si es buena idea que niños y adolescentes accedan solos a mensajería online y/o publiquen información en medios participativos.

Independiente de edad, la tentación de publicarlo todo (ej., vacaciones en Instagram) es para pensar dos veces, especialmente si vamos a publicar fotos de menores de edad.

¿Qué nos pasa como sociedad que estamos publicando todo lo que hacemos, a veces aparentando incluso un estándar de vida y una felicidad que no son reales ni representan sentires verdaderos?

¿Nos damos cuenta que las plataformas viven de las interacciones que causamos, y por lo tanto fomentan exhibicionismo que llame la atención (y conflicto polarizante)?

Y dado esto, ¿qué estamos haciendo como sociedad, como profesores, como familias y como amigos, para concientizar y poner límites a este fenómeno?

Algunas cosas que podemos hacer:

  • Dejar de poner en Internet todo lo que hacemos, aconsejar a los demás a tener cuidado.
  • Considerar que a veces compartimos info de terceros sin permiso. Las fotos tienen señales identificables (caras, lugares) que facilitan deducir información sobre quién, cuándo, dónde y con quién.
  • Educar en relación a lo que implica la huella de datos. Una vez que una foto o dato sensible sale a lo "público" (aunque las plataformas sean privadas), ya es muy difícil que eso vuelva al ámbito de lo privado fácilmente. Hay ejemplos terribles de esto.
  • Entender que los mismos datos que en un contexto puede ser inocuos o significar una cosa, pueden ser sacados de contexto e incluso manipulados para significar otra o usarse de mala forma, por ejemplo extorsión. Estudiar el tema de los "deep fakes".
  • Explicar que el registro o difusión no consentida (por ej. de pornografía), el acoso, la extorsión, el abuso y el tráfico de datos personales son delitos - o deberían serlo, y en eso además hay que modernizar legislación y el trato entre usuarios, plataformas y autoridades.
  • Seguir y difundir a entidades y especialistas que tratan bien estos temas, y que nos pueden ayudar en caso que experimentemos una emergencia relacionada.
Hay una entrada sobre este tema en Facebook y un hilo similar en Twitter.

Ignacio Rodríguez de Rementería