Secciones

Más en The Clinic

The Clinic Newsletters
cerrar
Cerrar publicidad
Cerrar publicidad

Opinión

18 de Abril de 2018

Martin Hilbert y el escándalo de Facebook: “Estamos atacando los síntomas, pero no la enfermedad”

En enero de 2017, Martin Hilbert (alemán, experto en big data y redes digitales, profesor en la Universidad de California) contó en una entrevista a The Clinic que Donald Trump, con la ayuda de la empresa británica Cambridge Analytica, utilizó en 2016 los datos de millones de usuarios de Facebook para bombardearlos con mensajes electorales adaptados a su perfil psicosocial. Sonaba escandaloso, pero el escándalo recién vino a estallar el 17 de marzo pasado, cuando The New York Times y The Guardian publicaron la noticia en el contexto de la “trama rusa”. Hilbert, sin embargo, cree que el ruido ambiente ha confundido a los políticos y a la prensa, desviando el foco de la discusión. Acá explica, en un castellano que acusa sus años en Chile como asesor de la Cepal, dónde están los puntos clave del debate, en qué se contradijo Mark Zuckerberg cuando habló en el Capitolio y por qué el gran desafío no es controlar a Putin ni a Trump, sino reinventar una democracia que fue diseñada para un mundo en que la información viajaba en caballo.

Daniel Hopenhayn
Daniel Hopenhayn
Por

Hace más de un año contaste acá la misma historia que ahora generó todo este lío. ¿Por qué se demoró tanto en explotar?
–Porque con la investigación de Robert Mueller, el Special Counsel que investiga la campaña de Trump, resultó que uno de los involucrados en la filtración de los datos es ruso, Aleksandr Kogan. Eso convirtió la historia en noticia, pero la verdad es que no hace ninguna diferencia. Es sólo un científico de Cambridge que estaba metido en este negocio, podría ser chileno o japonés y haber hecho lo mismo.

O sea, un detalle que da lo mismo convirtió en escándalo mundial algo que se sabía hace tiempo.
–Sí. Ahí ves cómo funciona la información –o la desinformación– sobre estos asuntos.

Y todo lo que ha pasado ahora, ¿está sirviendo de algo?
–Creo que se ha avanzado un poco, pero súper poco. Cuando Mark Zuckerberg fue al Congreso yo estaba en Capitol Hill, porque tengo un puesto en la Biblioteca del Congreso y mi oficina está al frente del Capitolio, así que desde mi ventana veía todo el circo. Y la verdad es que escuchar a los senadores me dio mucha vergüenza ajena. Es como cuando le explicas a tu mamá por quinta vez cómo funciona Twitter, ¿no? A ese nivel fue. Y tuve que explicarle a mucha gente aquí qué significa “vergüenza ajena”, porque ese concepto no existe en inglés. Un senador preguntó cómo era posible que usar Facebook fuera gratis, dónde estaba el negocio. Zuckerberg esperó diez segundos, porque no sabía qué contestar: “Senador… vendemos avisos comerciales”. “Ahhh…” Uno de los misterios que no se pudo resolver es si Mark Zuckerberg es una inteligencia artificial o no, porque el tipo estuvo ahí diez horas y no se le movió un músculo. ¡Es una máquina! No sabemos si esa paciencia es humana. Y bueno, quizás se aprendieron algunas cosas, pero en general la discusión sigue muy distorsionada.

¿Por qué?
–A Zuckerberg lo llevaron al Congreso por el asunto de Cambridge Analytica. Pero ese asunto debiera permanecer en las cortes, porque no es más que un posible robo de información. Este señor ruso dice que él pensó que podía compartir esos datos, Facebook dice que no tenía ese permiso y ese es un problema judicial, no político. Si tú tienes una verdulería, te van a robar manzanas. Y si tu negocio es la información, de vez en cuando te van a robar datos. El punto es otro: por más que Cambridge Analytica tenga 50 o 100 millones de perfiles, Facebook hace lo mismo todos los días con 2 mil millones de perfiles. “Oh, alguien trató de influenciar a los electores con comerciales” ¡Si Facebook lo hace todos los días, y hace mucho dinero con eso! Facebook y Google ya controlan el 25% del mercado publicitario mundial, y el 75% de la publicidad en línea. Son un oligopolio. ¿Y por qué? Porque tienen tantos datos que conocen a todo el mundo, entonces pueden ofrecer un servicio mucho más eficiente, segmentar al público ideal para cada comercial. Y las campañas electorales son clientes muy valiosos para ellos. Trump gastó 70 millones de dólares en avisos de Facebook.

Aparte de lo que hizo con Cambridge Analytica.
–Sí, te hablo de los servicios que contrató directamente a Facebook, aquí no hay nada ilegal. Y con eso puso 5,9 millones de avisos que Facebook le mostró al público indicado. ¿Por qué no nos enojamos por eso? En las elecciones de 2016, las distintas campañas gastaron en total 1400 millones de dólares en comerciales en plataformas sociales. Facebook fue muy proactivo, crearon un equipo especial y se acercaron a todos los candidatos a decirles “miren señores, tenemos todos los datos para ayudarlos a lavar cerebros”. La campaña de Clinton fue muy arrogante y dijo “no gracias, sabemos hacerlo mejor”. Pusieron sólo 66 mil avisos, cien veces menos que Trump. Y ya vimos el resultado.

Entonces, ¿cuál debería ser la discusión?
–Si nos parece correcto o no que una empresa privada, con mucha información personal, utilice esos datos para campañas políticas. Para la economía es muy útil que tengan tantos datos, optimiza la relación entre la oferta y la demanda. Hace mucho que yo no veo una publicidad de productos para el pelo, y eso tiene sentido. El big data también es muy útil para la educación, para la salud, puede salvar muchas vidas. Pero big data y democracia… ahí me preocupo. Y de hecho, la mayoría de los países democráticos regulan las campañas en otros medios de comunicación. En Chile no puedes pagar comerciales políticos de TV, y esa es una medida para cuidar la democracia. En otros países sí se puede, pero tienen un estatus distinto al de las publicidades con fines comerciales. En cambio, no tenemos ninguna regulación para estas plataformas, que se están convirtiendo en el principal canal de noticias y tienen un poder de manipulación muy superior. La penetración de Facebook en Chile es impresionante, mucho mayor que en el resto de América Latina. Entonces, si nos preocupan estas noticias sobre lavados de cerebro, hay que ir al grano: regular cómo se hace propaganda política en Facebook, Twitter, Youtube, etc.

¿Y los políticos en Estados Unidos no están viendo esa jugada o no se quieren meter ahí?
–Yo creo que la discusión se les fue por muchos lados, entonces todavía no saben bien qué hacer. Y sospecho que personas como Putin y Trump se sienten bastante cómodas con toda esta confusión, porque así estamos atacando el síntoma, pero no la enfermedad.

Hay gente poniendo likes a cosas que no le gustan para engañar al algoritmo y evitar la manipulación. ¿Crees que tiene sentido?
–No, porque el algoritmo ya está en condiciones de detectar que estás tratando de confundirlo, la huella digital es demasiado detallada. Hay bots que se dedican a crear estas confusiones, pero a ti no te va a resultar a menos que actúes todo el tiempo como otra persona, en cuyo caso, según la teoría psicológica de la comunicación, te vas a empezar a convertir en esa otra persona. Si te metes en la dinámica de Facebook, tienes que estar consciente de que estas allí, en su terreno.

MÍSTER ZUCKERBERG

Además de regular las campañas políticas, ¿qué otros aspectos de la discusión te han parecido los más importantes?
–Yo creo que hay dos asuntos adicionales que se han mezclado con el escándalo de las elecciones, y que son importantes pero van por carriles separados. Uno es la privacidad de los datos personales y otro el control de los contenidos. Ambos tienen que ver con el modelo de negocios de Facebook, y sobre ambos Zuckerberg cayó en algunas contradicciones la semana pasada.

Contemos…
–Sobre la privacidad, la gran discusión en el Congreso fue si Facebook, en las opciones de configuración marcadas por defecto, debe poner Opt-In u Opt-Out. Es decir, si tú tienes que decirles que por favor no te vigilen o si esa debe ser la opción por default, a menos que tú les digas “mejor vigílenme, porque quiero recibir comerciales que me sirvan”. Eso hace una gran diferencia, porque nadie cambia sus settings de default. ¿Pero qué dice Míster Zuckerberg? “Mira, mi negocio funciona con esto y yo puedo hacer mi default como quiera, si no te gusta, no lo uses. Y como soy buena onda, te doy la opción de hacer Opt-Out, lo que es muy generoso de mi parte porque te estoy dando un servicio gratis”. Hasta ahí le encuentro razón, es su plataforma privada y nadie te obliga a usarla. Pero hay un punto ciego, y en las diez horas de audiencia hubo sólo dos preguntas sobre esto: los shadows profiles, los “perfiles de sombra”, que son los de la gente que no tiene cuenta de Facebook. Tú sabes que la ambición de Zuckerberg fue tener un perfil de cada una de las 7.500 millones de personas que hay en el mundo, aunque sólo 2 mil millones estén en Facebook.

¿Y cómo consiguen eso?
–De varias maneras. Por ejemplo, con Facebook Píxel. Si tú tienes una empresa, puedes instalar en tu página web un píxel de Facebook, un pequeño cuadrado que tiene muchos códigos adentro y que al final funciona haciendo tracking, como un cookie. Ese píxel informa cuando alguien realiza una acción –comprar algo, por ejemplo– y deja instalado un cookie que después te sigue. Facebook lo hace para poder registrar lo que hace un cliente después de ver un anuncio, y a cambio le dice a la empresa qué tipo de persona visitó su página. Otro lugar donde te persiguen es tu celular.

¿Aunque no tenga cuenta de Facebook?
–Claro. Cuando un amigo de Juanito instala Facebook en su celular y los autoriza a buscar los contactos de su directorio, ahí agarran a Juanito. Le crean un perfil asociado a ese teléfono, y a medida que Juanito visita con su teléfono otras páginas que tienen sus datos asociados a Facebook, va creciendo el perfil de Juanito. Y Zuckerberg siempre te dice que tú eres el dueño de tus datos y que puedes hacer Opt-Out, pero si ni siquiera estás en Facebook, ¿cómo vas a hacer Opt-Out? Esa fue su gran contradicción. También te dice que puedes descargar todos los datos que tienen sobre ti, para que no te asustes. ¿Cómo los descargo si no tengo cuenta? Hay una página absurda de Facebook que se llama “No tengo una cuenta en Facebook pero quiero pedir acceso a todos mis datos personales guardados por Facebook”. Ahí te ofrecen un enlace que te lleva a otra página, y en esa otra página te dicen “para descargar tus datos, entra a tu cuenta de Facebook y haz lo siguiente…”. Es ridículo.

Yo descargué los datos de mi cuenta, y bajo el ítem “Anunciantes que subieron una lista de contactos con tu información” salían muchas empresas con las que nunca me vinculado a través de Facebook: mi AFP, el supermercado donde compro, incluso la Municipalidad de Santiago.
–Facebook está en todos lados, por eso te conoce. Las empresas comparten sus datos con ellos para que ellos te muestren sus avisos, y así sigue creciendo tu perfil. Por lo menos tú tienes cuenta y pudiste averiguar qué empresas les pasaron tus datos. El que no tiene cuenta, no puede saberlo.

Zuckerberg dijo en el Congreso que es un mito que vendan datos.
–Claro, técnicamente no los venden. Si tú vendes pelotas, ellos te dicen “nosotros sabemos a quién le gustan las pelotas, dame tu aviso y yo los ataco”. Y Google hace lo mismo. Pero los datos no los venden, porque esa es su salsa mágica. Y la verdad es que muchas compañías sí venden datos. Municipios en Alemania venden datos.

Tienes mucho contacto con la gente de Silicon Valley. ¿Qué están diciendo de todo esto? ¿Se ríen de los políticos o les preocupa arreglar estos problemas?
–En Silicon Valley son casi todos de izquierda, entonces no se oponen a que los regulen, aun cuando son los emprendedores más grandes del mundo. Zuckerberg ha dicho muchas veces que está abierto a la regulación y yo le creo. Pero la verdad es que es muy difícil regular. En Europa se hablado mucho del “derecho al olvido”, el derecho a borrar tus datos que han quedado en la red. ¿Pero cómo se implementa una ley así, si todo lo hacemos por internet? Es como pedirle a tu novia que se olvide de tus defectos: no es sostenible en el tiempo. Las dos preguntas que sí están preocupando en Silicon Valley son, primero, separar el uso comercial y el uso político de los datos, y segundo, definir qué tipo de empresas son estas plataformas. Y aquí entramos al problema del control de los contenidos.

Si Facebook tiene o no responsabilidad editorial…
–Exactamente. Zuckerberg es alérgico a la idea de que sean una empresa mediática, dice “nuestro negocio es la tecnología, no creamos contenidos”. Porque si acepta que es un medio de comunicación, le caerían encima otras leyes. Si alguien hace una apología del genocidio y tú la publicas, el dueño de The Clinic va a tener problemas, ¿no? ¿Entonces por qué Facebook puede publicarlo, si la mayoría de la gente se informa ahí? Y aquí Zuckerberg también se contradice, porque dice “no me conciernen los contenidos” y este año está empleando veinte mil personas que vigilan contenido.

¿Veinte mil?
–Sí. Un senador le mostró comerciales de drogas ilegales en Facebook y fue un poco vergonzoso para él, porque si tienes veinte mil personas… Él dice “mire, es que tenemos 100 mil millones de interacciones al día”. O sea, cada empleado tiene que vigilar cinco millones de interacciones diarias. Suena imposible, pero con inteligencia artificial [en adelante, IA] sí puedes hacerlo. Programar IA para que reconozca nombres de drogas ilegales no es nada sofisticado. Pero del otro lado, muchos republicanos lo acusaron de estar censurando contenido, porque han suspendido cuentas de fanáticos de Trump y cosas por el estilo. Y ahí sí tienen miedo en Silicon Valley, porque si pones una ley que diga que estas plataformas sociales son medios periodísticos, o que tienen que dividirse entre secciones tecnológicas y periodísticas, los flancos que se les abren son palabras mayores.

Zuckerberg dijo que en cinco o diez años, la IA ya podría ayudar a regular los discursos de odio.
–Lo dudo mucho. La IA hace muchas cosas mejor que nosotros, pero otras cosas son muy difíciles de definir. Ahora mismo en la universidad, con algunos de mis alumnos, estamos entrenando IA para detectar trolls. Pero es muy complejo, porque hay personas que son genuinamente racistas, que no lo hacen por joder. ¿Cómo diferencio entre opiniones absurdas, pero legítimas, y provocaciones que sólo buscan agredir? O en el caso de las fake news, ¿dónde pongo el corte entre una noticia absurda y una persona que simplemente tiene una opinión absurda, como ocurre muchas veces con el presidente de este país? ¿Acaso vamos a dejar que un sistema de IA censure al presidente de Estados Unidos? No le daría tantas atribuciones.

DEMOCRACIA DIGITAL

La intervención de los rusos en la elección de Trump dejó la sensación de que las instituciones ya no pueden defenderse de las tecnologías de la información. ¿Compartes ese temor?
–No demasiado, hay maneras de defenderse y se está invirtiendo mucho en eso. Hoy día, el mayor empleador de matemáticos en el mundo no es Silicon Valley, es la NSA (Agencia de Seguridad Nacional de EE.UU.). Y fue vergonzoso para ellos que esta pequeña fábrica de trolls de Putin hiciera tanto daño, pero quedarse pegado en eso es seguir atacando el síntoma. Lo que a mí me interesa más, para irme al futuro, es qué hacemos con la democracia representativa, que ha quedado muy rezagada con todo esto.

¿Rezagada respecto de qué?
–La democracia, desde el punto de vista operativo, consiste en comunicar y procesar información. Por eso siempre evolucionó con las tecnologías de la información. Pero nuestra democracia actual fue diseñada hace 200 años para un mundo en que la información viajaba en caballo. Entonces la gran pregunta, al menos para mí, no es cómo controlamos a los que ahora aprovechan de abusar, sino cómo creamos una democracia que realmente funcione en la era digital. Contratamos 40 mil matemáticos para asegurar la seguridad informacional de Estados Unidos. Empleamos decenas de miles de programadores en Silicon Valley para vender comerciales. Bueno, ¿por qué no ponemos las lucas sobre la mesa para crear una armada de programadores que desarrollen plataformas que procesen información, comunicación y big data para la democracia? Estoy convencido de que podrías crear la democracia más fantástica, la más transparente, la más inclusiva. Las redes neuronales de la IA son espectaculares para balancear heterogeneidad. Derecha-izquierda es sólo una dimensión, las redes neuronales funcionan en 800 dimensiones. Podríamos procesar las opiniones de la ciudadanía en 800 dimensiones distintas sin ningún problema.

¿Estás seguro de que funcionaría?
–Sería un proceso de ensayo y error, como siempre. Pero sí estoy seguro de que esto abriría un campo de posibilidades completamente nuevo para que la democracia, en lugar de ser la gran víctima de la fragmentación de las sociedades, pueda volver a ser el antídoto, la fuerza de cohesión.

Pero los problemas políticos no son puro procesamiento de información.
–Por supuesto, por eso te decía que hay cosas que la IA no entiende. Cuando personajes como Putin o Trump dicen mentiras, no son mentiras, son señales de poder. Cuando a Putin le preguntaron si había soldados rusos en Crimea, dijo “obvio que no, es una mentira, fake news”. Tres meses después dijo “claro que había soldados rusos, obviamente, si yo los mandé”. Y tres meses después, le preguntaron de nuevo en la OTAN: “Pero cómo se les ocurre, si ya les dije que no hace seis meses”. El algoritmo ve ahí una inconsistencia, pero Putin está siendo consistente con su objetivo: dejar claro que él manda en Crimea y no rinde cuentas a nadie. Y eso demuestra que la solución para ciertos problemas, como las noticias falsas o los trolls, no puede ser tecnológica. Pero la IA sí nos puede servir para renovar los mecanismos de la democracia, que están quedando obsoletos. Y si lo piensas bien, no es tan loco como parece…

¿Una democracia algorítmica?
–Desde la Revolución francesa, siempre hemos aspirado a quitarles el poder a individuos con voluntades arbitrarias, que decían “el Estado soy yo”, para dárselo a las leyes. Y las leyes son algoritmos. Así, en teoría, el Estado de Derecho perfecto es un Estado perfectamente algoritmificado… soy alemán, tengo permiso para inventar palabras largas y raras. La democracia representativa es la arquitectura de un sistema de información que sirve para detectar las voluntades de los individuos y convertirlas, a través de leyes, en la voluntad popular. Y las tecnologías de la información son perfectas para ambas funciones, detectar y crear. Son más precisas que cualquier cerebro humano y, además, no tienen prejuicios.

Para dejarlo claro, ¿estás proponiendo que las máquinas nos gobiernen?
–Que los algoritmos sean la base para procesar información democrática. Hoy día esto suena impensable porque esos algoritmos democráticos no existen, hay que crearlos. Pero te insisto: si ya estamos de acuerdo en que el imperio de la ley es mejor que el imperio del emperador, al desarrollar estos sistemas no haríamos más que continuar esa trayectoria. El genio ya salió de la botella. En vez de asustarnos por los problemas que van a surgir en el camino, tenemos que ir para adelante nomás, no nos queda otra. Obviamente, si a eso no le agregamos educación, criterios de responsabilidad, una sociedad que exija a sus líderes estándares que no puede exigir una ley, tampoco nos va a servir la tecnología. Pero eso siempre ha sido así. Y en cuanto a las redes sociales, creo que toda la sociedad debería reflexionar un poco más sobre el dominio del comercio en el entorno comunicacional que estamos creando. Originalmente fue una ambición casi socialista la que llevó a Silicon Valley a crear servicios gratuitos para todo el mundo. Pero al final, para hacerlo factible, crearon la máquina capitalista más controladora que jamás hayamos visto en la historia. El resultado fue que cada comunicación entre tú y yo está intermediada por intereses comerciales feroces. Hay que repensar si no era mejor cuando pagábamos por el teléfono fijo, pero con la garantía que nadie distorsione nuestra comunicación con fines comerciales.

Martin Hilbert dictará una charla y un workshop gratuitos en “ExpoChiletec Transformación Digital 2018: Inteligencia Artificial y Big Data”, el 12 de junio en el Hotel W. Información e inscripciones acá:

https://snafflz.com/event/ExpoChiletec

Martin Hilbert, experto en redes digitales: “Obama y Trump usaron el Big Data para lavar cerebros” – The Clinic Online

Lo conocen en la academia de las TICs por haber creado el primer estudio que estimó cuánta información hay en el mundo, cifras que acá comenta en un castellano aliñado con modismos chilenos, tecnicismos gringos y erres alemanas. Martin Hilbert (39), Doctor en Ciencias Sociales y PhD en Comunicación, es alemán, pero vivió largos años en Chile como funcionario de la Cepal.

Notas relacionadas