Esta semana, en Rayuela, Algoritmos e inteligencia artificial. Durante la pandemia, la utilización de Internet, y específicamente de las redes sociales, creció exponencialmente. ¿Cuál es el impacto de sus algoritmos en la economía, la política, el arte y otros ámbitos de nuestra vida? ¿Cuáles son los desafíos éticos que afrontamos individual y socialmente?

En la actualidad, 4.600millones de personas se conectan todos los días a Internet, lo que representa un 60% de la población mundial. A su vez, un estudio hecho por Algorithm Watch, una organización surgida en Alemania que se dedica a vigilar el comportamiento de estas formas de inteligencia artificial, llegó a la conclusión que el algoritmo de Instagram está favoreciendo las fotos en las que se muestran cuerpos semidesnudos: la foto de una mujer atractiva en bikini, por ejemplo, va a tener un 54% más chances de aparecer en el feed de la gente, y fotos de hombres sin remera, un 28% más de chances.

Para analizar los desafíos desafíos de la IA desde diferentes perspectivas, entrevistamos a María Julia Díaz Ardaya, líder de políticas públicas de Facebook en Sudamérica,  para hablar sobre el enfoque que utiliza el gigante de las redes sociales para decidir qué es permitido y qué no a nivel de contenidos. ¿Cómo se complementa el trabajo que producen los algoritmos con los equipos humanos que tiene Facebook en todo el mundo?

Además, Ana Harff, fotógrafa brasileña, que vive hace 10 años en Argentina, y que hizo de los desnudos su marca estilística suma su experiencia en redes. ¿Cómo se hace para ser artista y trabajar con el cuerpo en las redes sociales? Para conocer más sobre esta cuestión, escucharemos los testimonios de dos modelos y activistas gordas quienes nos contarán sus experiencias.

MARÍA JULIA DÍAZ ARDAYA DIXIT

Filosofía de Facebook respecto a esta temática
«Las apps de Facebook son un espacio de intercambio para una comunidad global de más de 3500 millones de personas. El balance entre dar voz a todos ellos que participan de las plataformas y al mismo tiempo crear un espacio que proteja su seguridad no es algo estanco, sino un trabajo diario que involucra múltiples equipos de personas que trabajan para moderar esos contenidos. También políticas internas comunitarias y tecnologías y sistemas que sean efectivos en ese abordaje. Y, por último, está el trabajo constante de formación de ciudadanía digital que es el corazón del modo en que las sociedades dialogan y se expresan».

Algoritmos
«Hay que distinguir entre los algoritmos y las normas comunitarias. Nosotros nos apoyamos en normas comunitarias que son de aplicación global y describen qué se permite y qué no en las plataformas. Sus principios están basados en estándares internacionales de derechos humanos»

«En Facebook hacemos cumplir estas normas de dos formas: con una combinación de aprendizaje automático, el Machine Learning, y de revisión humana. Una de las cosas más interesantes para trabajar en cuanto a la moderación de contenidos es que uno de los objetivos principales que tiene Facebook en lo que respecta a la IA es implementar una tecnología que sea innovadora que proteja a las personas del contenido dañino.»

«Miles de millones de usuarios que usan nuestras plataformas requieren que confiemos en la IA y para tratar de automatizar estas decisiones siempre que sea posible.»

«Hoy en día, la IA ya detecta de forma proactiva el 97.6 del lenguaje que incita al odio y que eliminamos de Facebook. Esto se complementa con el reporte de los usuarios. Nuestra prioridad siempre es preservar la capacidad de las personas de expresarse libremente. Tenemos gente en todo el mundo que está capacitada para abordar estas problemáticas y agregarle la mirada humana a esta revisión de contenidos. Nosotros creamos instancias en las que la misma tecnología envía esos contenidos a revisiones humanas. Queremos preservar la libertad de expresión.»

«El balance entre dar voz a todas las plataformas y al mismo tiempo crear un ambiente que proteja su seguridad es parte de un trabajo diario en donde estamos aprendiendo y escuchando para ir mejorando, tanto en el plano tecnológico como desde el punto de vista de esos equipos y más de 15mil revisores que hay en distintos lugares del mundo.»

Alfabetización digital
«Tiene que ver con el hecho de cómo podemos aportar una mirada de concientización sobre el uso de la tecnología. Ciudadanía digital es una perspectiva integral porque lo que queremos es fomentar una convivencia digital empática e informada».

ANA HARFF DIXIT

Ser artista y trabajar con el cuerpo en las redes
«Fue un divisor de aguas en lo que es hoy mi trabajo con fotografía. Subtitular películas pornográficas fue lo que me hizo tomar ese impulso de conocer el cuerpo desnudo, en especial el de la mujer a través de otras miradas. No solo vinculado con lo erótico y/o pornográfico. El cuerpo tiene muchos más mensajes que pasar»

Encuentros con equipos de Facebook
«Discutimos puntualmente la cuestión de la censura, el cuerpo gordo y un poco cómo los algoritmos piensan y hacen el reconocimiento de material. En la discusión de qué es lo que queda  y qué lo que sale entran muchas cosas».

«El algoritmo trabaja para saber cuál es el cuerpo que se puede publicar y cuál no. Y cuando nos juntamos con Facebook y le mostramos ejemplos de contenido que fue dado de baja y contenido que en teoría viola las reglas pero aún permanece en las plataformas ellos dijeron que el algoritmo está en constante aprendizaje y que comete muchas fallas. El problema es que esto se ve en personas que hacen contenido desde un lado de disidencias».

«Después de tantos años de tener material dado de baja lamentablemente me acostumbré pero otras personas sufren un montón con estas decisiones. Muchas personas, que dependen de las redes sociales no solo para publicitar su trabajo sino también viven de esto, perdieron sus cuentas. Es muy injusto porque no discutimos si existen las reglas o no, sino que no hay una línea clara en lo que queda y lo que sale».