Project

We created Big Sister to test and explore how algorithmic recommendations work. Like other recommendation systems, this app analyses participants’ Facebook or Twitter accounts or texts that they have written tomake inferences about their personality, generating recommendations for songs that they might like. Its goal is to make profiling and recommendation systems more transparent, giving participants insight into how identity is shaped and staged in a world that’s increasingly mediated by opaque digital technologies.

Big Sister has been produced through a collaboration by an interdisciplinary team of researchers from Pontificia Universidad Católica de Chile and the University of Warwick under the auspices of the “Algorithmic Identities: Issues and reactions to digital data collection and algorithmic inferences in everyday life” project.

Drawing on expertise from the fields of computer science, design, and sociology, we have conceived Big Sister as a “prototype”: an app that not only allows us to test how these algorithmic systems work, but also to produce knowledge about the practices of profiling and recommendation in the process of trying them out. Our aim is to test recommendation: to understand how it works and to understand how it’s understood by people as it mediates our increasingly-algorithmic identities.

“Algorithmic Identities” is being conducted under the auspices of the Fondecyt project N°1180062: “Datafication of urban environments and individuals: an analysis of the designs, practices and discourses of the production and management of digital data in Chile”, and People Like You: Contemporary Figures of Personalisation, funded by a Collaborative Award in the Medical Humanities and Social Sciences from the Wellcome Trust Foundation 2018–2022 (205456/Z/16/Z). It has also been funded by the “Interdisciplinary Research 2018 Funding” from the Vice-Rectory for Research (VRI) of the Pontificia Universidad Católica de Chile.

Proyecto

Los sistemas de perfilamiento y recomendación algorítmica son una parte fundamental en los servicios online que usamos cotidianamente. Nos suelen informar de lo que otras personas como nosotros compran por Internet, o a sugerir personas similares a nosotros que podríamos conocer en redes sociales, o a recomendar canciones, libros, películas o programas de televisión que otras personas como nosotros han disfrutado.A veces, estos sistemas de perfilamiento y recomendación algorítmica pueden ser sorpresivamente muy certeros, logrando “aprender” de nuestros gustos. A veces, pueden fallar de manera graciosa y no hacer sentido alguno, llegando a inferir conclusiones extrañas o incluso cómicas sobre quiénes somos a partir de lo que hacemos online. A veces estos sistemas algorítmicos parecen conocernos demasiado bien, mientras que otras veces parecen fallar completamente.

Big Sister es una app diseñada para explorar la relación entre nuestras identidades y los múltiples sistemas de perfilamiento y recomendación algorítmica que invaden nuestra vida cotidiana. A través del análisis de las cuentas en Facebook o Twitter o textos escritos por participantes voluntarios, la app hace inferencias sobre la personalidad para generar recomendaciones de canciones que les podrían gustar. En el proceso, hace más transparente a estos sistemas de perfilamiento y recomendación algorítmica, dando a los participantes una mejor comprensión sobre cómo la identidad es moldeada y puesta en escena en un mundo crecientemente mediado por tecnologías digitales opacas.

Big Sister fue desarrollada gracias a la colaboración de un equipo interdisciplinario de investigadores de la Pontificia Universidad Católica de Chile y de la Universidad de Warwick, bajo el proyecto “Identidades Algorítmicas: temas y reacciones a la recopilación de datos digitales e inferencias algorítmicas en la vida cotidiana”.

Recogiendo elementos de los campos de la informática, el diseño y la sociología, hemos concebido Big Sister como un “prototipo”: una aplicación que no sólo nos permite probar cómo funcionan estos sistemas algorítmicos, sino también producir conocimientos sobre las prácticas de elaboración de perfiles y recomendaciones en el proceso de probarlos. Nuestro objetivo es testear la recomendación: tanto para entender mejor cómo funciona como para entender cómo es comprendida por las personas al mediar nuestras identidades cada vez más algorítmicas.

El proyecto “Identidades algorítmicas” es llevado a cabo bajo los auspicios del proyecto Fondecyt N°1180062: “Dataficación de entornos urbanos e individuos: un análisis de los diseños, prácticas y discursos de la producción y gestión de datos digitales en Chile”, y el proyecto People Like You: Contemporary Figures of Personalisation, financiado por un Premio de Colaboración en las Humanidades Médicas y las Ciencias Sociales de la Fundación Wellcome Trust 2018-2022 (205456/Z/16/Z). También ha sido financiado por el “Fondo de Investigación Interdisciplinaria 2018” de la Vicerrectoría de Investigación (VRI) de la Pontificia Universidad Católica de Chile.