Números y algoritmos al servicio de la sociedad

Tasas de mortalidad, índices de prevalencia o modelos de predicción de fallecimientos por la COVID-19 son algunos de los indicadores numéricos que se han integrado en nuestro día a día durante la pandemia. Se trata de una muestra más de la importancia que hoy se da a los números, una tendencia que vemos en ámbitos como las finanzas y la economía, los ránquines universitarios o los algoritmos que dirigen las búsquedas en línea. Un miembro del grupo de investigación Open Evidence de la Universitat Oberta de Catalunya (UOC) forma parte de un grupo de investigadores internacionales que piden que se impulse una ética de la cuantificación para que se investigue sobre la producción y el uso responsable de los números, tanto los tangibles como los invisibles en los que se basan los algoritmos. Con este objetivo, los autores proponen también la creación de un observatorio que ayude a entender mejor esta realidad y a controlar los riesgos asociados al uso inadecuado de números, algoritmos y modelos matemáticos.

«Vivimos en un mundo que está estructurado significativamente por los números, en el que estos transmiten la verdad y construyen nuestra realidad. Las cifras están tan profundamente arraigadas en nuestra existencia que ya apenas reflexionamos críticamente sobre ellas. Pedir que volvamos a una sociedad sin números es poco realista, pero es necesaria, y es posible, una defensa contra su exceso», explicó Andrea Saltelli, primer autor de un documento de trabajo elaborado por un grupo de expertos de las universidades de York (Reino Unido), Leiden (Países Bajos), Sussex (Reino Unido) y Essex (Reino Unido), y publicado por el UCL Institute for Innovation and Public Purpose.

Nuevos patrones de «normalidad»

La exposición a diferentes formas de cuantificación en nuestro día a día ha aumentado con el desarrollo de la tecnología y la alfabetización digital. Ello implica que el potencial de generar un impacto negativo también se ha multiplicado: un análisis estadístico mal diseñado, por ejemplo, para evaluar tratamientos médicos puede costar vidas y la pérdida de millones de euros; utilizar un algoritmo sesgado puede provocar desigualdad, como sucedió con el programa de predicción de delitos de la policía de Chicago, que afectaba más a los barrios más pobres; un modelo predictivo deficiente también puede llevar a decisiones políticas erróneas o simplemente injustificadas.

Estas son solo algunas de las consecuencias de implementar modelos y algoritmos erróneos o éticamente cuestionables. Pero, según los investigadores, las implicaciones de adoptar acríticamente esta tecnología pueden llevar incluso a una nueva manera de entender qué está bien y qué está mal, así como a nuevos estándares de lo que es normal o aceptable: «Ahora nos parece normal que después de visitar una zapatería en línea recibamos publicidad de zapatos durante semanas. De la misma manera, una vez que aceptamos que las universidades se miden por ránquines internacionales, todas las instituciones comenzarán a estudiar cómo pueden impulsar las variables medidas por estos ránquines, con efectos desastrosos sobre el coste y la naturaleza de la educación superior», lamentó Andrea Saltelli.

El acceso desigual a cifras y cálculos en los que se basan los modelos y algoritmos es otro aspecto que los autores destacan. Actualmente, gobiernos poderosos y grandes empresas tienen acceso a todo tipo de números sobre la población en general, mientras que a esta se le niega el acceso a los números que podrían orientar con precisión las decisiones gubernamentales o guiar el comportamiento corporativo. «Tanto el acceso a los números que importan como la capacidad para usarlos bien o usarlos mal reflejan y refuerzan los desequilibrios de poder en la sociedad y la economía», argumentó Saltelli.

El «humilde» ejemplo de los modelos meteorológicos

La otra cara de la moneda son los modelos de previsión meteorológica, a los que se refieren los investigadores como ejemplos, ya que estos hacen predicciones útiles, a corto plazo, constantemente actualizadas con información nueva, mientras que la incertidumbre se comunica con sumo cuidado. «A pesar de su enorme tamaño y de la gran cantidad de datos utilizados, las predicciones de estos modelos son humildes; por ejemplo, avisan de que hay un 20 % de probabilidades de lluvia. Aun así, la gente confía en ellos y acepta que la información que ofrecen puede que no sea del todo precisa», resalta el investigador.

En este sentido, los autores destacan la importancia de adoptar lo que llaman «tecnologías humildes», lo que implica tener en cuenta las fuentes de ambigüedad, la indeterminación y la complejidad para resaltar las dimensiones éticas de los problemas e identificar ganadores y perdedores en la distribución de costes y beneficios, teniendo en cuenta también a las personas más vulnerables.

Un observatorio para mejorar la vida de las personas

Ante esta situación, los investigadores proponen la creación de un observatorio que actúe como mediador entre ciencia y sociedad en los diversos ámbitos que informan al público mediante números, como salud pública, tecnología y economía. Según los investigadores, «la idea sería seleccionar casos concretos en los que se haya demostrado que los números son incorrectos o se han utilizado incorrectamente, y mostrarlos para que los ciudadanos sean conscientes de estas cuestiones y así ayudarles a ser más precavidos, pero sin que pierdan toda la fe en los números».

En concreto, los expertos subrayan que este observatorio sería muy importante para crear un vínculo sumamente necesario entre el mundo de la ciencia y el de la política, en primer lugar, transmitiendo las «limitaciones inherentes a los datos científicos» a quienes tienen que tomar decisiones basadas en ellos, y, en segundo lugar, canalizando los datos que sean significativos y que se puedan utilizar de manera segura en el debate público.

Además de esta propuesta, los autores también han llevado a cabo otras iniciativas como un seminario sobre la ética de la cuantificación, en el que han participado los expertos Wendy Espeland y Andy Stirling, organizado por la Universidad de Leiden y al que asistieron más de 160 personas.

Artículo relacionado

Saltelli, A.; Andreoni, A.; Drechsler W.; Ghosh, J.; Kattel, R.; Kvangraven, I. H.; Rafols, I.; Reinert, E. S.; Stirling, A.; Xu, T. (2021). Why ethics of quantification is needed now. UCL Institute for Innovation and Public Purpose, Working Paper Series (IIPP WP 2021/05). Disponible en <https://www.ucl.ac.uk/bartlett/public-purpose/wp2021-05>

UOC R&I

La investigación e innovación (I+i) de la UOC contribuye a solucionar los retos a los que se enfrentan las sociedades globales del siglo xxi mediante el estudio de la interacción de la tecnología y las ciencias humanas y sociales, con un foco específico en la sociedad red, el aprendizaje en línea y la salud digital.

Los más de 500 investigadores y 51 grupos de investigación se articulan en torno a los siete estudios de la UOC y dos centros de investigación: el Internet Interdisciplinary Institute (IN3) y el eHealth Center (eHC).

Los objetivos de la Agenda 2030 de desarrollo sostenible de las Naciones Unidas y el conocimiento abierto son ejes estratégicos de la docencia, la investigación y la innovación de la UOC.

Más información: research.uoc.edu. #25añosUOC