The deviations of algorithms in everyday use

Authors

  • Agda Carvalho
  • Helena Hernández-Acuaviva

DOI:

https://doi.org/10.29147/datjournal.v8i3.761

Keywords:

Algorithms, Artificial intelligence, Machine translation, SciArt installation

Abstract

In our daily lives we live with rapid audio and image responses that are inaccurate, incorrect, imperfect and unreliable. Here we look at the situations that operate in contemporary unpredictability with the biases given to automated translations by Artificial Intelligence, especially with regard to gender. This discussion results in the work “Sesgos y traducción automática” (2023), an artistic project developed by artists Helena Hernández Acuaviva and Agda Carvalho, which is part of the ASTER Research Project (University of Seville). Its aim is to show the gender biases that exist in automatic translations and image and sound manipulation. This reflection focuses on the interference of algorithms in our daily decisions, since they inhabit the networks and help us access diverse information.

Downloads

Download data is not yet available.

Author Biographies

Agda Carvalho

Artista Visual. Pós Doutora em Humanidades Digitais no Media Lab – UFG. Pós-Doutora em Artes - UNESP. Doutora em Ciências da Comunicação - Escola de Comunicações e Artes - USP. Mestre em Artes Visuais - Instituto de Artes da UNESP. Docente e pesquisadora no Instituto Mauá de Tecnologia. Líder do Grupo de Pesquisa LabDesign: processos criativos, experiência e inovação. Membro Institucional da Red de Investigadores en Diseño - Rede latino-americana coordenada pela Universidad de Palermo - Argentina. Integra o Grupo de Pesquisa GIIP (UNESP). Representante do Media Lab/ Mauá que integra o Media Lab/BR. Pesquisa o Design/Arte, Corpo/vestir e Design/corpo/tecnologia. Exposições Nacionais e Internacionais.

Helena Hernández-Acuaviva

Graduada em Belas Artes (US, Espanha), com mestrado em Arte (US) e mestrado em Design (UDIMA). Atualmente é doutoranda em Arte e Patrimônio e pesquisadora de pré-doutorado em treinamento (PIF) na US. Foi pesquisadora contratada nos US associada ao projeto de I+D+i “Aster: Promoting Art-Science-Technology-Engineering Research By Using Collaborative Methodologies And Tools”. Integra o Grupo de Pesquisa “Graphics and Digital Creation” (HUM822) e o GIIP (UNESP). Obteve a bolsa “Mobilidade entre Universidades Andaluzas e Iberoamericanas 2023” para uma estadia de pesquisa na UNESP e recebeu uma bolsa para um Estágio de Pesquisa no Instituto Mauá de Tecnologia (Brasil).

References

ALON-BARKAT, S, BUSUIOC, M. Human–AI Interactions in Public Sector Decision Making: “Automation Bias” and “Selective Adherence” to Algorithmic Advice. Journal of Public Administration Research and Theory, nº 33, p. 153–169, 2023. (https://doi.org/10.1093/jo- part/muac007) DOI: https://doi.org/10.1093/jopart/muac007

ALONSO, C. Que Google y Microsoft eliminen el sesgo de género en los traductores Inglés/ Español. In: Change.org, 2021. (https://www.change.org/p/microsoft-que-google-y-micro- soft-eliminen-el-sesgo-de-g%C3%A9nero-en-los-traductores-ingl%C3%A9s-espa%C3%B1ol)

BLOCK, K. La traducción con Inteligencia Artificial: el futuro aún presenta sesgo de gé- nero. In: Think Big Telefónica, 2020. (https://blogthinkbig.com/sesgo-de-genero-traduc- cion-ia/n)

CERTEAU, M. A invenção do cotidiano – artes do fazer. Rio de Janeiro: Vozes, 2013. DATABRICKS. Automation Bias. Databriks All, 2023.

EUROPEAN COMMISSION. HUMAINT: Human behaviour and machine intelligence. In: AI Watch HUMAINT, 2023. (https://ai-watch.ec.europa.eu/humaint_en)

PROYECTO DE INVESTIGACIÓN ASTER. Catálogo exposición ASTER > ARTE ^ CIENCIA. In:

Aster, 2023. (https://aster.us.es/wp-content/uploads/2023/08/CATALOGO-ASTER-APARE- JADORES.pdf)

MALDONADO, C. E. La complejidad humana consiste en un entramado de tiempos. Cinta De Moebio. Revista De Epistemología De Ciencias Sociales, nº 73, p. 14–23, mar. 2022. (ht- tps://cintademoebio.uchile.cl/index.php/CDM/article/view/66683) DOI: https://doi.org/10.4067/s0717-554x2022000100014

SADIN, E. La inteligencia artificial o el desafío del siglo: anatomía de un antihumanismo

radical. Ciudad Autónoma de Buenos Aires: Caja Negra, 2020.

SARAMAGO, L. A topologia do ser: lugar, espaço e linguagem no pensamento de Martin Heidegger. São Paulo: Loyola, 2008.

UN INFORMÁTICO EN EL LADO DEL MAL. La gestión del sesgo de género en los traductores de Microsoft y Google: Los responsables nacionales y los Cloud Solutions Architect (CSA) son hombres. In: BLOG PERSONAL DE CHEMA ALONSO SOBRE SUS COSAS, 2020. (https://

www.elladodelmal.com/2020/12/la-gestion-del-sesgo-de-genero-en-los.html).

Published

2023-09-25

How to Cite

Carvalho, A., & Hernández-Acuaviva, H. (2023). The deviations of algorithms in everyday use. DAT Journal, 8(3), 132–142. https://doi.org/10.29147/datjournal.v8i3.761

Issue

Section

4 RETiiNA + 4 Design, Arte e Tecnologia