Ética de la tecnología: cuando el algoritmo decide por ti
Ensayo breve · Sección Pregunta incómoda · Lectura de diez minutos
Cada vez más decisiones pequeñas pasan por sistemas automáticos: qué noticia ves primero, qué ruta toma el transporte, qué candidato avanza en un filtro. La ética de la tecnología no se ocupa solo de casos extremos, sino de esa capa diaria que casi no notamos. En este ensayo revisamos tres escenarios concretos y las preguntas que abren: quién responde por un error, qué datos se usaron para entrenar el sistema y qué margen queda para disentir. No hay respuestas cerradas, pero sí criterios útiles para discutir en el trabajo, en casa o en el aula.
Hay una escena que se repite en cualquier oficina de Lima un martes por la mañana. Alguien abre el correo, el sistema ya ordenó los mensajes por «importancia», y esa clasificación invisible decide qué se lee primero y qué se posterga hasta el viernes. Nadie eligió ese orden. Nadie sabe con qué criterio se armó. Y sin embargo, la jornada entera se organiza alrededor de esa lista que alguien más programó.
Ese es el terreno donde trabaja la ética de la tecnología: no los titulares sobre robots que reemplazan humanos, sino las decisiones mínimas que delegamos sin darnos cuenta. Tres escenarios concretos ayudan a mirarlo de frente.
Escenario uno: el filtro que ordena candidatos
Un sistema revisa currículums y descarta perfiles antes de que un reclutador los vea. La pregunta no es si el sistema es preciso, sino qué datos aprendió a valorar. Si el historial de contrataciones anteriores tenía un sesgo, el filtro lo hereda y lo repite con más velocidad de la que cualquier persona podría revisar. Quien responde por ese error no es el algoritmo: es quien decidió entrenarlo así y quien decidió confiar en él sin auditar.
Escenario dos: la ruta que elige el transporte
Una aplicación decide el camino más eficiente para decenas de vehículos a la vez. La eficiencia se mide en minutos, pero también en qué calles se saturan y qué barrios quedan fuera del mapa. El criterio humano que desaparece aquí es la noción de bien común: el sistema optimiza lo que se le pidió optimizar, aunque eso signifique cargar todo el tráfico sobre las mismas cuadras.
Escenario tres: el muro de recomendaciones
Lo que aparece en tu pantalla al abrir una red social no es lo que tus contactos publicaron en orden cronológico. Es una selección hecha para retenerte. La pregunta incómoda es sencilla: si el sistema aprende de lo que mirás, ¿está mostrándote el mundo o un reflejo cada vez más estrecho de tus propios hábitos? Y si te muestra solo eso, ¿qué margen real tenés para disentir de lo que ya pensabas?
Los tres escenarios comparten una estructura: alguien define un objetivo, un sistema lo persigue sin pausa, y las consecuencias aparecen en la vida cotidiana de personas que nunca fueron consultadas. La discusión ética no busca demonizar la automatización. Busca algo más modesto y más difícil: preguntar quién decide, con qué datos, y qué pasa cuando el resultado no nos gusta.
En la próxima edición del club de lectura vamos a trabajar este ensayo junto con una serie sobre oficinas contemporáneas que sirve de excusa perfecta para conversar sobre descanso, criterio y trabajo. Si querés sumarte a esa conversación, escribinos por el formulario de contacto y te contamos cómo funciona el encuentro.