Cuando detrás de la información y de los datos hay una persona
Vivimos rodeados de datos. Cada búsqueda, cada mensaje, cada interacción en una plataforma deja un rastro. La minería de datos es la disciplina que busca patrones útiles en esa enorme cantidad de rastros. Bien usada puede salvar vidas, prevenir crisis y personalizar la ayuda. Mal usada puede reducir a las personas a números, manipular su vulnerabilidad y quebrar la confianza.
Para las comunidades de fe, el debate no es si vamos a usar herramientas que utilizan Inteligencia Artificial. Ya las estamos usando porque forma parte de nuestro entorno cotidiano, la utilizamos por el hecho de tener un teléfono inteligente; por utilizar plataformas de streaming de películas y series; porque en todos los entornos automatizados de salud, seguridad, educación, administrativos ya está instalado su uso. El debate hoy en día es cómo usarlas.
1. Qué es y por qué importa para las comunidades de fe
La minería de datos no inventa información. Revela lo que ya existe buscando patrones en los datos, atando cabos y ordenando la información que está suelta y que no parece importante hasta unirla. Es la diferencia entre tener una biblioteca desordenada y tener un listado organizado de los libros por temas y autores.
Para una organización basada en la fe, esto tiene un potencial enorme y legítimo:
- Comprender mejor las necesidades reales del entorno particular y el contexto social.
- Hacer más accesible un mensaje a personas con discapacidad, traduciendo o subtitulando automáticamente.
- Detectar patrones de soledad, deserción o vulnerabilidad social a tiempo.
El problema aparece cuando olvidamos que detrás de cada dato hay un portador de la imagen de Dios. La información y el manejo para un beneficio común es muy importante, pero recordemos que detrás hay personas, a quienes nos debemos como administradores y mayordomos dentro de la comunidad de Fe.
2. Los tres riesgos éticos que no podemos ignorar
Si usamos la técnica separada de la ética, es decir, utilizamos las herramientas sin detenernos en el uso responsable y correcto, la minería de datos de la IA presenta tres aspectos negativos muy claros:
a) De la confidencialidad a la exposición.
El modelo de negocio de la mayoría de las plataformas de IA gratuitas es entrenarse con lo que le damos, usan libremente todos los datos que le proporcionamos para potenciarse. Cuando una persona comparte su dolor más íntimo en un formulario, en un pedido de oración o en una conversación de acompañamiento, y ese texto se pega en un modelo público para "resumirlo" o "analizarlo" (ChatGPT, Gemini, Grok, Claude, etcétera), estamos convirtiendo un acto de confianza en materia prima para aplicaciones abiertas y públicas. El daño no es técnico, es relacional. Se rompe la confianza.
b) De la persona al perfil.
Para la teología cristiana es central el concepto de Imago Dei: cada ser humano tiene una dignidad inalienable que no puede ser cuantificada porque fue creado a la imagen de Dios. La minería de datos hace lo contrario por naturaleza: clasifica, etiqueta y predice. Nos dice "este grupo es propenso a...". El riesgo es que empezamos a tratar a las personas como perfiles de redes sociales de forma impersonal, porque el algoritmo nos lleva a ese extremo. Por otro lado también corremos el riesgo de humanizar al algoritmo como si tuviera empatía, cayendo en el Efecto Eliza (1). Debemos contrarrestar esta contradicción y dejar de humanizar al código o cosificar a nuestros contemporáneos.
c) De la verdad a la discriminación automatizada.
Los algoritmos aprenden del pasado. Los datos del pasado contienen prejuicios - de género, de edad, de clase, de origen étnico, y la IA no los corrige sino que los amplifica y los presenta como una verdad objetiva y neutral. La minería de datos sin justicia no es neutral, porque se trata de una "máquina que se encarga de perpetuar inequidades disfrazadas. Además, la mayoría de estos sistemas son cajas negras (2): no pueden explicar por qué llegaron a esa conclusión, lo que destruye el principio bíblico de rendir cuentas.
3. Una propuesta de ética para la gestión inteligente de la información
Tomando como base el diálogo global sobre ética de la IA, el marco de los cinco principios de Floridi y el equipo de Al4People (3): beneficencia, no maleficencia, autonomía, justicia y explicabilidad; podemos proponer una relectura desde la cosmovisión cristiana para cualquier comunidad de fe.
No es un reglamento, es una brújula de discernimiento.
1. Principio de Mayordomía Beneficente
La pregunta no es "¿podemos hacerlo?", sino "¿edifica?". La tecnología adquiere valor cuando sirve al bien común. Toda herramienta de minería de datos debería pasar este filtro: ¿promueve la verdad, la edificación y el servicio desinteresado? La eficiencia nunca puede estar por encima de la gracia comunicativa.
"Ninguna palabra corrompida salga de vuestra boca, sino la que sea buena para la necesaria edificación"
— Efesios 4:29
2. Principio de No Maleficencia y Resguardo
Proteger la información sensible es un acto de integridad. La gestión inteligente implica protocolos claros: lo íntimo nunca se sube a modelos públicos o de terceros. Resguardar el dolor ajeno de la minería de datos comercial no es paranoia tecnológica, es cuidado pastoral. La confidencialidad es la base de la confianza.
"El que anda en chismes descubre el secreto; Mas el de espíritu fiel lo guarda todo"
— Proverbios 11:13
"Trata tu causa con tu compañero, Y no descubras el secreto a otro."
— Proverbios 25:9
3. Principio de Dignidad sobre el Dato
La persona siempre está por encima del patrón. Una comunidad de fe debe negarse activamente a reducir a sus miembros a métricas. Los datos pueden informar una decisión, pero nunca definir el valor de una persona. El algoritmo simula mente, pero solo el ser humano porta eternidad. Aunque parezco obvio no lo es tanto: recordemos que detrás de los datos por una persona está la persona.
"Y creó Dios al hombre a su imagen, a imagen de Dios lo creó; varón y hembra los creó."
— Génesis 1:27
4. Principio de Autonomía y Discernimiento Humano
La IA puede sugerir, pero el ser humano debe discernir. Delegar el juicio moral a un sistema automatizado es abdicar y renunciar a la responsabilidad que Dios nos confió. Todo proceso que use minería de datos debe mantener al humano en el ciclo (human-in-the-loop) (4), con supervisión, revisión y capacidad de decir "no", si es necesario, al resultado de la máquina.
"Examinadlo todo; retened lo bueno"
— 1 Tesalonicenses 5:21
5. Principio de Transparencia y Justicia
Si usamos una herramienta que analiza datos, debemos poder explicarlo. La transparencia es el antídoto contra la manipulación. Y debemos auditar activamente los sesgos: ¿esta herramienta excluye a los mayores? ¿a los que tienen menos acceso digital? ¿Refuerza estereotipos? Donde el código margina, la comunidad de fe está llamada a restaurar la equidad.
"Porque para con Dios no hay acepción de personas."
— Romanos 2:11
El código pasa, la persona permanece
La minería de datos no es buena ni mala en sí misma. Es una herramienta poderosa de nuestra época. El desafío para el cristianismo no es refugiarse en la tecnofobia ni abrazar sin crítica la tecnolatría. Es ejercer mayordomía.
Mayordomía es entender que no somos dueños de la información que las personas nos confían, somos administradores. Y un buen administrador no explota el recurso, lo cuida, lo hace fructificar para el bien de todos y rinde cuentas de su uso.
La pregunta final para cualquier líder de una comunidad de fe no debería ser "¿qué puede hacer la IA con nuestros datos?", sino "¿qué clase de comunidad nos estamos convirtiendo al usarla de esta manera?".
Referencias
(1) Efecto Eliza.
Nombre que proviene de ELIZA, uno de los primeros programas de conversación creado por Joseph Weizenbaum en el MIT en 1966, que simulaba ser un terapeuta. Aunque era un sistema muy simple basado en reglas, muchas personas generaron un vínculo emocional real con él. Desde entonces, el Efecto Eliza describe la tendencia humana a atribuir comprensión, empatía o conciencia a una IA solo porque imita bien el lenguaje, aunque no entienda nada. Es la base psicológica del apego a los chatbots y de la humanización del código.
(2) Caja negra.
En IA, "caja negra" o black box es un sistema cuyo proceso interno no puede ser explicado ni siquiera por sus creadores. Sabemos qué datos entran y qué resultado sale, pero no por qué llegó a esa conclusión. Esto es un problema ético central para la minería de datos: si no podemos explicar por qué el algoritmo marcó a una persona como "en riesgo" o "poco comprometida", no podemos rendir cuentas bíblicamente de esa decisión. La transparencia es requisito de justicia.
(3) Principios de Floridi y el equipo de Al4People.
Marco ético de referencia global elaborado por el filósofo italiano Luciano Floridi junto a un equipo interdisciplinario convocado por Atomium-EISMD. En su estudio publicado en Minds and Machines en 2018 propusieron cinco principios para una "buena sociedad de la IA": 1. Beneficencia (hacer el bien), 2. No maleficencia (no hacer daño), 3. Autonomía (preservar la libertad humana), 4. Justicia (evitar discriminación y promover equidad) y 5. Explicabilidad (transparencia y rendición de cuentas). Es la base que utilizamos para la relectura desde la cosmovisión cristiana en este artículo.
(4) Human-in-the-loop.
Expresión del inglés que significa "el humano dentro del circuito". Describe un sistema donde la IA puede sugerir, clasificar o generar un borrador, pero siempre hay una persona que supervisa, valida, corrige y asume la responsabilidad final antes de que esa acción tenga efecto. Es lo opuesto a un sistema totalmente autónomo. Desde la ética cristiana, es la aplicación práctica de la mayordomía: no delegamos el discernimiento moral a la máquina.
Bibliografía
- Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P., & Vayena, E. (2018). Al4People -An ethical framework for a good Al society: Opportunities, risks, principles, and recommendations. Minds and Machines, 28(4), 689-707.
- Pasquale, F. (2015). The black box society: The secret algorithms that control money and information. Harvard University Press.
- Weizenbaum, J. (1966). ELIZA-a computer program for the study of natural language communication between man and machine. Communications of the ACM, 9(1), 36-45.
Carlos Samuel Mansilla.
Pastor, comunicador, escritor. Desarrolla el análisis ético entre la intersección del Cristianismo y la Inteligencia Artificial, con el propósito de equipar a la Iglesia frente a los desafíos tecnológicos del siglo XXI y las tecnologías emergentes.
Apasionado por la reflexión ética y el diálogo entre fe, cultura y tecnología.
Social Footer