Add your promotional text...
INTELIGENCIA ARTIFICIAL Y DELEGACIÒN MORAL: LA RESPONSABILIDAD QUE NINGUNA MÀQUINA PUEDE ASUMIR
6/26/20265 min read
La historia de la tecnología puede leerse como una historia de delegaciones. Cada innovación ha permitido trasladar determinadas tareas desde el cuerpo humano hacia herramientas cada vez más sofisticadas. Primero delegamos el esfuerzo físico, luego parte del cálculo, más tarde la memoria, la comunicación y la organización de la información. Hoy comenzamos a delegar algo cualitativamente distinto: procesos de evaluación, clasificación, recomendación y decisión que durante siglos fueron considerados expresiones del juicio humano.
Este desplazamiento representa uno de los cambios culturales más profundos de nuestra época. La inteligencia artificial ya participa en la asignación de créditos bancarios, en diagnósticos médicos, en procesos de selección laboral, en sistemas judiciales, en plataformas educativas, en la administración pública y en mecanismos de vigilancia. Aunque estas tecnologías prometen eficiencia, rapidez y escalabilidad, también modifican silenciosamente la manera en que comprendemos la responsabilidad, la autoridad y la deliberación moral.
Hannah Arendt advirtió que uno de los mayores peligros de la modernidad consistía en la separación entre acción y responsabilidad. Cuando las decisiones se fragmentan dentro de sistemas complejos, cada actor puede llegar a sentirse parcialmente eximido de responder por las consecuencias finales. La automatización amplifica este fenómeno. Con frecuencia escuchamos expresiones como “lo decidió el algoritmo”, como si la existencia de un sistema computacional eliminara la responsabilidad de quienes lo diseñaron, lo entrenaron, lo implementaron o lo aceptaron institucionalmente. Pero, como mostró Arendt al analizar la banalidad del mal, la obediencia a procedimientos no anula la obligación de pensar. Y pensar, en este contexto, significa asumir que toda decisión técnica tiene implicaciones humanas.
Luciano Floridi propone comprender la inteligencia artificial como parte de una ecología de agentes donde las decisiones humanas siguen siendo fundamentales, aunque aparezcan distribuidas entre múltiples actores y tecnologías. Desde su filosofía de la información, Floridi insiste en que los sistemas digitales no son simples herramientas externas, sino entornos que reconfiguran la manera en que vivimos, conocemos y actuamos. Kate Crawford, por su parte, demuestra que los algoritmos incorporan relaciones de poder, intereses económicos, infraestructuras materiales y decisiones políticas que permanecen invisibles para la mayoría de los usuarios. Su trabajo recuerda que la inteligencia artificial no flota en el vacío: depende de minerales extraídos, de trabajo humano precarizado, de centros de datos, de energía y de marcos regulatorios que rara vez se discuten con suficiente profundidad.
Shoshana Zuboff añade una advertencia decisiva: estos sistemas pueden convertirse en instrumentos de predicción y modificación del comportamiento cuando se desarrollan sin suficiente control democrático. En su análisis del capitalismo de vigilancia, Zuboff muestra que el problema no es únicamente técnico, sino civilizatorio. La capacidad de anticipar y orientar conductas humanas abre la puerta a nuevas formas de poder que operan de manera silenciosa, personalizada y masiva. A ello se suma la reflexión de Cathy O’Neil, quien ha demostrado que muchos modelos algorítmicos, lejos de ser neutrales, pueden amplificar desigualdades, reproducir sesgos y castigar de manera sistemática a los grupos más vulnerables.
Estas perspectivas coinciden en un punto esencial: la inteligencia artificial no elimina la responsabilidad humana; la hace más compleja. Y precisamente por eso exige una formación ética mucho más rigurosa que la que solemos ofrecer en los debates públicos sobre innovación. No basta con preguntar si una tecnología funciona. También debemos preguntar a quién beneficia, a quién excluye, qué valores incorpora, qué supuestos normaliza y qué tipo de sociedad contribuye a construir.
La discusión se vuelve todavía más profunda cuando incorporamos la reflexión de Shannon Vallor, quien ha insistido en que el desafío no consiste solo en desarrollar máquinas más eficientes, sino en cultivar virtudes tecnológicas en los seres humanos. Para Vallor, la cuestión central es si estamos formando personas capaces de usar la tecnología con prudencia, justicia, humildad y responsabilidad. Esta idea resulta especialmente relevante en un momento histórico en el que la fascinación por la automatización puede llevarnos a confundir capacidad técnica con sabiduría práctica.
También conviene recordar la advertencia de Nick Bostrom sobre los riesgos asociados a sistemas cada vez más autónomos. Aunque sus planteamientos suelen situarse en escenarios de largo plazo, su aporte es valioso porque obliga a pensar en la relación entre poder tecnológico y control humano. Si una sociedad delega progresivamente decisiones críticas en sistemas opacos, el problema no será únicamente la eficiencia de esas máquinas, sino la pérdida de capacidad colectiva para comprender y orientar sus efectos. En términos de John Searle, podríamos decir que una cosa es procesar símbolos y otra muy distinta es comprender significados. Las máquinas pueden ejecutar operaciones complejas, pero no poseen intencionalidad, conciencia ni responsabilidad moral.
Es precisamente aquí donde la educación adquiere una importancia estratégica. Si los futuros ingenieros, científicos, docentes, empresarios, juristas y gobernantes no desarrollan una sólida formación ética, la sofisticación tecnológica terminará amplificando decisiones pobres desde el punto de vista humano. Ningún algoritmo puede sustituir la prudencia, la compasión, la deliberación o la conciencia moral. Ningún sistema automatizado puede responder por la dignidad de una persona, por la justicia de una institución o por la legitimidad de una decisión pública. Esos son atributos de la acción humana, no de la máquina.
Edgar Morin insistió durante décadas en que la educación debía preparar para afrontar la incertidumbre y comprender la complejidad de la condición humana. Esa propuesta adquiere hoy una vigencia extraordinaria. El problema no consiste únicamente en enseñar a utilizar inteligencia artificial, sino en formar personas capaces de decidir cuándo debe utilizarse, con qué límites y al servicio de qué proyecto de sociedad. Morin nos recuerda que el conocimiento fragmentado puede producir ceguera frente a las consecuencias globales de nuestras acciones. En el caso de la inteligencia artificial, esa ceguera puede traducirse en sistemas técnicamente brillantes pero humanamente irresponsables.
Desde la propuesta de Educación como Ingeniería del Sentido, la cuestión resulta aún más profunda. Si educar significa construir marcos de interpretación, entonces también significa formar los criterios éticos que orientarán el diseño y el uso de las tecnologías del futuro. La inteligencia artificial no resolverá el problema del sentido. Como toda herramienta, amplificará el sentido que los seres humanos decidan incorporar en ella. Por eso, el verdadero desafío no es solo técnico ni exclusivamente regulatorio: es cultural, pedagógico y civilizatorio.
Manuel Castells ha mostrado que vivimos en una sociedad estructurada por redes de información y poder. En ese contexto, quien controla los flujos de datos controla también buena parte de las posibilidades de acción social. Esa observación es crucial para comprender por qué la inteligencia artificial no puede analizarse como un fenómeno aislado. Forma parte de una arquitectura más amplia de comunicación, economía y gobernanza. Si no entendemos esa arquitectura, corremos el riesgo de naturalizar decisiones que en realidad responden a intereses muy concretos.
Por su parte, Paulo Freire nos ofrece una clave indispensable: no existe educación neutral. Toda práctica educativa implica una toma de posición frente al mundo. Aplicado al presente, esto significa que formar para la inteligencia artificial no puede reducirse a enseñar habilidades instrumentales. También implica formar conciencia crítica, capacidad de diálogo y responsabilidad frente a las consecuencias sociales de la tecnología. Una educación que no enseñe a pensar críticamente sobre los sistemas que usamos terminará formando usuarios competentes, pero ciudadanos débiles.
Quizá la mayor responsabilidad de nuestra generación no sea desarrollar máquinas cada vez más inteligentes.
Quizá sea preservar una humanidad suficientemente sabia para decidir qué decisiones nunca deberían dejar de pertenecernos.
Y esa reflexión conduce inevitablemente al siguiente capítulo de esta obra pública:
¿Quién controla los algoritmos que ya comienzan a organizar nuestra manera de vivir, decidir y comprender el mundo?