Ética: ¿qué papel juega en la inteligencia artificial?

Partiendo de un marco conceptual, la palabra ética proviene del griego “ethos”, que significa carácter o modo de ser de una persona, este término se utiliza para describir la forma de actuar de un individuo. Sin embargo, llevando este concepto a un campo tecnológico, cuándo y cómo se aplica la ética en la inteligencia artificial (IA).

Este concepto no es solo una cuestión abstracta, sino una necesidad práctica para garantizar que su desarrollo beneficie a la sociedad. Es por esto que este artículo explora los principios éticos fundamentales que deben guiar la creación y el uso de la IA, promoviendo un futuro tecnológico que sea responsable y equitativo.

La ética y la moral en la inteligencia artificial abarcan desde el diseño de nuevos modelos y metodologías hasta la creación de marcos legales y normativos que garanticen su desarrollo de manera responsable.

Su propósito es asegurar que la IA se utilice de forma correcta, respetando los derechos humanos y contribuyendo al bienestar social.

Principios éticos de la IA

La ética es un concepto significativo para mejorar las condiciones en distintos ámbitos, desde el académico hasta la vida cotidiana. En este sentido, la ética en la inteligencia artificial desempeña un papel clave para asegurar el desarrollo y uso responsable de este tipo de tecnología.

Como lo explican los psicólogos Leonardo Amaya, Gloria María Berrío-Acosta y Wilson Herrera: “Los principios éticos pueden definirse como los criterios de decisión esenciales que los miembros de una comunidad científica o profesional deben considerar al evaluar qué acciones son apropiadas en cada situación dentro de su ejercicio profesional”.

Al analizar los beneficios y riesgos de la inteligencia artificial desde una perspectiva humanística, es posible vincular sus principios éticos con aquellos establecidos en la Declaración Universal de Principios Éticos para Psicólogos, los cuales incluyen:

• Beneficencia.
• No maleficencia.
• Justicia.
• Autonomía.
• Integridad.

Estos principios no solo rigen la conducta humana, sino que también deben estar presentes en el desarrollo y uso de la inteligencia artificial. Es fundamental que la IA se diseñe, implemente y utilice de manera que respete estos valores, asegurando su alineación con el bienestar social y la responsabilidad ética.

Ahora bien, ¿cómo se pueden entender los principios éticos aplicables a la IA? 

El Observatorio de la Innovación en Bizkaia plantea los siguientes principios para su desarrollo:

1. Desarrollo de una IA justa y libre de prejuicios.
2. Cumplir y ayudar a cumplir.
3. Conocer el algoritmo y hacerlo transparente.
4. Seguridad y privacidad, pilares clave en los sistemas de IA.
5. Orientación hacia el propósito y el impacto positivo.
   
   

La ética en la inteligencia artificial debe ser un pilar fundamental en su desarrollo, garantizando su alineación con los valores humanos. Para ello, es crucial aplicar principios como la transparencia, la justicia y la seguridad, asegurando que no solo sea eficiente, sino también equitativa y confiable.

Su implementación responsable, basada en un marco ético sólido, permitirá maximizar sus beneficios y reducir los riesgos, promoviendo un impacto positivo en la sociedad.

Marcos éticos de referencia en inteligencia artificial

Diversas organizaciones a nivel internacional han desarrollado marcos éticos para orientar el uso responsable de la inteligencia artificial. Estos sirven como referencia para comprender de qué manera se pueden aprovechar los beneficios de la IA mientras se mitigan sus riesgos, estableciendo principios claves para su implementación. Algunos de los más relevantes incluyen:

• Principios de la OCDE para la IA (2019): enfatizan el desarrollo centrado en el ser humano, la transparencia, la rendición de cuentas y la robustez técnica. La OCDE ha sido pionera en promover políticas éticas para la IA, asegurando que su uso beneficie a la sociedad. 
  
• Directrices de ética para una IA confiable de la Comisión Europea: la IA debe ser lícita, ética y técnicamente robusta, garantizando derechos fundamentales y valores democráticos. El informe del High Level Expert Group on Artificial Intelligence (AI HLEG) de la Comisión Europea presenta recomendaciones detalladas para el desarrollo de sistemas de IA.
  
• Recomendación sobre la ética de la IA de la UNESCO: aborda el impacto de la IA en la sociedad promoviendo la equidad, la inclusión y la sostenibilidad. Fue aprobada por todos los Estados miembros de la UNESCO y se centra en garantizar que la IA se utilice para mejorar la vida de las personas y proteger los derechos humanos. 
  
• Marco ético para la inteligencia artificial en Colombia: se enfoca en la cocreación y la adopción de un enfoque multiactor, destacando la importancia de la ética en el sector público y privado. 
  
• Rome Call for AI Ethics: firmado por primera vez el 28 de febrero de 2020, fue impulsado por la Academia Pontificia para la Vida en colaboración con Microsoft, IBM, la FAO y el Ministerio de Innovación de Italia. Su propósito es promover un desarrollo ético de la inteligencia artificial, garantizando que beneficie a toda la humanidad sin discriminación y con respeto a la dignidad humana. En él se establecen seis principios fundamentales:
  
  
  1. Transparencia.
  2. Inclusión.
  3. Responsabilidad.
  4. Imparcialidad.
  5. Fiabilidad.
  6. Seguridad y privacidad.
     
     

Dilemas éticos en la IA

La inteligencia artificial ha revolucionado numerosos aspectos de nuestra sociedad, desde la atención médica hasta la seguridad nacional. Sin embargo, su adopción también plantea importantes dilemas éticos y controversias. A continuación, se exploran algunos de los temas más relevantes:

Con estos avances surge una nueva perspectiva sobre la manera en que se ha desarrollado la IA, destacando su impacto en diversas áreas y su capacidad para mejorar múltiples aspectos de la vida cotidiana. No obstante, su implementación también presenta desafíos éticos, ya que algunos principios fundamentales pueden verse comprometidos.

Esto genera incertidumbre y debate sobre los límites y regulaciones necesarias para garantizar un uso responsable, dependiendo del contexto y las circunstancias en que se aplique.

Como lo menciona Gabriela Ramos, subdirectora general de Ciencias Sociales y Humanas de la UNESCO: “La tecnología de inteligencia artificial aporta grandes beneficios en muchos ámbitos, pero sin unas barreras éticas corre el riesgo de reproducir los prejuicios y la discriminación del mundo real, alimentar las divisiones y amenazar los derechos humanos y las libertades fundamentales”.

A medida que la inteligencia artificial continúa expandiéndose en distintos ámbitos, resulta imprescindible establecer principios éticos que orienten su desarrollo y aplicación.

En este sentido, el desafío no solo radica en maximizar los beneficios de la IA, sino también en mitigar sus posibles efectos negativos. La construcción de marcos normativos sólidos y el compromiso con la transparencia y la equidad permitirán que la inteligencia artificial evolucione como una herramienta que impulse el bienestar social sin comprometer derechos significativos.

Uso de IA en vigilancia masiva

La IA y la ética han amplificado el alcance de la vigilancia, lo que plantea interrogantes sobre sus implicaciones en la vida cotidiana y su permanencia como una herramienta de control. 

Esto abre un nuevo debate sobre los límites entre la biopolítica y la libertad de expresión, así como el uso de la IA en la seguridad nacional. La cuestión central radica en cómo debe regularse esta tecnología para equilibrar la seguridad y los derechos fundamentales.

En este contexto, la polémica surge en torno al uso de herramientas que pueden influir en la gestión de la población, tales como:

• Sistemas de vigilancia y herramientas policiales predictivas.
  
• Aplicaciones en asistencia social.
  
• Monitoreo de los movimientos de personas migrantes y refugiadas, documentado por Amnistía Internacional.
  
• Tecnologías de reconocimiento facial y biométrico.

El debate gira en torno a la gestión y el control de estas tecnologías: ¿quién debe regular su uso y en qué condiciones? 

Si bien pueden contribuir a la seguridad y el orden, también existe el riesgo de que gobiernos o individuos las utilicen para restringir derechos y libertades. El desafío radica en definir hasta qué punto su implementación mejora o empeora el contexto en el que se aplica.

Sesgos algorítmicos en contratación y justicia

Los sesgos algorítmicos están teniendo un impacto significativo tanto en la contratación como en el sistema de justicia. En el ámbito laboral, estos sesgos pueden surgir de algoritmos de reclutamiento que se entrenan con datos históricos que reflejan prejuicios sociales, como discriminación por género o raza. 

Lo que esto implica es que se estarían estableciendo, de alguna manera, nuevos tipos de racismo basados en aspectos tecnológicos, lo que se vería como ética y moral de la inteligencia artificial y en el uso de algoritmos. Esto se evidencia en diversos aspectos que muestran cómo la IA puede perpetuar y amplificar las desigualdades existentes:

• Impacto en sectores clave: los sesgos algorítmicos afectan tanto el mercado laboral como el sistema de justicia, lo que resalta la gravedad del problema.
  
• Origen de los sesgos: estos provienen de datos históricos con prejuicios arraigados, lo que significa que la IA perpetúa problemas preexistentes.
  
• Exclusión de candidatos: la IA, en lugar de optimizar procesos de contratación, puede reforzar la discriminación basada en género, raza y edad.
  
• Evidencia cuantificable: un informe de McKinsey señala que hasta un 30% de los candidatos calificados pueden ser descartados, lo que indica un problema estructural.
  
• Nuevas formas de discriminación: la tecnología podría estar generando nuevas formas de racismo y exclusión, al no contra con una regulación adecuada para mitigar estos efectos.
  
• Riesgo de visión limitada:  al depender exclusivamente de la IA, se corre el riesgo de asumir que la realidad se ajusta a sus parámetros, sin tomar en cuenta otros factores humanos y contextuales.
  

Falta de transparencia y explicabilidad

Los desafíos éticos asociados a la inteligencia artificial incluyen la falta de transparencia en los algoritmos, un problema crítico en su desarrollo y aplicación. Muchos de estos sistemas son altamente complejos y difíciles de interpretar, lo que dificulta la comprensión de cómo toman decisiones. 

Esto genera desconfianza, ya que las personas afectadas no pueden conocer los criterios utilizados ni cuestionar la validez de los resultados. Garantizar la aplicabilidad y la trazabilidad de estos procesos es esencial para fomentar un uso responsable y ético.

Además, la ausencia de explicabilidad impide la detección y corrección de errores o sesgos, lo que puede perpetuar injusticias dentro del sistema sin mecanismos claros de rendición de cuentas. La falta de transparencia en la IA no solo limita la comprensión de sus decisiones, sino que también impide la detección de posibles injusticias. Esto se refleja en varios aspectos clave:

• Falta de control y supervisión: sin mecanismos de auditoría efectivos, los sesgos y errores pueden pasar desapercibidos y consolidarse con el tiempo.
  
• Desconfianza en la tecnología: la imposibilidad de comprender cómo se toman decisiones genera incertidumbre entre usuarios, empresas y reguladores.
  
• Dificultad para corregir errores: sin transparencia, es complicado detectar fallos en el sistema y tomar medidas correctivas adecuadas.
  
• Impacto en derechos y justicia: la confusión puede afectar la vida de las personas, especialmente en ámbitos sensibles como la contratación, el crédito y el sistema judicial.
  
• Necesidad de explicabilidad: desarrollar IA más comprensible y auditable es clave para garantizar su uso ético y responsable.
  
• Regulación y ética: se requieren normas que exijan mayor claridad en los modelos algorítmicos para evitar decisiones arbitrarias o discriminatorias.
  

Dependencia tecnológica y brecha digital

La implementación de IA exige una infraestructura adecuada y acceso a internet, lo que puede excluir a comunidades rurales o sectores con menor conectividad, ampliando aún más la brecha digital.

El desarrollo de la inteligencia artificial tiene el potencial de mejorar diversos aspectos de la sociedad, pero también puede agravar las desigualdades si su acceso y evolución no se gestionan de manera equitativa. 

Un enfoque responsable y ético en el diseño y aplicación de la IA debe priorizar la equidad, promoviendo su uso como una herramienta que beneficie a toda la sociedad sin perpetuar brechas preexistentes.

Para que la IA beneficie a toda la sociedad, es fundamental acabar con las barreras que impiden su acceso equitativo. Algunos de los factores clave para cerrar la brecha digital incluyen:

• Infraestructura tecnológica: expansión del acceso a internet y mejora de redes en zonas rurales.
  
• Educación digital: programas de alfabetización tecnológica para comunidades con menos recursos.
  
• Accesibilidad económica: desarrollo de modelos asequibles de IA para sectores marginados.
  
• Regulación inclusiva: políticas que fomenten el acceso equitativo a la tecnología.
  
• Colaboración público-privada: iniciativas conjuntas para reducir las desigualdades tecnológicas.
  

Corrupción y manipulación

La inteligencia artificial podría ser utilizada para manipular o alterar datos, lo que facilitaría la corrupción en diversos ámbitos. Esto no solo socavaría la integridad de los sistemas en los que se implementa, sino que también afectaría su credibilidad y generaría desconfianza en la ciudadanía. La posibilidad de que algoritmos sean diseñados o ajustados para beneficiar a ciertos grupos pone en riesgo la imparcialidad y la equidad en la toma de decisiones.

Los desafíos éticos en el desarrollo de la inteligencia artificial incluyen la necesidad de establecer mecanismos adecuados de supervisión y control. Sin estas medidas, las decisiones respaldadas por la IA podrían estar influenciadas por sesgos o manipulaciones, afectando gravemente a las personas involucradas en los procesos automatizados. 

Además, un sistema sin transparencia podría reforzar desigualdades preexistentes y permitir que actores malintencionados exploten vulnerabilidades tecnológicas en su beneficio. Para mitigar estos riesgos, es crucial garantizar la equidad, la rendición de cuentas y la seguridad en el uso de la IA.

Por ello, es fundamental que su implementación en cualquier ámbito, garantice transparencia, equidad y mecanismos de auditoría que prevengan abusos. La tecnología debe utilizarse para mejorar la eficiencia y la precisión en la toma de decisiones, no para comprometer la integridad de los procesos.

Para mitigar estos riesgos, es clave considerar los siguientes factores:

• Supervisión humana constante: la intervención de expertos en cada área de aplicación es crucial para evitar que la IA tome decisiones sin un control adecuado.
• Regulación y normativas claras: es necesario establecer leyes específicas que regulen el uso de IA para evitar su uso indebido.
• Protección contra ataques cibernéticos: los sistemas deben contar con medidas de seguridad para prevenir la manipulación de datos y accesos no autorizados.
• Auditorías y rendición de cuentas: se deben implementar mecanismos de control independientes que revisen periódicamente el desempeño de los sistemas de IA.
• Acceso ciudadano a la información: garantizar que las personas puedan entender y cuestionar las decisiones tomadas por la IA, fortalecerá la confianza en su utilización.
  

Sustitución de la racionalidad humana

Si bien la inteligencia artificial aporta eficiencia al optimizar procesos y facilitar la toma de decisiones, su empleo no debe sustituir la racionalidad humana. Delegar completamente decisiones complejas a la IA podría generar errores e injusticias, especialmente en situaciones donde se requiere un juicio basado en la ética, la empatía y la interpretación contextual.

Por esta razón, la inteligencia artificial debe ser vista como una herramienta de apoyo y no como un reemplazo del pensamiento crítico y el criterio humano. Es fundamental establecer límites claros para evitar una dependencia excesiva que debilite la capacidad de análisis y toma de decisiones.

Factores clave para un uso responsable de la IA

1. Complemento, no sustitución: la IA debe utilizarse para optimizar procesos, pero siempre bajo la dirección y validación del pensamiento humano.
   
2. Juicio ético y contextual: la inteligencia humana es indispensable para comprender la complejidad de situaciones que requieren interpretación más allá de los datos.
   
3. Límites en la automatización: no todas las decisiones pueden ser delegadas a un algoritmo sin perder el matiz del razonamiento humano.
   
4. Evitar la dependencia excesiva: el uso indiscriminado de la IA podría reducir la capacidad crítica de las personas, haciéndolas más pasivas ante la toma de decisiones.
   
5. Transparencia y explicabilidad: es necesario comprender cómo y por qué la IA llega a ciertas conclusiones para evitar una confianza ciega en sus resultados.
   

En armas autónomas y dilemas morales

El uso de inteligencia artificial en armas autónomas plantea serios dilemas éticos y jurídicos, cuestionando los derechos humanos y el derecho internacional humanitario. La posibilidad de que estas actúen sin supervisión humana directa genera preocupaciones sobre el control, la rendición de cuentas y las consecuencias imprevistas de su utilización.

Los sistemas de armas autónomas letales (Lethal Autonomous Weapons [LAWs]) una vez activados, pueden seleccionar y atacar objetivos sin intervención humana adicional. Esto no solo introduce incertidumbre sobre quién es responsable de sus acciones, sino que también aumenta el riesgo de errores irreparables.

Más allá de la seguridad y la estrategia militar, el desarrollo y uso de estas armas también puede responder a intereses económicos. La industria armamentista es un sector multimillonario, y la IA aplicada a la guerra representa una nueva oportunidad de negocio para empresas y gobiernos. La automatización del conflicto reduce costos operativos y aumenta la eficiencia en combate, lo que puede incentivar su proliferación sin una evaluación ética adecuada.

Además, al facilitar la guerra a distancia, estas armas pueden deshumanizar el conflicto y hacer que las decisiones militares sean más frías, reduciendo la percepción de las consecuencias reales del uso de la fuerza. 

El desarrollo de armas autónomas no solo redefine la estrategia militar, sino que también plantea interrogantes sobre ética, control y responsabilidad. 

Algunos de los aspectos más críticos incluyen:

1. Seguridad y estrategia militar: se argumenta que estas armas pueden reducir riesgos para los soldados y aumentar la precisión en combate.
   
2. Falta de control y rendición de cuentas: la automatización total de decisiones letales plantea serias preocupaciones sobre quién asume la responsabilidad de sus acciones.
   
3. Errores irreparables: sin supervisión humana, la IA puede cometer fallos que resulten en víctimas civiles o ataques no justificados.
   
4. Riesgo de escalada militar: la facilidad de despliegue de armas autónomas podría hacer que los conflictos escalen más rápido y se reduzcan las opciones diplomáticas.
   
5. Necesidad de regulación global: sin acuerdos internacionales claros, estas armas podrían convertirse en una amenaza difícil de contener, con consecuencias impredecibles.
   

La implementación ética de la inteligencia artificial es esencial para garantizar que esta tecnología actúe en beneficio de toda la sociedad y no como un factor de desigualdad o control indebido. Si bien la IA tiene el potencial de optimizar procesos, mejorar la toma de decisiones y facilitar avances en múltiples campos, su desarrollo sin una regulación adecuada puede generar consecuencias negativas como la manipulación, la discriminación algorítmica y la erosión de la privacidad.

Los dilemas éticos en la IA reflejan la necesidad de un marco normativo que regule su impacto en áreas críticas como la justicia, la contratación y la seguridad. Además, la creciente dependencia tecnológica y la brecha digital plantean desafíos éticos en términos de acceso equitativo y toma de decisiones autónomas, amenazando la racionalidad humana.

Para construir un futuro donde la inteligencia artificial sea una aliada del bienestar social, es imprescindible adoptar principios éticos sólidos, desarrollar normativas claras y fomentar la participación de diversos actores en su regulación. 

Solo así se podrá equilibrar el avance tecnológico con el respeto a la dignidad humana y los derechos fundamentales.