Inteligencia Artificial y Ética: retos, desafíos y dilemas. La opinión de un experto

La irrupción de los modelos LLM y sus agentes ha cambiado de forma irreversible nuestra realidad actual. Prácticamente todos los aspectos de nuestra vida han sido, están siendo o van a ser, afectados de forma directa o indirecta por su funcionamiento o mera existencia. Su aparición y, sobre todo, su adopción a nivel masivo, ha sido casi inmediata, y una enorme parte de la sociedad y sus organizaciones y empresas han pasado de no tener nociones de su existencia a convertirlas en una parte indispensable de su funcionamiento y rutinas.

Sin embargo, esta rápida incorporación de la IA a la vida diaria ha creado diversas problemáticas que, poco a poco, están comenzando a asomar la cabeza entre las olas de optimismo y fascinación iniciales. Entre ellas, una de las más fundamentales e infravaloradas en cuanto a la importancia que tiene, es todo lo que atañe a los aspectos éticos de la IA, tanto en su desarrollo como en su implementación y uso.

Por ello, hemos querido indagar más en las diversas aristas en que la IA y la ética se cruzan y cómo se abordan las problemáticas que afloran de esta interacción, tanto a nivel de desarrolladores como de usuarios. Con este fin, nos pusimos en contacto con el experto de VIU, Dr. Óscar Garibo. Garibo es doctor en Matemáticas Aplicadas, Máster en Big Data Analytics e Ingeniero Informático. En VIU es director del Máster en Inteligencia Artificial para la Innovación Tecnológica e imparte docencia en el Máster Oficial en Big Data y Ciencia de Datos y en el Grado en Ingeniería Informática.

P: La conversación pública sobre inteligencia artificial suele centrarse en sus capacidades, pero menos en los valores que incorpora. ¿Por qué la ética debería considerarse un elemento central desde la fase de diseño de un sistema de IA y no una preocupación posterior?

R: Incluir la ética en la fase de diseño es la forma de proteger derechos fundamentales como la privacidad o la transparencia. En la fase de diseño se toman decisiones importantes sobre cómo funcionará el producto que se desarrolle, si no se tiene en cuenta la ética entonces, con toda seguridad encontraremos sesgos y otros problemas imbricados en los datos o algoritmos, y para entonces será muy complicado y costoso corregirlos.

P: Los modelos fundacionales y LLM como los que impulsan los actuales asistentes conversacionales se entrenan con cantidades masivas de información procedente de internet. ¿Qué retos éticos plantea este proceso en cuestiones como la privacidad, la propiedad intelectual o la calidad de los datos utilizados para su entrenamiento?

R: Plantea muchos retos, muchísimos. Estos modelos se entrenan con todos los datos que se pueden conseguir (mayoritariamente en la red), y no siempre de forma lícita, o al menos transparente. Puede incluir datos privados o sensibles, datos sujetos a derechos de autor (que ni se respetan ni se remuneran), desinformación (fake news, entre otras), datos de baja calidad o desactualizados. Toda esa información puede, potencialmente, ser reproducida en respuestas del LLM.

Además, la gente no es consciente de que toda la información que somete a un LLM pasa a ser propiedad de la empresa propietaria del LLM. Recientemente hemos visto el caso de un LLM que ha propuesto una solución a uno de los problemas matemáticos del milenio, las ecuaciones de Navier-Stokes, presuntamente utilizando datos que investigadores habían proporcionado al LLM.

El Dr. Óscar Garibo

P: La presencia de sesgos es uno de los grandes problemas que se le señalan a los modelos de IA. ¿En qué podemos identificar estos sesgos y es posible evitarlos?

R: Cómo usuarios de la IA, por ejemplo, podemos pedir a un LLM que describa (o haga una imagen) de una persona limpiando una casa, varias veces, y comprobar si asigna el rol a un hombre o a una mujer de forma equitativa. O pedirle una lista de deportistas, escritores o científicos famosos y hacer el mismo ejercicio. O podemos pedirle que describa a un hombre y a una mujer exitosos, y ver si los define de igual modo. También realizar preguntas para ver si describe personas de religiones, razas o grupos sociales de forma diferente.

En cuanto a la segunda pregunta, evitar los sesgos está en el tejado de quienes construyen los modelos, no en el del usuario. Se deben elegir datos representativos, auditar los modelos antes de entrar en producción y de forma periódica cuando ya están en producción, con intervención humana en la supervisión. Pero, en mi opinión, es muy difícil, por no decir imposible, erradicarlos del todo, ya que hay decisiones humanas en el proceso. Los usuarios debemos tener presente la presencia de sesgos y actuar con responsabilidad con los productos de los LLMs, con espíritu crítico.

P:  A menudo se habla de desarrollar sistemas de IA objetivos e imparciales. Desde una perspectiva científica, ¿es realista aspirar a una inteligencia artificial completamente neutral o siempre habrá decisiones humanas que condicionen sus resultados?

R: Mi opinión es que no, que no es realista aspirar a una IA completamente neutral, al menos con el paradigma actual. Básicamente porque, como decía antes, hay decisiones humanas que la condicionan, como qué datos se usan o excluyen para entrenar los modelos, qué objetivo se define en el entrenamiento, además de que los datos, per se, contienen sesgos y errores. 

P: La inteligencia artificial está mostrando resultados prometedores en ámbitos como el diagnóstico médico, la predicción de enfermedades o la medicina personalizada. ¿Dónde debería situarse el equilibrio entre confiar en las recomendaciones de la IA y mantener la supervisión humana cuando está en juego la salud de las personas?

R: Creo que ahora mismo estamos en un buen lugar respecto a esta problemática. La IA se utiliza como ayuda en el diagnóstico, proporcionando información al facultativo, que es quien finalmente emite el diagnóstico y el tratamiento.

P: En diferentes países ya se utilizan sistemas predictivos para evaluar riesgos de reincidencia, asignar recursos policiales o detectar patrones delictivos. ¿Qué riesgos éticos aparecen cuando una IA influye en decisiones relacionadas con la libertad, la seguridad o la presunción de inocencia?

R: Es un tema muy delicado, yo resaltaría el sesgo de automatización. Es decir, confiar ciegamente en las predicciones de un algoritmo. Como he dicho antes, la IA tiene sesgos, y esos sesgos influyen en las decisiones, poniendo en entredicho la equidad de la justicia. Además, está el problema de la explicabilidad de la IA, si no es capaz de argumentar de una forma clara porqué predice algo, no deberíamos confiar a ciegas en ella. Recordemos Minority Report y la presunción de inocencia.

P: En sectores sensibles como la sanidad, la banca o la justicia, ¿crees que debería existir la obligación de que los sistemas de IA sean plenamente explicables para los ciudadanos afectados por sus decisiones? ¿Es técnicamente viable en los modelos más avanzados actuales?

R: Sí, claro, en esos casos debería ser obligatorio que las IA fueran plenamente explicables, pero no es algo que se pueda garantizar al 100% hoy en día. Si bien se ha avanzado en XAI (IA Explicable), y hoy en día podemos explicar por qué se toma una decisión en un modelo de IA, lo que no podemos explicar es el funcionamiento interno exacto de un modelo. Y en estas cuestiones creo que los ciudadanos tenemos derecho a comprender las decisiones que nos afectan.

P: Programas de VIU como el Máster Universitario en Inteligencia Artificial, el Máster en Inteligencia Artificial para la Innovación Tecnológica o el Grado en Ciencia de Datos e Inteligencia Artificial forman a los profesionales que desarrollarán estas tecnologías en los próximos años. ¿Qué papel debe ocupar la ética dentro de la formación técnica de estos perfiles?

R: La ética debe ser transversal en estas titulaciones, de hecho, todas ellas la incluyen en sus temarios. Sé que no es la asignatura preferida de la mayor parte del alumnado, tampoco fue mi favorita cuando yo cursé un Máster en Big Data Analytics, pero es esencial que las personas que van a trabajar analizando datos, construyendo modelos, etc., sean conscientes de que no sólo importa si el modelo funciona o no, o que los datos disponibles no siempre son útiles. Deben conocer los riesgos éticos, los sesgos de los datos y, por ende, de los modelos. Deben saber qué pueden hacer y qué no, qué datos usar y cuales descartar, la importancia de la anonimización de calidad, que no sea reversible. Para luego tener siempre presentes todos estos factores en su trabajo diario.

P: Europa está apostando por una regulación más exigente de la inteligencia artificial que otras regiones del mundo. ¿Consideras que establecer límites éticos y normativos favorece una innovación más sostenible o existe el riesgo de frenar la competitividad tecnológica?

No tengo una respuesta sencilla a esa pregunta. Mejor dicho, no tengo una respuesta justa. Porque si bien pienso que la regulación por sí misma no tiene porqué conllevar freno a la innovación, la realidad es que la mayor parte de las empresas que lideran el auge de la IA no están en Europa, principalmente en USA y China. En Europa adoptan medidas para ajustarse a la regulación, pero en sus países de origen no. Es decir, la regulación básicamente no se integra por diseño, sino que se meten parches a posteriori. Así que mi respuesta es no, regular no supone un riesgo, pero es que no se quiere hacer desde el diseño.

P: Si miramos a los próximos diez años, ¿cuáles crees que serán los principales desafíos éticos que deberán afrontar investigadores, empresas y administraciones para garantizar que la inteligencia artificial genere valor social y no amplíe desigualdades o riesgos existentes?

R: Esto va muy rápido, me cuesta mirar a 10 años vista, sinceramente. Veo un gran riesgo en proteger la privacidad de las personas. Riesgo que ya existe con los dispositivos móviles que usamos actualmente. Obviamente habrá que definir responsabilidades en el uso de la IA. Si una IA induce a una persona al suicidio, ¿Quién es el responsable? ¿El suicida? ¿Los programadores? ¿La empresa que comercializa la IA?

P: Si, como algunas de las voces más críticas advierten, se progresa en la automatización, y se eliminan muchos puestos de trabajo, ¿Cómo redistribuiremos los beneficios generados por esas IA, que además están en manos de corporaciones privadas?

R: A mí lo que más me preocupa no son estas cosas, que también me preocupan. Me preocupa que los humanos dejemos de pensar, de ser críticos, que cedamos nuestras decisiones a la IA, como en parte ya está sucediendo. Ese, para mí, es el gran riesgo.

P: Si tuvieras que resumir en una sola idea qué condición es imprescindible para que la inteligencia artificial beneficie realmente a la sociedad, ¿Cuál sería?

R: Pues voy a ir a una utopía, directo al precipicio. Porque por sociedad entiendo a toda la humanidad. Para que la IA beneficie realmente a la humanidad debería ser administrada - entrenada, supervisada, etc. - por humanos. Ser humano-céntrica, perdón por el palabro. Pero eso, en toda la historia de la humanidad, es algo que no se ha conseguido. Hoy en día seguimos, como especie, divididos en base a constructos humanos como países, religiones, ideologías y no somos capaces de ponernos de acuerdo, de forma universal, en cosas elementales, como en calificar de genocidio lo que Israel lleva haciendo con el pueblo palestino varias décadas, por ejemplo. Todo por intereses partidistas, monetarios, de poder. No sé si los humanos estamos preparados para la justicia universal, sinceramente.