¿Cómo tomará la IA decisiones morales por nosotros?

Usted va conduciendo y una persona se le cruza de repente por delante: ¿se desvía, aunque eso signifique chocar contra un muro? ¿Y si esa persona fuera un niño?

Y a la hora de presentar la declaración de la renta, ¿aprovecha cualquier portillo legal que encuentre?

Muy pronto, los sistemas de inteligencia artificial podrían estar tomando este tipo de decisiones por nosotros. Más de la mitad de la población mundial ya utiliza hoy en día chatbots con IA, y es probable que diversos tipos de IA pasen a formar parte de nuestras vidas en una variedad cada vez mayor de contextos y productos.

El informático Iyad Rahwan y su equipo del Centro para Humanos y Máquinas del Instituto Max Planck para el Desarrollo Humano de Berlín creen que deberíamos estudiar estas cuestiones antes de que surjan en la vida real. En lo que denominan “ciencia de la ciencia ficción”, el equipo analiza escenarios futuros observando cómo se comportan las personas al utilizar nuevos tipos de IA y preguntándoles cómo creen que debería comportarse la IA.

El objetivo, subrayan los investigadores, es predecir con el mayor detalle objetivo posible cómo interactuarán las personas y la IA en el futuro, no prescribir cómo deberían actuar las empresas y los gobiernos en este terreno tan traicionero.

¿Siempre nos costará confiar en la IA, o llegaremos a preferirla antes que trabajar con humanos? ¿Interactuar con la IA nos hará comportarnos mejor o peor? ¿Y a quién se debería responsabilizar cuando las cosas salgan mal?

Rahwan y sus coautores exploraron la psicología moral de la inteligencia artificial en el Annual Review of Psychology de 2024. Esta entrevista ha sido editada para lograr mayor claridad.

¿Por qué necesitamos estudiar la “psicología moral de la IA”? ¿No es la psicología moral algo exclusivamente humano?

La respuesta breve es que necesitamos una psicología moral de la IA por las mismas razones por las que necesitamos una psicología moral de los seres humanos. Necesitamos comprender qué impulsa a los seres humanos a ser más o menos morales, con el fin de promover una sociedad más moral y un comportamiento más moral en nuestras instituciones. Ahora que las máquinas de IA interactúan cada vez más con el mundo, creo que debemos hacer lo mismo con ellas, ya que tomarán decisiones con consecuencias morales.

Tenemos que entender qué principios morales siguen, si es que siguen alguno, y en qué medida estos se deben a su entrenamiento, su programación, los conjuntos de datos con los que se les ha alimentado o los contextos en los que operan.

Existe un famoso problema denominado el “dilema de Collingridge”, según el cual, cuando la tecnología aún es fácil de modificar y ajustar, no disponemos de información suficiente para saber qué hacer. Luego, para cuando sí tenemos información suficiente, la tecnología está tan arraigada que resulta muy difícil cambiarla.

Por eso creo que es muy importante que la ciencia construya este corpus de pruebas con la suficiente antelación, idealmente con tiempo de sobra, para acelerar nuestra capacidad de responder a estos nuevos retos. Imagina que hubiéramos realizado un ensayo científico adecuado sobre los efectos de las redes sociales en los niños allá por 2010 y hubiéramos descubierto los efectos adversos que tenían sobre la socialización o la salud mental en aquellos primeros tiempos. Probablemente habría sido positivo.

Un problema puede ser que estas cosas suelen ser un objetivo en constante evolución. Las redes sociales han cambiado mucho con respecto a cómo eran al principio, y los sistemas de IA están cambiando aún más rápido.

Estoy de acuerdo. Las plataformas cambian continuamente. Puede que los chatbots de IA de hoy en día intenten ser amables y educados, precisos y, en cierto modo, políticamente correctos, pero no hay garantía de que siga siendo así a largo plazo. Ya se están orientando hacia la hiperpersonalización, en la que el chatbot de cada persona se comporta de forma diferente. La IA, por ejemplo, puede reforzar cualquier prejuicio o teoría de la conspiración en la que el usuario ya crea, con el fin de mantener su interés. Los chatbots de IA ya son muy aduladores: están de acuerdo con nuestras ideas políticas y reafirman nuestras creencias previas y juicios de valor. También pueden, por el contrario, impulsar sutilmente agendas políticas establecidas por la empresa de IA y sus aliados políticos. Los incentivos políticos y financieros que influyen en las empresas de IA pueden llevarnos a situaciones muy extrañas, por lo que creo que es importante que estudiemos ahora mismo el comportamiento y el impacto de los agentes de IA.

Puede que intenten ser amables, pero, dado que se entrenan con datos generados por humanos, los sistemas de IA también pueden haber adoptado muchos de nuestros sesgos injustos. ¿Qué se puede hacer al respecto?

Sabemos que esos sesgos existen entre los seres humanos y se manifiestan en los datos en línea, ya sean imágenes o texto. Así pues, cuando las máquinas aprenden de nuestros datos, absorben esos sesgos. Y cuando se les entrena para generar datos similares, también reproducirán esos sesgos al tomar decisiones o al producir texto o imágenes.

Un estudio de 2023 realizado con ChatGPT-3 demostró que esto también puede ocurrir cuando los bots de IA resumen textos. Cuando los seres humanos resumen historias, tienden a eliminar la información que no concuerda con los estereotipos comunes, lo que puede provocar un sesgo en el texto hacia información más estereotipada. Lo mismo ocurre con la IA: si, por ejemplo, un texto afirma que un hombre es un ejecutivo de negocios y que además se encarga de la mayoría de las tareas domésticas, es más probable que un sistema de IA al que se le pida resumir el texto omita este segundo dato, reforzando así el estereotipo.

Ahora que sabemos que la IA actúa así, podemos intentar superar este problema ajustando el modelo de IA para eliminar ese tipo de sesgos. Probablemente esto sea más fácil de lograr con las máquinas que con los seres humanos, entrenándolas con datos seleccionados más cuidadosamente o mediante el aprendizaje por refuerzo, en el que la IA aprende a tomar mejores decisiones a través de la retroalimentación humana, con el fin de desalentar los estereotipos.

Esto puede generar un nuevo tipo de problema: que el entrenamiento refleje los sesgos de un puñado de empresas de uno o dos países, cuyas aplicaciones de IA pueden utilizarse en todos los ámbitos —toma de decisiones, recursos humanos, ámbito jurídico, educativo, etc—. Por eso creo que debemos cuantificar esos sesgos analizando cada uno de estos modelos, independientemente de su origen. Necesitamos un análisis científico independiente sobre el grado de precisión, racismo o adulación de las diferentes IA, así como instituciones fiables que las certifiquen como tales.

Al menos en ámbitos de alto riesgo como la medicina, la Ley de IA de la Unión Europea va en esa dirección. En virtud de esta legislación, las aplicaciones de IA clasificadas como de “alto riesgo” deben someterse a una evaluación independiente antes de salir al mercado. Los desarrolladores tienen que demostrar que sus sistemas son precisos y seguros y que han mitigado los sesgos discriminatorios —de forma muy similar a como un nuevo tratamiento médico debe pasar por ensayos clínicos antes de que se pueda recetar a los pacientes—.

Pero desde una perspectiva científica, ¿cómo se define lo que constituye un sesgo?

En mi propia investigación, me interesan mucho las variaciones culturales en la psicología moral y su impacto en la IA. Hace mucho tiempo —en la prehistoria de hace 10 años, lo que equivale a un siglo en términos de IA— pusimos en marcha el experimento Moral Machine, en el que se pedía a la gente por Internet que diera su opinión sobre cómo un futuro automóvil autónomo debería resolver un dilema moral. Básicamente, se producía un choque inevitable y se presentaban situaciones en las que los participantes tenían que elegir a quién debía dar prioridad el vehículo en cuanto a seguridad.

Lo tradujimos a 11 idiomas, y la página web se hizo viral y se convirtió en una encuesta a gran escala.

Recibimos decenas de millones de decisiones de personas de todo el mundo, lo que nos proporcionó una visión muy completa de todos los puntos de acuerdo, pero también de las diferencias culturales. Existen acuerdos amplios y universales: casi todo el mundo prefiere salvar a los niños, antes que a los adultos; a las mujeres, antes que a los hombres; a una persona que cruza de forma legal, antes que a alguien que cruza de forma imprudente, y así sucesivamente. Pero había diferencias en la intensidad relativa de estas preferencias, lo que significa que la forma en que las personas resuelven estos dilemas varía de manera significativa entre las distintas culturas.

Por ejemplo, en todos y cada uno de los países, la gente consideraba que el vehículo debía dar prioridad a la seguridad de los niños y los jóvenes frente a la de las personas mayores. Sin embargo, la intensidad de esta preferencia variaba considerablemente. En los países occidentales, que obtienen una puntuación alta en individualismo, la preferencia era más marcada. En los países orientales, se concedía mayor valor a la vida de las personas mayores.

Los países también diferían en la medida en que daban prioridad a los peatones que cruzaban la calle de forma legal frente a los que lo hacían de forma imprudente. En los países con un mayor estado de derecho —una medida del cumplimiento de las leyes y la confianza en el gobierno—, la gente se mostraba más dispuesta a sacrificar a los que cruzaban de forma imprudente para salvar a los peatones que cruzaban legalmente.

Esto no se limita a cuestiones relacionadas con los futuros vehículos autónomos. También puede ser un problema para los modelos de lenguaje a gran escala (LLM) o los modelos de generación de imágenes. Hay aspectos que se interpretan de forma diferente según la cultura. Por ejemplo, en Occidente existe un fuerte consenso en que queremos eliminar los estereotipos de género en la IA. Sin embargo, hay otras culturas en las que la división tradicional del trabajo por géneros se considera aceptable o constituye una parte fundamental de su organización social.

Así que ahora nos encontramos en el ámbito de la política —y de las guerras culturales—. Podrías decir: “Quiero eliminar cualquier sesgo y todos los estereotipos de estos modelos, en todo el mundo”, y quizá eso sea lo correcto, ¿no? Pero es importante darse cuenta de que esa es una decisión que debe tomar alguien. La cuestión técnica es la más sencilla.

Así que usted no está diciendo qué se debería hacer, sino solo que los responsables políticos deberían reflexionar al respecto.

Así es. La ciencia puede poner de relieve algunas de estas tensiones, pero, por supuesto, no puede resolverlas. Por ejemplo, si preguntas a la gente, como ciudadanos, qué creen que debería hacer un vehículo, dirán que debería minimizar el número de víctimas, aunque eso perjudique a la persona que va dentro del vehículo. Sin embargo, si les preguntas en qué automóvil preferirían viajar o cuál comprarían, normalmente preferirán el vehículo que está programado para protegerlos.

Si la programación se deja en manos de las empresas, estas se adaptarán a las necesidades del consumidor y fabricarán vehículos que resten prioridad a la seguridad de los demás. Existe una dinámica similar con los modelos de lenguaje a gran escala: las empresas se ven impulsadas a satisfacer las demandas de los consumidores. La pregunta es: ¿qué consecuencias negativas podría tener esto para las personas que no compran el producto, pero que aún así podrían verse afectadas por sus decisiones? Si un vehículo protege solo a su conductor, o si un algoritmo de optimización solo tiene en cuenta los beneficios para su propietario, otras personas podrían resultar perjudicadas.

¿Quizás ayudaría que los conductores fueran considerados legalmente responsables de los daños causados a terceros?

No soy experto en derecho, pero me parece que, si es el vehículo el que toma todas las decisiones, sería extraño que el propietario fuera responsable, a menos que pudiera ajustar la configuración del vehículo. En ese sentido, los fabricantes de vehículos podrían tener un incentivo para ofrecerte la posibilidad de elegir, como un pequeño dial que permita a los propietarios controlar la distribución del riesgo. O también se podría imaginar que la gente utilizara actualizaciones de terceros para ajustar la ética de un vehículo.

¿Tiene alguna idea de cómo están abordando actualmente estas cuestiones las empresas automovilísticas?

Creo que, entre los fabricantes de automóviles, el debate general ahora gira en torno a intentar minimizar el daño de forma generalizada. Creo que aún no estamos en una fase en la que podamos distinguir si ciertos grupos se ven perjudicados con más frecuencia.

El historial de seguridad es bastante bueno, sin duda mejor que el de la conducción humana. Solo en EE.UU. se producen ahora entre 30.000 y 40.000 muertes en carretera al año, sin contar los heridos. Si el número de muertes en carretera causadas por los vehículos autónomos resulta ser mucho menor —lo que parece ser el caso actualmente, aunque, por supuesto, es demasiado pronto para estar seguros—, tal vez se pueda evitar el debate sobre las colisiones inevitables. Entonces, debemos comprender qué tipo de prioridades deben guiar el comportamiento de los vehículos en esos “casos límite”. Una vez que la sociedad haya acordado estas prioridades, los gobiernos necesitarán nuevos sistemas para supervisar el comportamiento de estos vehículos y hacer cumplir las normas.

En el artículo usted destaca que, aunque seamos nosotros mismos quienes paguemos por el sistema de IA o por el producto que lo incorpora, no debemos dar por sentado que la IA siempre tiene en cuenta nuestros mejores intereses.

Efectivamente. Algo con lo que experimentamos desde el principio y que ahora se está convirtiendo en realidad son lo que denominamos “IA con intereses propios”, entrenadas para servir a intereses distintos a los del usuario. Las empresas de IA pueden tener intereses que entren en conflicto con los nuestros, y esto no es nada nuevo. Siempre ha habido empresas que prefieren utilizar materiales más baratos, con las consiguientes consecuencias para la seguridad de los consumidores, por ejemplo. Por eso contamos con la regulación gubernamental. En el caso de la IA, todavía estamos tratando de averiguar cuáles son las analogías adecuadas. ¿En qué ámbitos requieren un mayor escrutinio las aplicaciones de IA —el médico, el jurídico, el financiero—? ¿Y en qué ámbitos pueden los consumidores juzgar por sí mismos?

Una de las cosas que ocurre cuando dejamos las decisiones morales en manos de la inteligencia artificial es que es posible que ya no nos sintamos tan responsables del resultado. ¿Cómo podría afectar esto a nuestro comportamiento?

Recientemente hemos realizado un estudio al respecto en el que las personas realizaban tareas por sí mismas o utilizaban la IA para llevarlas a cabo. La mayoría de las personas se sienten inhibidas a la hora de hacer trampa en exceso, pero la IA parece reducir esta inhibición. Al lanzar un dado y se les pide que informen ellos mismos de la puntuación, solo el 5 % de las personas hace trampa, aunque podrían salirse con la suya fácilmente. Sin embargo, si le dan instrucciones a un modelo de lenguaje a gran escala (LLM), la cifra asciende a alrededor del 25 % de personas dispuestas a hacer trampa.

Y si a las personas se les proporciona un dial giratorio que les permite equilibrar la honestidad frente a los ingresos, el 85 % hace trampa. Todas estas personas honestas se convierten en tramposas, probablemente porque pueden decir: “Solo le pedí que maximizara los ingresos, no le pedí que hiciera trampa”. Pueden surgir problemas similares en muchos aspectos de la vida, y esto será aún más problemático en el caso de los agentes de IA que buscan su propio camino para alcanzar tu objetivo, en lugar de seguir órdenes explícitas para actuar de forma poco ética.

¿Cómo cree que todo este tiempo que pasamos con los chatbots podría afectar la forma en que nos tratamos unos a otros?

Hemos realizado algunos estudios preliminares que muestran que las personas prefieren colaborar con otras personas antes que con sistemas de IA, incluso si estos son más amables. Sin embargo, un estudio más reciente ha revelado que también pueden empezar a preferir a las máquinas antes que a los humanos. Hicimos que los participantes jugaran a un “juego de confianza” financiero en el que tenían que elegir entre cooperar con un humano o con un bot. Al principio, la gente tenía prejuicios contra las máquinas. Pero una vez que aprendieron, tras varias rondas, que los bots eran en realidad más cooperativos y dignos de confianza que los humanos, empezaron a preferir a las máquinas.

Así pues, una vez que se solucione el problema del mal comportamiento de las IA, estas podrían empezar a superar a los humanos, incluso en el contexto de la interacción social. Hay gente que ya tiene amigos de IA, y quizá algunos de nosotros nos sintamos tentados a comportarnos más como una IA con los demás. Si las IA son siempre afirmativas y aduladoras, los amigos humanos podrían verse obligados a comportarse más como esa IA solo para poder competir. Si la única forma de conservar a un amigo humano fuera actuar como un bot adulador, ese sería un resultado terrible.

En realidad, no hemos analizado si la gente adopta la actitud de los chatbots, pero un estudio reciente nuestro sí demostró que ya estamos adoptando palabras que a los chatbots les gusta usar, siendo “delve” (que en español significa rebuscar en, hurgar en, ahondar en) el ejemplo más notorio.

Únase al canal de WhatsApp de Knowable en español

Haga clic aquí

De hecho, la gente está realizando mucho “delving” últimamente. Si, por ejemplo, la Unión Europea lo pusiera al frente de la regulación de la IA, ¿cuál sería su primera decisión? ¿Qué cree que se puede y se debe hacer ahora?

Si yo estuviera al mando, sería una auténtica tontería por mi parte dar por sentado que conozco todas las respuestas. Pero eso no significa que no hiciera nada. Lo que haría sería cambiar las normas para que las empresas tuvieran la obligación de poner a disposición de los científicos no solo sus datos, sino también el diseño de sus productos. Modificaría la normativa para que los experimentos con productos de IA pudieran ser realizados por científicos independientes, no por la buena voluntad de las empresas, sino por imperativo legal.

Los investigadores deberían poder analizar los algoritmos actuales y tal vez incluso modificarlos para llevar a cabo la mejor investigación posible sobre el impacto de estas tecnologías. De ese modo, podríamos responder a las grandes preguntas que se plantea la gente, como si la IA está aumentando la desinformación y la polarización, cuáles podrían ser los efectos sobre la salud mental de interactuar con la IA, etcétera. Podríamos certificar realmente que lo que, en esencia, son herramientas de uso generalizado no están generando problemas sociales a gran escala. Hay mucho en juego. No queremos frenar la innovación, pero deberíamos permitir que los científicos la estudien.

Artículo traducido por Debbie Ponchner