Los riesgos ocultos de la inteligencia artificial

La gobernanza de la inteligencia artificial (IA) enfrenta desafíos que a menudo son pasados por alto, y esta realidad es aún más alarmante que la amenaza de una bomba atómica. En este artículo, exploraremos cinco riesgos significativos que nuestros actuales marcos de gobernanza apenas registran y cómo estos son más difíciles de abordar de lo que podríamos imaginar.

Verdades inquietantes en el desarrollo de la IA

Recientemente, OpenAI dio un paso audaz al publicar 722 manuscritos que prometían resolver problemas matemáticos de larga data. Sin embargo, la retirada de algunos de estos debido a errores nos lleva a cuestionar la dependencia creciente en las máquinas para comprender el universo. Esto ilustra que el verdadero peligro no reside en las máquinas, sino en las decisiones humanas acerca de cómo se desarrollan y utilizan.

Cinco riesgos clave

1. Concentración de poder

Las tecnologías más avanzadas son desarrolladas por unas pocas empresas en solo dos países, dejando al resto del mundo sin voz en su propio desarrollo. La falta de regulación y de diálogos adecuados exacerba esta situación, creando una ruta de destrucción asegurada, donde la gobernanza se estanca mientras la tecnología avanza velozmente.

2. Erosión del juicio humano

El uso extensivo de la IA puede liberar nuestra mente, pero también hay riesgos serios cuando delegamos la comprensión y el juicio a las máquinas. La reciente protesta de matemáticos contra OpenAI refleja esta preocupación, ya que la comprensión detrás de la solución es tan fundamental como el resultado mismo.

3. Degradación de la deliberación democrática

La IA tiene el potencial de fortalecer la democracia, pero también puede manipular la información que recibimos. El control que tienen unas pocas empresas sobre qué información se difunde plantea un riesgo para el desarrollo de una opinión pública informada y crítica.

4. Pérdida de propósito y pertenencia

La automatización no solo desplaza empleos, sino que también amenaza el sentido de pertenencia en las personas. Aunque un ingreso universal pueda brindar seguridad material, no aborda la necesidad de participar activamente en la vida social y sentirse valorado.

5. Diseño indiferente de sistemas

Los sistemas de IA suelen ser diseñados con el objetivo de maximizar la eficiencia, sin considerar su impacto en el bienestar humano. Esto puede llevar a consecuencias desastrosas que nadie quiso, como planteó el filósofo Nick Bostrom, donde un sistema podría destruir todo por pura indiferencia.

Un desafío mucho más complejo

A diferencia de la amenaza inmediata de la bomba atómica, que es visible y genera acuerdos para evitar su uso, los riesgos de la IA son sutiles y acumulativos. Este proceso gradual es difícil de abordar políticamente, lo que representa un desafío significativo para nuestra sociedad.

Hacia una gobernanza efectiva

Figuras como el Papa León XIV han empezado a tomar la delantera al abogar por una “desmilitarización” de la IA. Si bien estas intervenciones son valiosas, aún queda el desafío fundamental de cómo mantener nuestra capacidad de entendimiento y juicio en un mundo donde las máquinas producen un volumen creciente de información.

Conclusión

En el contexto mexicano, el reconocimiento de estos riesgos presentar una oportunidad para abordar los desafíos sin intereses ocultos. No estamos atados a los sistemas existentes, lo que nos permite abogar por regulaciones que protejan a la mayoría de la humanidad. Con decisiones adecuadas, estos cinco riesgos pueden ser abordados eficazmente.

Aspectos clave a recordar

• La concentración de poder afecta a la toma de decisiones globales en tecnología.
• La delegación de juicio a la IA puede erosionar nuestra capacidad de discernimiento.
• El control de la información pone en riesgo la calidad de la democracia.
• El diseño de sistemas tecnológicos debe considerar el bienestar humano en su creación.