El 29 de marzo de 2023, el Future of Life Institute publicó una carta abierta con una demanda provocativa: pausar el desarrollo de IA durante seis meses.

La carta advertía de "riesgos profundos para la sociedad y la humanidad" y fue firmada por más de 2,600 personas, incluidos Elon Musk, Steve Wozniak y destacados investigadores de IA.

Los laboratorios de IA leyeron la carta, reconocieron las preocupaciones y siguieron construyendo de todos modos. La pausa nunca ocurrió, pero la conversación que inició continúa hoy.

La Advertencia

La pregunta inicial de la carta fue contundente: "¿Deberíamos permitir que las máquinas inunden nuestros canales de información con propaganda y mentiras? ¿Deberíamos automatizar todos los trabajos, incluidos los gratificantes? ¿Deberíamos desarrollar mentes no humanas que eventualmente podrían superarnos en número, inteligencia, obsolescencia y reemplazarnos?"

Estas no eran preocupaciones hipotéticas. GPT-4 acababa de lanzarse. Los generadores de imágenes estaban creando falsificaciones fotorrealistas. Las capacidades de IA avanzaban más rápido de lo que nadie había predicho.

Lo Que Propusieron

La carta pedía a todos los laboratorios de IA "pausar inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que GPT-4".

Durante esta pausa, los laboratorios y gobiernos deberían:

• Desarrollar protocolos de seguridad compartidos
• Crear sistemas robustos de gobernanza de IA
• Implementar auditorías y supervisión
• Establecer responsabilidad por daños causados por IA

Si los laboratorios no pausaban voluntariamente, los gobiernos deberían intervenir e imponer una moratoria.

Los Firmantes

La lista de partidarios fue impresionante y diversa.

Figuras Tecnológicas:

• Elon Musk (aunque simultáneamente estaba desarrollando su propia empresa de IA, xAI)
• Steve Wozniak (cofundador de Apple)
• Emad Mostaque (CEO de Stability AI)
• Jaan Tallinn (cofundador de Skype)

Investigadores de IA:

• Stuart Russell (autor de libro de texto de IA)
• Yoshua Bengio (ganador del Premio Turing)
• Gary Marcus (crítico e investigador de IA)
• Max Tegmark (físico, defensor de la seguridad de IA)

Otros:

• Autores, emprendedores, académicos, expertos en políticas

Más de 2,600 firmantes iniciales, creciendo a más de 30,000 en las siguientes semanas.

Las Críticas

No todos pensaron que la carta fuera una buena idea.

El Argumento de la Hipocresía

Los críticos señalaron inmediatamente que Elon Musk estaba desarrollando su propia empresa de IA (xAI) mientras pedía a otros que pausaran. ¿Era esto preocupación genuina o estrategia competitiva?

El CEO de Stability AI firmó la carta mientras su empresa continuaba lanzando nuevos modelos. La inconsistencia era evidente.

El Argumento de la Impracticabilidad

Incluso los partidarios reconocieron que la pausa era poco probable que ocurriera. ¿Quién la haría cumplir? ¿Qué pasa con los laboratorios en China, Rusia u otros países fuera de la influencia occidental?

Una pausa voluntaria solo funciona si todos están de acuerdo. En una carrera competitiva, pausar significa quedarse atrás.

El Argumento del Enfoque Equivocado

Algunos investigadores de seguridad de IA argumentaron que la carta se enfocaba en los riesgos equivocados. Las amenazas existenciales especulativas (IA reemplazando a la humanidad) distraían de los daños inmediatos: sesgo, desinformación, desplazamiento laboral y violaciones de privacidad.

Anthropic (creadores de Claude) notablemente no firmó la carta, con el CEO Dario Amodio explicando que creían que el desarrollo responsable era mejor que pausar.

La Respuesta de la Industria

Los principales laboratorios de IA educadamente ignoraron la carta.

OpenAI continuó desarrollando mejoras a GPT-4 y trabajando en GPT-5.

Google aceleró el desarrollo de Bard y Gemini para ponerse al día con ChatGPT.

Anthropic siguió construyendo Claude con su enfoque de seguridad de "IA Constitucional".

Meta hizo de código abierto a Llama 2 solo cuatro meses después.

La pausa nunca estuvo cerca de suceder.

Por Qué Los Laboratorios No Se Detuvieron

La dinámica competitiva hizo que pausar fuera imposible:

Ventaja del primero: Pausar significaba que los competidores saltarían adelante Intereses nacionales: El desarrollo de IA china no se detendría solo porque los laboratorios occidentales pausaran Presión económica: Miles de millones en inversión exigían progreso Desacuerdo técnico: Muchos investigadores no creían que los riesgos justificaran detenerse

Lo Que Logró La Carta

A pesar de la falta de una pausa real, la carta tuvo impacto.

1. Popularizó las Preocupaciones de Seguridad

Antes de la carta, las preocupaciones de seguridad de IA se discutían principalmente en círculos académicos. La carta las llevó a los medios principales.

De repente, la gente común estaba debatiendo riesgos existenciales de IA. Los gobiernos prestaron atención. La conversación cambió.

2. Presionó por Acción Regulatoria

La carta dio permiso a los legisladores para actuar. Si los propios líderes tecnológicos pedían límites, la regulación parecía menos una interferencia anti-innovación.

La UE aceleró la Ley de IA. El Reino Unido organizó una Cumbre de Seguridad de IA. Estados Unidos creó un grupo de trabajo de IA.

3. Legitimó la Disidencia

La carta mostró que cuestionar el rápido despliegue de IA no era ludismo: investigadores respetados y personas internas de la industria compartían preocupaciones.

Esto animó a otros a expresar preocupaciones sobre los riesgos de IA sin temor a ser descartados como anti-progreso.

El Debate Continuo

La tensión fundamental que expuso la carta no se ha resuelto.

El Campo del Progreso argumenta que la IA beneficia a la humanidad y ralentizarse significa perder oportunidades para resolver problemas importantes (enfermedad, clima, pobreza).

El Campo de la Cautela argumenta que apresurarse sin entender los riesgos podría ser catastrófico, y es mejor ir despacio y hacerlo bien.

El Camino Medio argumenta por el desarrollo responsable: seguir construyendo pero con investigación de seguridad, equipos rojos y gobernanza junto con investigación de capacidades.

La mayoría de los principales laboratorios afirman seguir el camino medio. Si están haciendo lo suficiente es muy debatido.

¿Dónde Están Ahora?

No ocurrió ninguna pausa. El desarrollo de IA se aceleró si acaso. 2023 y 2024 vieron una explosión de nuevos modelos, capacidades y aplicaciones.

Pero la conversación que inició la carta continúa. Las conferencias de seguridad de IA están llenas. Los gobiernos de todo el mundo están desarrollando regulaciones de IA. Las empresas han creado equipos de seguridad de IA y directores de IA.

Elon Musk, quien firmó la carta, lanzó xAI en julio de 2023 y lanzó Grok, su propio modelo de IA. La ironía no pasó desapercibida para nadie.

El Future of Life Institute, que publicó la carta, continúa abogando por la investigación y gobernanza de seguridad de IA. Ven la falta de pausa como evidencia de que la autorregulación voluntaria de la industria no funciona.

El 29 de marzo de 2023 no ralentizó el desarrollo de IA. Pero sí estableció que las preocupaciones sobre los riesgos de IA son legítimas, principales y dignas de tomarse en serio, incluso si la solución propuesta nunca se implementó.

La pregunta que hizo la carta permanece sin respuesta: ¿Estamos construyendo sistemas de IA demasiado poderosos para controlar, demasiado rápido para gobernar? Todavía estamos corriendo hacia adelante. Si eso es imprudente o necesario depende de a quién le preguntes.