La carta que pidió frenar seis meses la carrera de la IA no detuvo nada. Pero dejó una pregunta abierta: ¿quién pone las reglas?

Entrada

En marzo de 2023, más de mil personas —entre investigadores, empresarios y figuras públicas— respaldaron una carta que pedía frenar durante seis meses el entrenamiento de sistemas de inteligencia artificial más potentes que GPT‑4. No pedían apagar ChatGPT, prohibir toda investigación ni desconectar los modelos que ya existían. Pedían detener una parte muy concreta de la carrera para acordar medidas de seguridad.

Piensa en dos empresas construyendo aviones cada vez más rápidos mientras todavía discuten quién revisa los frenos. La carta proponía parar el siguiente despegue, no cerrar el aeropuerto. El problema era que nadie tenía autoridad suficiente para obligar a todos a quedarse en tierra.

Qué pasó de verdad

El Future of Life Institute publicó la carta el 22 de marzo de 2023. La cobertura periodística tomó fuerza el 29. El llamado estaba dirigido a “todos los laboratorios de IA” y pedía una pausa de al menos seis meses en el entrenamiento de sistemas más potentes que GPT‑4, el modelo que OpenAI había presentado ocho días antes.

En términos sencillos, “entrenar” un modelo significa usar grandes cantidades de ejemplos y capacidad de cómputo para ajustar sus parámetros hasta que aprenda a producir respuestas. La carta apuntaba a las grandes corridas de entrenamiento de sistemas de frontera —los modelos más capaces del momento—, no a cualquier ajuste menor, a una actualización de una aplicación ni al uso cotidiano de los modelos disponibles.

La carta pedía que la pausa fuera pública y verificable. Durante ese tiempo, laboratorios y expertos debían acordar protocolos comunes de seguridad, con supervisión externa. Si las empresas no frenaban voluntariamente, el texto sugería que los gobiernos intervinieran.

Yoshua Bengio explicó públicamente por qué firmó. Stuart Russell, Elon Musk y Steve Wozniak figuraron entre los nombres publicados por FLI. Eso le dio visibilidad al llamado, pero no lo convirtió en la posición de “todos los expertos”. La propia organización reconoció que algunas personas añadieron nombres incorrectos o maliciosos; por separado, WIRED documentó que el investigador Ken Holstein pidió retirar el suyo. Una lista larga puede demostrar apoyo. No demuestra consenso y, si la verificación es débil, tampoco permite tratar cada nombre como igualmente comprobado.

Lo que esto cambió

Seis meses después, Axios constató que los principales laboratorios no habían realizado la pausa solicitada. Tampoco existía un sistema internacional capaz de comprobar quién había detenido qué entrenamiento.

La carta ayudó a trasladar el debate. Buena parte de la conversación pública giraba alrededor de lo sorprendente que era ChatGPT: redactaba, resumía y respondía preguntas con una fluidez nueva. El llamado puso bajo una luz más visible la velocidad de desarrollo, los controles de seguridad, la concentración de capacidad y la ausencia de reglas compartidas. No fue la única causa de esa conversación ni puede atribuirse por sí solo las regulaciones posteriores.

También dejó una distinción útil. Una cosa es pedir más investigación sobre seguridad. Otra es conseguir que empresas rivales, países rivales y laboratorios con recursos muy distintos acepten frenar al mismo tiempo. La primera depende de conocimiento. La segunda depende de poder, incentivos y capacidad de inspección.

¿Quién podía ganar con la pausa?

Los defensores del llamado sostenían que una pausa daría tiempo para diseñar evaluaciones, auditorías y reglas antes de construir sistemas más potentes. Si funcionaba como prometían, el beneficio era colectivo: menos improvisación frente a una tecnología que ya estaba entrando a oficinas, colegios, medios y gobiernos.

Lectura de Cursónica: una pausa también podía favorecer a quienes ya estaban adelante. OpenAI ya había lanzado GPT‑4 y los grandes laboratorios disponían de más infraestructura y capacidad de cómputo que un equipo pequeño. Congelar la frontera durante seis meses no borraba esa ventaja. Podía incluso consolidarla si las organizaciones pequeñas frenaban mientras los actores con más recursos seguían investigando dentro de una definición ambigua de “más potente”. Es un escenario razonado, no un efecto que la pausa llegara a demostrar.

Ahí estaba la grieta política del llamado: pedía cooperación en una carrera construida sobre la competencia. Muy elegante en una carta. Bastante más difícil cuando hay miles de millones de dólares, prestigio nacional y poder empresarial en juego.

¿Quién asumía el costo?

Una pausa real habría retrasado productos e inversión. Como escenario, también podía dificultar financiación o acceso a recursos para equipos pequeños. Continuar sin controles trasladaba otra clase de riesgo: por ejemplo, una empresa podía usar un modelo todavía opaco para filtrar hojas de vida y una persona rechazada no tendría cómo saber si el sistema se equivocó. No todos los daños asociados con la IA dependían de entrenar un modelo más potente; el punto era que aumentar capacidad sin evaluación ampliaba la superficie de decisiones que podían quedar mal explicadas.

La discusión no era “innovación o miedo”. Era quién tenía derecho a decidir cuánto riesgo debía aceptar el resto de la sociedad para que la carrera siguiera avanzando.

La parte que no te estaban contando

La expresión “más potente que GPT‑4” parecía precisa, pero no lo era tanto. ¿Más potente en qué: escritura, programación, imágenes, autonomía, capacidad de engañar, costo? Sin una prueba común, dos laboratorios podían afirmar cosas distintas y ambos decir que estaban cumpliendo.

Tampoco existía una autoridad global con acceso a los entrenamientos privados de todas las empresas. Verificar la pausa habría requerido saber qué sistemas se estaban construyendo, con cuánta capacidad de cómputo y bajo qué evaluaciones. Eso abre un costo democrático concreto: ¿qué entidad podría inspeccionar esos datos empresariales o estatales, con qué límites y ante quién respondería? La carta pedía tiempo para crear gobernanza, pero necesitaba parte de esa gobernanza para que la pausa pudiera funcionar.

Lo que sabemos y lo que no

Hecho comprobado: la carta pidió una pausa mínima de seis meses para entrenamientos de sistemas más potentes que GPT‑4; no pidió detener toda la investigación en IA. También pidió protocolos compartidos, auditoría externa y posible intervención gubernamental si no había acuerdo voluntario.

Hecho comprobado: Axios constató seis meses después que los principales laboratorios no realizaron la pausa solicitada y que el desarrollo de modelos avanzados continuó.

Lectura de Cursónica: el valor duradero de la carta no está en haber frenado la carrera —no lo hizo— sino en haber hecho visible un vacío de autoridad. Las empresas podían aumentar la capacidad de los modelos más rápido de lo que gobiernos y sociedad podían acordar cómo evaluarlos.

Todavía no sabemos: una pausa bien diseñada habría reducido daños o simplemente habría desplazado el desarrollo hacia actores y países menos transparentes. La carta planteó esa posibilidad, pero no podía demostrar el resultado de una política que nunca llegó a aplicarse.

Por qué debería importarte

Esta discusión aparece cada vez que una organización te pide confiar en que su sistema es seguro porque ella misma lo evaluó. Puede ser un chatbot en el trabajo, una herramienta que revisa hojas de vida o un modelo usado por una entidad pública.

La pregunta útil no es solo “¿funciona?”. Pregunta también: ¿quién definió la prueba?, ¿quién puede revisar el resultado?, ¿qué ocurre si el sistema falla? Una promesa de autocontrol no reemplaza una regla verificable. Y una regla sin alguien capaz de hacerla cumplir es apenas una recomendación con buena diagramación.

Lo que aprendiste hoy

Una moratoria es una suspensión temporal de una actividad. Para que sirva necesita cuatro cosas: un alcance preciso, participantes identificables, una forma de verificar el cumplimiento y una consecuencia para quien no cumpla.

Ese criterio funciona más allá de esta carta. La próxima vez que una empresa o un gobierno prometa “frenar”, “regular” o “usar responsablemente” una IA, busca esas cuatro piezas. Si falta una, todavía no tienes una garantía. Tienes una intención.

Fuentes y metodología

• Fuente primaria: Future of Life Institute, *Pause Giant AI Experiments: An Open Letter*, fechada el 22 de marzo de 2023. Define alcance, duración y medidas solicitadas. https://futureoflife.org/open-letter/pause-giant-ai-experiments/
• Aclaración del organizador: Future of Life Institute, preguntas frecuentes, 31 de marzo de 2023. Distingue la pausa solicitada de una suspensión general de investigación. https://futureoflife.org/ai/faqs-about-flis-open-letter-calling-for-a-pause-on-giant-ai-experiments/
• Firmante, explicación propia: Yoshua Bengio, 5 de abril de 2023. Explica por qué firmó y aclara que cada firmante no asumía todas las opiniones de los demás. https://yoshuabengio.org/en/blog/slowing-down-development-ai-systems-passing-turing-test
• Contraste contemporáneo: WIRED, 29 de marzo de 2023. Documentó firmantes, controversia y retiro de al menos un nombre cuestionado. https://www.wired.com/story/chatgpt-pause-ai-experiments-open-letter/
• Contraste posterior: Axios, 22 de septiembre de 2023. Verificó que la pausa de seis meses no ocurrió y examinó el efecto político posterior. https://www.axios.com/2023/09/22/ai-letter-six-month-pause

Método: separamos el texto original de la carta, la interpretación de sus firmantes, las críticas contemporáneas y lo que ocurrió durante los seis meses posteriores. No usamos el número actual de firmas como dato fijo porque la lista siguió cambiando.