Max Tegmark: "Las grandes tecnológicas han distraído al mundo del riesgo existencial que representa la inteligencia artificial"

En una entrevista para The Guardian mientras se celebra una cumbre sobre la inteligencia artificial en Corea del Dur, Tegmark declara que las empresas tecnológicas han llevado la atención sobre la seguridad de la inteligencia artícial para distraer del riesgo que supone para la continuidad de la propia vida. Él ha propuesto una pausa de seis meses en la investigación avanzada de IA debido a los temores que suscitan hechos como el lanzamiento del modelo GPT-4 de Open AI. 

"En 1942, Enrico Fermi construyó el primer reactor con una reacción nuclear en cadena autosostenida debajo de un campo de fútbol de Chicago", dijo Tegmark. “Cuando los principales físicos de la época se enteraron de esto, se asustaron mucho, porque se dieron cuenta de que se acababa de superar el mayor obstáculo que quedaba para construir una bomba nuclear. Se dieron cuenta de que faltaban sólo unos años y, de hecho, eran tres años, con la prueba Trinity en 1945".

“Los modelos de IA que pueden pasar la prueba de Turing [donde alguien no puede decir en una conversación que no está hablando con otro ser humano] son la misma advertencia para el tipo de IA sobre la que se puede perder el control. Es por eso que ahora personas como Geoffrey Hinton y Yoshua Bengio –e incluso muchos directores ejecutivos de tecnología, al menos en privado– están enloqueciendo”.

A pesar de las miles de firmas de expertos como Hinton y Bengio, dos de los tres “padrinos” de la IA, que fueron pioneros en el enfoque del aprendizaje automático que sustenta este campo hoy en día, no se acordó ninguna pausa. De hecho, el enfoque de la regulación internacional sobre la IA se ha alejado del riesgo existencial que puede suponer.

En Seúl, sólo uno de los tres grupos de “alto nivel” abordó directamente la seguridad y analizó el “espectro completo” de riesgos, “desde violaciones de la privacidad hasta perturbaciones en el mercado laboral y posibles resultados catastróficos”. Tegmark sostiene que restar importancia a los riesgos más graves no es saludable y no es accidental.

"Eso es exactamente lo que predije que sucedería gracias al lobby de la industria", dijo. “En 1955, aparecieron los primeros artículos en revistas que decían que fumar causa cáncer de pulmón, y uno pensaría que muy rápidamente habría alguna regulación. Pero no, fue necesario esperar a 1980, porque hubo un gran impulso por parte de la industria para distraer. Siento que eso es lo que está pasando ahora".

Tegmark piensa que los líderes tecnológicos se sienten atrapados en una situación imposible en la que, incluso si quisieran detenerse, no pueden hacerlo. Si un director ejecutivo de una empresa tabacalera se despierta una mañana y siente que lo que está haciendo no está bien, ¿qué pasará? Van a reemplazar al director ejecutivo. "Así que la única manera de conseguir que la seguridad sea lo primero es que el gobierno establezca normas de seguridad para todos”, remata.