Un grupo de investigadores de IA ha escrito una carta abierta en la que pide a los laboratorios que dejen de trabajar en programas avanzados de IA, al menos de momento. Publicada por la organización sin ánimo de lucro Future of Life Institute, los firmantes -entre los que se encuentran Elon Musk, Andrew Yang y destacadas autoridades en IA.
En su carta dicen que es "una carrera fuera de control para desarrollar y desplegar mentes digitales cada vez más potentes" sin tener en cuenta las posibles consecuencias. "Los sistemas de IA con inteligencia competitiva con la humana pueden plantear profundos riesgos para la sociedad y la humanidad, como demuestran numerosas investigaciones y reconocen los principales laboratorios de IA", comienza la carta. "La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debería planificarse y gestionarse con el cuidado y los recursos adecuados".
El llamamiento a la acción llega en medio de un avance de la IA en todo el sector, en el que los programas están aumentando para competir con los humanos a la hora de ejecutar tareas generales. Pero los firmantes afirman que, de cara al futuro, la IA sólo debe desarrollarse cuando se sepa que sus efectos serán positivos, así como que sus riesgos son manejables. "Por lo tanto, pedimos a todos los laboratorios de IA que suspendan inmediatamente durante al menos 6 meses el entrenamiento de sistemas de IA más potentes que el GPT-4", dice la carta. "Esta pausa debe ser pública y verificable, e incluir a todos los actores clave".
La carta concluye diciendo que, si esa pausa no se lleva a cabo rápidamente, los gobiernos deberían intervenir. Y nuestra pregunta es… ¿No será que son ellos los que quieren controlar el futuro?
Σχόλια