El interés por la inteligencia artificial se ha desplazado drásticamente durante el año pasado, pasando de las preocupaciones por la interrupción del software como servicio hasta las pérdidas de empleo y ahora la posible extinción humana, según un estratega de Deutsche Bank.
El CEO de Anthropic, Dario Amodei, y el CEO de OpenAI, Sam Altman, han advertido cada uno que el ritmo acelerado del desarrollo de las capacidades de IA necesita ralentizarse para que las medidas de seguridad puedan mantenerse al mismo ritmo. Sus comentarios han atraído una gran atención pública, incluso mientras sus empresas continúan impulsando sistemas cada vez más poderosos.
Amodei describió su posición en un ensayo de 3.800 palabras publicado el sábado. "En los últimos meses, he llegado a la convicción de que para abordar plenamente los riesgos es necesario ser aún más prudente, no solo invertir en la prevención de riesgos, sino adaptar la velocidad de avance de las capacidades para que la prevención tenga tiempo de mantenerse al día. Debemos ralentizar el ritmo con el que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un buen uso del tiempo que ganamos".
Altman manifestó su acuerdo poco después, y luego expuso sus preocupaciones en un post en X el lunes. Describió dos modos específicos de fracaso: primero, perder el control del futuro a manos de la propia IA, algo que calificó de inaceptable; y segundo, la extrema concentración del poder, en la que una sola persona o empresa podría imponer su visión del mundo a todos los demás a través de un sistema extraordinariamente poderoso.
"Evitar estas dos amenazas requiere caminar por un estrecho camino intermedio", dijo Altman, mencionando el riesgo de que un país o un laboratorio obtengan demasiado dominio.
El director ejecutivo de Nvidia, Jensen Huang, tiene una opinión diferente cuando se le pregunta en una conferencia el Lunes sobre las predicciones de un riesgo del 10% de extinción humana debido a la IA. «Todas estas predicciones han sido erróneas», dijo.
Cox, de Deutsche Bank, señaló que incluso los pensadores más distinguidos tienen un historial poco brillante a la hora de predecir las trayectorias tecnológicas y sus efectos en el mundo real. El en juego no se limita al riesgo existencial a largo plazo, escribió Cox, sino que también afecta al futuro inmediato del actual auge de la IA, que depende de que el hype se traduzca finalmente en una realidad comercial.
