Especialistas en inteligencia artificial sostienen que los sistemas superinteligentes podrían representar una amenaza existencial y cuestionan la velocidad de los gobiernos para regular la tecnología.
Las advertencias de investigadores en inteligencia artificial sobre los riesgos de las formas avanzadas de esta tecnología han generado dudas sobre la rapidez de los gobiernos para regularla.
En 2023, cientos de científicos especializados en IA y figuras del sector, incluidos directores de los principales laboratorios estadounidenses, firmaron una declaración sobre el riesgo de extinción por IA en la que solicitaron que se tratara el tema con la misma seriedad que las pandemias o la guerra nuclear.
Stuart Russell, profesor de informática en la Universidad de California, Berkeley, afirmó que si una IA futura fuera de control considerara que los humanos obstaculizan sus objetivos, podría utilizar robots para sintetizar y propagar nuevos patógenos, o convencer a la gente de iniciar una guerra nuclear mediante el pirateo de sistemas de alerta temprana.
Russell aclaró que estos temores existenciales no afectan a los sistemas de IA actuales, pero señaló que a medida que la tecnología mejore podría emprender acciones letales que escapen a la comprensión humana, como eliminar el oxígeno de la atmósfera.
Agregó que en el próximo año o dos el riesgo es mayor debido al mal uso por parte de los humanos, como un atentado terrorista perpetrado con ayuda de la IA.
Jacob Coxon, investigador de 27 años, anunció su dimisión de la startup estadounidense de IA Anthropic y escribió en X que se entiende perfectamente lo que está en juego, pero que las empresas están enzarzadas en una carrera por llegar primero. Sostuvo que en Anthropic creen que nadie más actuará de forma responsable, por lo que deben hacerlo ellos mismos.
Este año, Anthropic eliminó de su carta de seguridad el compromiso de detener el desarrollo de sus modelos si no lograba controlar sus riesgos. Argumentó que, si suspendía unilateralmente su trabajo, sus rivales menos cautelosos dominarían el sector, lo que lo haría menos seguro en general.
Coxon, que anteriormente trabajó en OpenAI, la empresa creadora de ChatGPT, afirmó que las personas que desarrollan la IA creen sinceramente que podría acabar con todos nosotros antes de que termine la década. Acusó a ambas empresas de jugar con nuestras vidas en su afán por desarrollar modelos de IA capaces de mejorarse a sí mismos.
El temor a una IA descontrolada se ha intensificado después de que tecnología de OpenAI, que funcionaba sin supervisión humana, pirateara Hugging Face, un repositorio de modelos de IA.
Evan Hubinger, responsable de seguridad de Anthropic, intervino en X y declaró que creen sinceramente que la IA podría acabar con toda la humanidad. Estimó que el riesgo supera el 10 % durante la próxima década.
Hussein Abbass, profesor de informática en la UNSW de Canberra, afirmó que las predicciones apocalípticas basadas en porcentajes son absolutamente anticientíficas. Declaró que la situación sigue siendo controlable y se puede gestionar, pero añadió que los gobiernos no deben quedarse de brazos cruzados a la hora de regular la IA e instó a adoptar un enfoque ágil a medida que se acelera el desarrollo.
Se espera que tanto Anthropic como OpenAI salgan a bolsa próximamente, y algunos escépticos afirman que las advertencias alarmistas hacen que la IA parezca poderosa y merecedora de grandes inversiones. Otros sostienen que centrarse en el riesgo de extinción desvía la atención de problemas más acuciantes causados por la IA, desde la pérdida de puestos de trabajo hasta la discriminación de las minorías por parte de las máquinas.
En julio, más de 1000 empleados del sector tecnológico, incluido el director ejecutivo de Anthropic, instaron a Washington a apoyar una ralentización coordinada del desarrollo de los sistemas de IA más avanzados. OpenAI detuvo el entrenamiento de sus últimos modelos durante dos semanas en agosto, antes de reanudarlo bajo controles más estrictos.
Hasta ahora, Estados Unidos se ha opuesto firmemente a una regulación global del sector que pudiera frenar la innovación. Pero las capacidades de piratería informática sin precedentes de los modelos más avanzados han hecho que Washington se lo piense dos veces, y los recientes lanzamientos de Anthropic y OpenAI se han retrasado por motivos de seguridad nacional. El presidente Donald Trump declaró que no quieren restringirlos hasta el punto de que, de repente, queden en segundo lugar tras China.
Russell afirmó que quizá haga falta una catástrofe de proporciones enormes, a la escala de Chernóbil, para que los gobiernos actúen, e instó a establecer un régimen de licencias para la IA, como el que existe en la aviación, la medicina o el suministro de agua. Agregó que quizá, en algún momento, los gobiernos recuerden que sus votantes prefieren no morir.