Expertos y empresas discuten la posibilidad de que los grandes modelos de lenguaje representen una amenaza para la humanidad. La renuncia de un investigador y las declaraciones de líderes tecnológicos avivan el debate.
El desarrollo de la inteligencia artificial (IA) ha generado un debate mundial sobre sus posibles riesgos. Geoffrey Hinton, premio Nobel de Física por sus contribuciones en IA, afirmó que los grandes modelos de lenguaje podrían convertirse en entidades sintientes. La discusión se intensificó tras la renuncia de Jacob Coxon a su puesto en Anthropic y su posterior publicación en la red social X, donde sostuvo que la IA podría acabar con la humanidad. El post superó los 120 millones de visualizaciones.
Dario Amodei, Sam Altman y Elon Musk, referentes de empresas de IA, coincidieron en que algo está sucediendo en los laboratorios de los modelos de frontera. La posibilidad de ralentizar el avance de la IA pasó a ocupar un lugar central en la agenda tecnológica. En ese contexto, el presidente de Estados Unidos, Donald Trump, escribió en la red Truth que no se deben frenar los avances que garantizan la supremacía del país en IA.
Algunos críticos sostienen que las advertencias podrían ser maniobras de las compañías para demorar sus salidas a la bolsa y construir una capa regulatoria que excluya a competidores más pequeños. Mark Zuckerberg, CEO de Meta, declaró que si algo sale mal, las empresas sufrirían daños reputacionales, por lo que se regularían solas. Especialistas en seguridad respondieron que, si el daño es suficientemente grande, la reputación pasa a un segundo plano y lo importante es si esos daños son irreversibles.
Los Large Language Models (LLMs) no fueron inventados, sino descubiertos. En 2017, un equipo de OpenAI buscaba clasificar sentimientos en textos y entrenó una red neuronal con reseñas de Amazon. Meses después, en Google, el paper ‘Attention is all you need’, liderado por Ashish Vaswani, creó los Transformers, tecnología que hizo posible Google Translate y ChatGPT. Google no valoró inicialmente el potencial y el equipo se dispersó para fundar startups. En OpenAI comprendieron el valor y desarrollaron la IA generativa, que logra entrar en el dominio semántico de los textos. Por tratarse de un descubrimiento y no de una invención, el control sobre esta tecnología es menor, según los expertos.