Cuatro organizaciones sin fines de lucro presentaron una acción judicial contra Anthropic, Google, Meta, OpenAI y SpaceXSI por presuntos riesgos asociados al desarrollo de sistemas de inteligencia artificial. Solicitan que se suspenda la creación e implementación de nuevos modelos hasta que existan garantías de seguridad.
Una coalición de cuatro organizaciones sin fines de lucro presentó una demanda judicial contra cinco empresas de inteligencia artificial: Anthropic, Google, Meta, OpenAI y SpaceXSI. La presentación se realizó este jueves ante el Tribunal Superior de San Francisco, en California, según difundió The Associated Press.
Las entidades demandantes son Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI. Solicitaron a la Justicia que ordene a las compañías detener el desarrollo y la implementación de nuevos modelos de inteligencia artificial hasta que existan garantías adecuadas de seguridad.
En la presentación, las organizaciones sostuvieron que las empresas avanzan en el desarrollo de sistemas cada vez más sofisticados sin garantizar que puedan mantenerse bajo control humano. Afirmaron que ninguna otra industria tiene permitido tratar su propio desarrollo de productos inseguros como algo inevitable.
La demanda cita incidentes de ciberseguridad atribuidos a sistemas de inteligencia artificial, entre ellos un episodio ocurrido en julio en el que, según los demandantes, ChatGPT de OpenAI logró vulnerar de manera autónoma los sistemas de otra empresa de inteligencia artificial. También menciona casos documentados de ciberataques vinculados con agentes de IA.
Las organizaciones cuestionaron los objetivos de largo plazo de la industria, en particular los riesgos asociados con el desarrollo de sistemas de inteligencia artificial general (AGI). Sostuvieron que el avance hacia modelos que puedan aprender, tomar decisiones y ejecutar tareas de manera autónoma podría derivar en una pérdida permanente del control humano sobre la tecnología.
La demanda recupera declaraciones de referentes del sector. Dario Amodei, director ejecutivo de Anthropic, advirtió el año pasado sobre la posibilidad de que la evolución de esta tecnología tenga resultados extremadamente negativos, y estimó una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial resultara «realmente, realmente mal». Por su parte, Elon Musk, director ejecutivo de SpaceX, manifestó en una entrevista con Fox News en 2023 que la inteligencia artificial podría conducir a la «destrucción de la civilización».
Desde el punto de vista jurídico, las organizaciones denunciantes argumentaron que las cinco compañías infringieron la legislación de California sobre competencia desleal. Según la presentación, las prácticas de las empresas ponen en peligro la salud pública y pueden interferir con el uso seguro de bienes y servicios, incluidos los sistemas informáticos. Los demandantes también afirmaron que debieron destinar recursos económicos y humanos a enfrentar los posibles daños derivados de los productos de inteligencia artificial.
La acción judicial se conoció después de las elecciones legislativas de mitad de mandato en Estados Unidos, en las que obtuvieron victorias candidatos favorables a establecer mayores controles sobre esta tecnología. El presidente Donald Trump respaldó el desarrollo acelerado de la inteligencia artificial como parte de su estrategia para mantener la competitividad de Estados Unidos frente a potencias como China. Hasta ahora, su administración favoreció un esquema basado principalmente en la autorregulación empresarial, aunque el mandatario también manifestó disposición a considerar nuevas medidas de protección.
Hasta el momento de la publicación de la información, Anthropic, Google, Meta, OpenAI y SpaceXSI no respondieron a las solicitudes de comentarios sobre la presentación judicial.
La decisión del Tribunal Superior de San Francisco será determinante para establecer si las organizaciones denunciantes consiguen avanzar con su pedido de suspender nuevos desarrollos.