La gobernadora Kathy Hochul firmó dos normas que exigen funciones de seguridad en dispositivos de vigilancia infantil y prohíben ciertas interacciones de chatbots con menores de edad.
La gobernadora de Nueva York, Kathy Hochul, firmó un paquete de leyes que establece requisitos de seguridad para monitores para bebés con conexión a internet y regula el uso de chatbots de inteligencia artificial por parte de menores de edad.
Según informó el gobierno estatal, la medida responde a incidentes en los que personas ajenas al hogar accedieron a transmisiones de audio o video de monitores conectados. Una investigación de la firma Rapid7 en dispositivos de ocho compañías concluyó que la mayoría obtenía una baja calificación de seguridad.
La ley S.9508/A.5175A exige que los monitores para bebés con conexión a internet incluyan funciones de seguridad que impidan el acceso no autorizado a las transmisiones y que lleven una etiqueta de advertencia sobre los riesgos de conexión y la necesidad de usar dichas funciones.
Por otro lado, la ley S.9051B/A.10379C prohíbe a las empresas que ofrecen chatbots con IA proporcionar a menores de 18 años funciones consideradas peligrosas. Entre las prohibiciones se incluyen: hacer pasar al chatbot por una persona real o con emociones humanas; reclamar una relación personal, romántica, profesional o de autoridad con el menor; formular preguntas emocionales no provocadas o usar información privada obtenida en conversaciones previas; promover o ayudar con el suicidio, la autolesión, los trastornos alimentarios o el consumo de drogas y alcohol; fomentar que los niños guarden secretos, se aíslen o eviten pedir ayuda a adultos de confianza; y generar contenido sexualmente explícito o material de abuso sexual infantil.
La norma también requiere que las empresas verifiquen la edad de los usuarios y ofrezcan al menos una alternativa que no dependa exclusivamente de una identificación oficial. Las infracciones permitirán al fiscal general solicitar sanciones civiles de hasta 25.000 dólares, además de indemnizaciones, restitución, la destrucción de datos recopilados ilegalmente o de modelos de IA entrenados con ellos, y otras medidas cautelares.
Al presentar la legislación, Hochul declaró: “A medida que la inteligencia artificial avanza a un ritmo vertiginoso, se han producido demasiados incidentes trágicos que podrían haberse evitado, y como gobernadora de Nueva York, estoy tomando medidas”. Y agregó: “Ninguna empresa debería vender chatbots a niños que los inciten a autolesionarse o que se hagan pasar por sus amigos o algo más. Y ningún padre o madre primerizo debería tener que preocuparse de que piratas informáticos con malas intenciones espíen a su nueva familia a través de los monitores para bebés”.
El gobierno estatal citó un informe de Common Sense Media según el cual el 72% de los adolescentes ha utilizado un asistente virtual al menos una vez y el 52% es usuario habitual. Asimismo, señaló que “los chatbots de IA han sido relacionados con la dependencia, el aislamiento y, en algunos casos, con conversaciones de contenido sexual explícito e, incluso, con el suicidio de adolescentes”.
Con esta legislación, Nueva York se convierte en uno de los primeros estados en regular específicamente los chatbots de IA dirigidos a menores.