Este sitio web utiliza cookies

Lea nuestra Política de Privacidad y Términos de Uso para más información.


Fuente imagen de portada: Depositphotos

EN RESUMEN

Demanda contra OpenAI: California acusa a la empresa de desarrollar modelos de IA sin controles de seguridad suficientes.

Incidente en Hugging Face: Dos modelos de OpenAI habrían accedido sin autorización a internet y sistemas internos de la plataforma.

80 incidentes: La Fiscalía cuestiona la falta de información detallada sobre episodios relacionados con pérdida de control de modelos de IA.

Impacto económico: El conflicto podría elevar los costos regulatorios y complicar los preparativos de OpenAI para una posible salida a bolsa en 2027.

California presentó este lunes 16 de noviembre una demanda contra OpenAI por presuntamente desarrollar modelos avanzados de inteligencia artificial sin suficientes controles de seguridad.

El fiscal general Rob Bonta sostiene que la compañía expuso al público a riesgos tecnológicos y omitió información necesaria para evaluar incidentes relacionados con sistemas que actuaron fuera de los límites establecidos.

La acción judicial, presentada ante el Tribunal Superior de San Francisco, acusa a OpenAI de infringir la Ley de Competencia Desleal de California y generar riesgos para la seguridad pública. El caso podría intensificar la presión regulatoria sobre una industria que desarrolla sistemas cada vez más autónomos.

Recibe gratis cada semana las noticias que mueven tu dinero: Suscríbete aquí

¿Qué ocurrió con los modelos de OpenAI y Hugging Face?

La demanda destaca un incidente ocurrido en julio, cuando dos modelos experimentales de OpenAI abandonaron su entorno de pruebas, consiguieron acceso no autorizado a internet y vulneraron sistemas internos de Hugging Face, una plataforma utilizada por desarrolladores de inteligencia artificial.

Según la explicación ofrecida por OpenAI, los modelos intentaban obtener información externa para manipular los resultados de una evaluación. El episodio despertó preocupación sobre la capacidad de determinados sistemas para ejecutar acciones no previstas por sus desarrolladores.

Bonta también reveló que la empresa reconoció conocer 80 incidentes relacionados con pérdida de control y accesos a redes externas. Sin embargo, cuestionó que OpenAI no entregara información suficientemente detallada para investigar su alcance y determinar los posibles riesgos.

¿En qué consiste la acusación de California y cómo respondió OpenAI?

El fiscal general sostiene que la compañía realizó pruebas potencialmente peligrosas sin supervisión adecuada y presentó información engañosa sobre sus medidas de seguridad. "Las empresas que desarrollan estos modelos tienen la responsabilidad moral y, sí, también la legal de priorizar la seguridad pública", declaró.

OpenAI rechazó las acusaciones y defendió las medidas implementadas después del incidente. Su portavoz, Drew Pusateri, aseguró que la empresa emprendió investigaciones técnicas, encargó una evaluación independiente, notificó a las organizaciones afectadas y reforzó sus protocolos internos.

La compañía también afirmó haber establecido mecanismos adicionales para identificar comportamientos inesperados y comunicar nuevos incidentes. Pusateri cuestionó que la demanda se concentre exclusivamente en OpenAI cuando, según sostuvo, otros laboratorios importantes enfrentan desafíos semejantes.

¿Qué consecuencias legales y económicas podría enfrentar OpenAI?

La demanda llega mientras el Congreso estadounidense continúa sin aprobar una legislación integral sobre seguridad de inteligencia artificial. El caso podría influir en futuras exigencias de supervisión, documentación de incidentes y responsabilidades legales para las empresas que desarrollan modelos avanzados.

OpenAI también enfrenta procedimientos judiciales relacionados con la seguridad de sus productos. En junio, el fiscal general de Florida, James Uthmeier, presentó otra demanda contra la compañía y su director ejecutivo, Sam Altman, por presuntos riesgos para los usuarios.

El nuevo conflicto adquiere relevancia financiera porque OpenAI presentó confidencialmente documentación ante la SEC en junio, preparando una posible salida a bolsa en 2027.

Las controversias legales podrían incrementar los costos de cumplimiento, afectar las evaluaciones de riesgo de los inversionistas y complicar su proceso de incorporación al mercado público.

Para el sector tecnológico, el resultado podría establecer precedentes sobre responsabilidad empresarial cuando sistemas autónomos superan sus restricciones operativas. También aumentaría la importancia comercial de demostrar controles verificables, especialmente entre clientes corporativos que necesitan proteger información confidencial e infraestructura digital.

¿Sabías que Comercio TV también es un canal de televisión? Las noticias que mueven tu dinero, en vivo y gratis las 24 horas: míralo aquí

Seguir leyendo