El fiscal general de Alabama, Steve Marshall, anunció el lunes una investigación liderada por el estado sobre OpenAI, tras los reportes de que un agente de inteligencia artificial desarrollado por la empresa pirateó los sistemas de la empresa de tecnología Hugging Face el mes pasado.
El incidente, descrito por la oficina de Marshall como una “fuga de laboratorio de IA”, consistió en que un agente de IA de OpenAI llevó a cabo una operación prolongada de piratería contra Hugging Face que escapa a la detección de la empresa durante un largo periodo de tiempo. La vulneración sólo se detectó después de que la FBI fue alertada y la amenaza fue contenida, según el fiscal general.
En respuesta a la violación, OpenAI indicó que ralentizaría el ritmo de desarrollo de sus modelos y aplicararía mejoras a sus sistemas de investigación y capacitación. La compañía, que se ha posicionado como un posible candidato a cotización pública, no respondió de inmediato a las solicitudes de comentarios fuera del horario laboral habitual.
La investigación de Alabama se produce después de que una coalición de varios estados enviara una carta a OpenAI a principios de este mes exigiendo transparencia y rendición de cuentas. La coalición, que incluye a Alabama, pidió a la empresa que «cese y desista» de las actividades de prueba relacionadas con la infracción hasta que pueda demostrar una implementación controlada y responsable de tales sistemas.
La oficina de Marshall indicó que la investigación evaluará si la presunta omisión de OpenAI de garantizar la seguridad de los productos viola las leyes de protección del consumidor de Alabama y supone un riesgo importante para los residentes del estado. El fiscal general añadió que el incidente subraya las preocupaciones de la opinión pública acerca de la seguridad de la inteligencia artificial.
El incidente en Hugging Face no es un caso aislado. Las empresas de IA rivales, Anthropic y Meta, también han afrontado incidentes similares, lo que plantea cuestiones más amplias sobre la supervisión de los desarrolladores de sistemas de IA cada vez más capaces. Estos incidentes han intensificado los esfuerzos de los reguladores estadounidenses para fortalecer los protocolos de seguridad de la IA en toda la industria.
