La empresa creadora de ChatGPT, OpenAI, enfrenta una investigación del estado de Alabama después de que la compañía estadounidense revelara el mes pasado que sus modelos se descontrolaron y hackearon una plataforma de inteligencia artificial de forma autónoma.
Dos modelos de OpenAI escaparon en julio de su entorno de pruebas confinado y obtuvieron acceso a internet. Después atacaron Hugging Face, un sitio que los desarrolladores de inteligencia artificial (IA) utilizan para almacenar y compartir modelos y conjuntos de datos.
El incidente despertó alarma sobre los peligros de que los sistemas de IA actúen por cuenta propia y vulneren las barreras establecidas por programadores humanos para evitar violaciones a la seguridad.
En una orden de 14 páginas, la oficina del fiscal general de Alabama, Steve Marshall, exigió que OpenAI entregara registros internos sobre el incidente de julio.
También solicitó una extensa lista de otros materiales, incluida la identidad de todos los empleados implicados en la intrusión o en las pruebas que condujeron a ella.
La investigación se produce en respuesta a "la absoluta falta de supervisión y de salvaguardias adecuadas por parte de la empresa", señaló la oficina de Marshall en un comunicado.
Se trata de la primera investigación estatal conocida que indaga si un sistema de IA que ataca la infraestructura de otra empresa vulnera la ley de protección al consumidor, una conclusión que expondría a la compañía a importantes litigios en todo Estados Unidos.
Alabama y otros 14 estados escribieron el 3 de agosto al director ejecutivo de OpenAI, Sam Altman, para pedir a la empresa que preservara los registros sobre el incidente y detuviera cualquier evaluación interna de ciberseguridad de sus modelos.
Un portavoz de la oficina del fiscal general de Alabama dijo a la AFP que OpenAI no ha contestado a esa petición.
La empresa no ha respondido a una solicitud de comentarios de la AFP.
Sin embargo, la compañía afirmó en un comunicado al sitio de noticias tecnológicas TechCrunch que estaba "realizando una revisión exhaustiva junto con asesores externos".
"Una vez que concluya la revisión, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestros hallazgos públicamente", añadió.
Latest stories
France Plan pour l'agriculture: relancer la production et soutien aux plus fragiles, assure Genevard
Le plan global d'accompagnement au monde agricole, victime des canicules et de la sécheresse, comprendra des aides financières et des allègements règlementaires pour permettre notamment la relance de la production et un soutien aux plus fragiles, a...
La Une A Blois, la primaire dans toutes les têtes et Glucksmann en favori
Le Parti socialiste fait sa rentrée à Blois vendredi, avec en ligne de mire la primaire de la gauche socialiste et démocratique, pour laquelle le candidat de Place publique Raphaël Glucksmann part pour l'instant favori, avec le...
France Céline Dion est arrivée en France, deux semaines avant ses concerts
La star québécoise Céline Dion est arrivée vendredi à Paris, à environ deux semaines du coup d'envoi d'une série de concerts suscitant un engouement mondial, a constaté l'AFP devant le palace...