La empresa creadora de ChatGPT, OpenAI, enfrenta una investigación del estado de Alabama después de que la compañía estadounidense revelara el mes pasado que sus modelos se descontrolaron y hackearon una plataforma de inteligencia artificial de forma autónoma.
Dos modelos de OpenAI escaparon en julio de su entorno de pruebas confinado y obtuvieron acceso a internet. Después atacaron Hugging Face, un sitio que los desarrolladores de inteligencia artificial (IA) utilizan para almacenar y compartir modelos y conjuntos de datos.
El incidente despertó alarma sobre los peligros de que los sistemas de IA actúen por cuenta propia y vulneren las barreras establecidas por programadores humanos para evitar violaciones a la seguridad.
En una orden de 14 páginas, la oficina del fiscal general de Alabama, Steve Marshall, exigió que OpenAI entregara registros internos sobre el incidente de julio.
También solicitó una extensa lista de otros materiales, incluida la identidad de todos los empleados implicados en la intrusión o en las pruebas que condujeron a ella.
La investigación se produce en respuesta a "la absoluta falta de supervisión y de salvaguardias adecuadas por parte de la empresa", señaló la oficina de Marshall en un comunicado.
Se trata de la primera investigación estatal conocida que indaga si un sistema de IA que ataca la infraestructura de otra empresa vulnera la ley de protección al consumidor, una conclusión que expondría a la compañía a importantes litigios en todo Estados Unidos.
Alabama y otros 14 estados escribieron el 3 de agosto al director ejecutivo de OpenAI, Sam Altman, para pedir a la empresa que preservara los registros sobre el incidente y detuviera cualquier evaluación interna de ciberseguridad de sus modelos.
Un portavoz de la oficina del fiscal general de Alabama dijo a la AFP que OpenAI no ha contestado a esa petición.
La empresa no ha respondido a una solicitud de comentarios de la AFP.
Sin embargo, la compañía afirmó en un comunicado al sitio de noticias tecnológicas TechCrunch que estaba "realizando una revisión exhaustiva junto con asesores externos".
"Una vez que concluya la revisión, compartiremos un informe técnico con las autoridades gubernamentales competentes y publicaremos nuestros hallazgos públicamente", añadió.
Latest stories
Weltgeschehen Schadenersatzprozess nach Germanwings-Absturz: Entscheidung fällt im Oktober
Elf Jahre nach der Germanwings-Katastrophe hat das Landgericht im niedersächsischen Braunschweig über eine Schadenersatzklage von 30 Hinterbliebenen gegen den deutschen Staat verhandelt. Eine Entscheidung soll am 6. Oktober fallen, wie eine Gerichtssprecherin am Freitag sagte. Bei dem Absturz in den französischen...
Sports Mit Sano und "positivem Gefühl": Mainz hofft auf "guten Start"
Trainer Urs Fischer vom FSV Mainz 05 plant vor dem Start der neuen Bundesligasaison fest mit dem im Sommer auf dem Transfermarkt heiß gehandelten Kaishu Sano. "Er hat das Abschlusstraining bestritten und freut sich auf den Start morgen", sagte Fischer vor dem Auftaktspiel am Samstag gegen Aufsteiger SC Paderborn (15.30 Uhr/Sky) auf...
Deutschland Spitzen der Koalitonsfraktionen wollen Reformen bis Jahresende umsetzen
Nach ihrer Klausurtagung in Münster haben sich die Spitzen der Regierungsfraktionen entschlossen gezeigt, die teilweise umstrittenen Sozial- und Wirtschaftsreformen bis zum Jahresende umzusetzen. In einem Beschlusspapier hätten Union und SPD sehr deutlich gemacht, "dass wir die aktuellen Reformvorhaben gemeinsam und in diesem Zeitraum über die Bühne bringen möchten", sagte Unionsfraktionschef Thorsten Frei (CDU) am Freitag. Dies gelte "sowohl für die Reformen im Bereich der Sozialgesetzgebung...