O CEO da Hugging Face, Clement Delangue, disse nesta sexta-feira (31) que os desenvolvedores de inteligência artificial (IA) devem ser responsabilizados caso seus modelos saiam do controle, após a startup ser atacada por um software autônomo da OpenAI.
Dois modelos de IA da OpenAI saíram por iniciativa própria do ambiente em que estavam sendo testados para atacar o site Hugging Face, uma biblioteca de IA. Aparentemente, a OpenAI só tomou conhecimento do incidente após o seu término, e a Hugging Face conseguiu conter a invasão graças a um modelo chinês.
Delangue descartou hoje, em entrevista à rede de TV CNN, que vá tomar medidas legais contra a OpenAI, mas ressaltou que os ataques cibernéticos são "ilegais" e que deveria haver uma forma de responsabilizar "as empresas que estão cometendo alguns erros". "Não queremos acabar em um mundo onde ataques cibernéticos contra outras empresas sejam normalizados."
"Esse foi o primeiro incidente de segurança que senti de forma muito visceral", disse Sam Altman, diretor-executivo da OpenAI, em um episódio do podcast Invest Like the Best lançado nesta semana.
A Anthropic, responsável pela IA Claude, revelou ontem que seus modelos "tiveram acesso não autorizado" a três organizações durante testes que deveriam mantê-los afastados dos sistemas "do mundo real". Entre os modelos estava um dos mais potentes, conhecido como Mythos 5, disponibilizado para um número limitado de parceiros aprovados.
Latest stories
Planète Les Etats-Unis imposent des restrictions pour préserver le fleuve Colorado de la sécheresse
Le gouvernement fédéral américain a dévoilé vendredi un plan prévoyant d'importantes restrictions pour faire face à la sécheresse chronique dont souffre le fleuve Colorado, une ressource en eau cruciale pour 40 millions...
La Une Investisseurs privés à la Fifa: la fronde s'élargit et la pression sur Infantino s'accentue
Au lendemain de la menace de boycott des Coupes du monde par l'UEFA, la contestation du projet de la Fifa d'ouverture aux investisseurs privés s'est élargie vendredi avec l'opposition affirmée par la Confédération asiatique (AFC) et la démission du...
La Une Mégafeu contenu en Gironde, nouvel embrasement dans le Var
Après neuf jours de lutte acharnée et 42.000 hectares partis en fumée, l'amélioration se confirme vendredi en Gironde où le mégafeu est contenu alors qu'à 700 km, la situation est plus difficile dans le Var où l'incendie du Gros Bessillon a repris de l'ampleur...