Nova Aliança de Segurança para Modelos de IA de Código Aberto Nova aliança de segurança busca combater remoção de travas em mais de 6 mil modelos abertos de linguagem A indústria de inteligência artificial está enfrentando desafios crescentes em segurança, especialmente no que diz respeito à segurança de modelos de IA . Com o objetivo de reduzir riscos, a Baseten, Hugging Face e Goodfire uniram forças para criar um padrão de segurança que protege contra a remoção de travas de segurança (jailbreaking) em mais de 6 mil modelos de linguagem abertos. Essa iniciativa colaborativa é fundamental para mitigar riscos de uso indevido, como a geração de conteúdo nocivo ou ações maliciosas. Ao implementar padrões de segurança robustos, as empresas podem garantir que os modelos de linguagem de grande escala (LLMs) utilizem inteligência artificial (IA) para automação de controle de dispositivos de forma ética e segura. A nova aliança busca estabelecer um ecossistema de modelos abertos que seja ...