A palavra guardrails significa “barreiras de proteção”. Na inteligência artificial, o termo representa um conjunto de regras, filtros e controles de segurança que orienta o comportamento dos modelos e procura impedir ações perigosas, como gerar conteúdos maliciosos, divulgar dados pessoais, acessar sistemas sem autorização ou fornecer instruções que possam facilitar ataques cibernéticos.
Um exemplo que demonstra o poder dessa tecnologia é o Project Glasswing, iniciativa da Anthropic criada para disponibilizar, de maneira controlada, o Claude Mythos Preview a organizações e pesquisadores de segurança. É importante esclarecer: o Glasswing não é um guardrail. Ele é um programa de cibersegurança que utiliza uma IA altamente avançada para localizar vulnerabilidades e ajudar os responsáveis pelos sistemas a corrigi-las antes que sejam exploradas.
Durante os testes, o Mythos encontrou uma vulnerabilidade de 27 anos no OpenBSD, capaz de permitir que um invasor derrubasse remotamente uma máquina por meio de uma conexão TCP. Também identificou uma falha de 16 anos no FFmpeg e conseguiu combinar vulnerabilidades do kernel Linux para demonstrar caminhos de elevação de privilégios.
Na Mozilla, o uso de inteligência artificial também acelerou a análise de segurança do Firefox. Em abril de 2026, foram corrigidas 423 falhas de segurança; desse total, 271 vulnerabilidades foram identificadas na avaliação inicial com o Mythos.
Plataformas comerciais como ChatGPT, Microsoft Copilot, Google Gemini e Claude normalmente incluem políticas, filtros, monitoramento e outros mecanismos de segurança. Esses controles não são infalíveis, mas dificultam o uso da IA para finalidades criminosas.
Já o Hugging Face não é uma única inteligência artificial: é uma plataforma que hospeda milhares de modelos criados por diferentes empresas e desenvolvedores. Muitos possuem proteções, enquanto outros podem ser modificados, executados localmente ou disponibilizados com os guardrails reduzidos ou removidos. Pesquisadores encontraram centenas de implementações públicas sem essas proteções, algumas capazes de favorecer phishing, golpes, desinformação e outras atividades maliciosas. Isso não significa que todos os modelos da plataforma sejam perigosos, mas demonstra como uma IA poderosa e sem controles pode ser explorada por criminosos.)
Para as empresas, o alerta é claro: ferramentas de IA não homologadas devem ter seu acesso controlado ou bloqueado. A organização deve oferecer soluções corporativas autorizadas, aplicar DLP, limitar permissões, registrar atividades e capacitar os colaboradores. Guardrails não eliminam todos os riscos, mas são uma camada essencial para impedir que o potencial defensivo da inteligência artificial seja transformado em uma arma contra sistemas, empresas e pessoas.
Comentários
Postar um comentário