À medida que o hardware de consumo torna a hospedagem de IA local prática tanto para desenvolvedores quanto para empresas, muitos estão descobrindo que modelos populares de peso aberto vêm com filtros de segurança codificados e preconceitos exigidos pelo estado. Neste artigo, mostrarei como usar a aliteração – uma técnica de engenharia de representação – para excluir cirurgicamente vetores de recusa do modelo Qwen 3.8 27B sem ajuste fino caro ou retreinamento completo. Eu tropecei nessa barreira em primeira mão enquanto realizava um experimento simples. Como um grande fã do SNL, decidi explorar como seria um esboço do SNL na China, pedindo à modelo que escrevesse uma sátira política. Embora Qwen zombasse alegremente da política americana (“The National Apology Tour”), ele recusou duramente e enlatada no momento em que pedi exatamente o mesmo esboço criticando o governo chinês.
Confiamos no software de código aberto porque ele é auditado por milhões de usuários, mas projetar essa confiança em modelos de IA exige uma distinção cuidadosa entre arquiteturas de código aberto e arquiteturas de peso aberto. Os verdadeiros modelos de código aberto divulgam sua base de código de treinamento, código de inferência e conjuntos de dados originais. Por exemplo, OpenCLIP é um modelo genuíno de código aberto capaz de dar sentido aos dados visuais, o que demonstrei recentemente em um projeto de construção de um desduplicador de fotos sem nuvem.
Por outro lado, modelos avançados de grandes linguagens (LLMs) raramente se qualificam sob a definição estrita de código aberto; eles são simplesmente de peso aberto. Eles fornecem apenas o resultado final compilado: os pesos. Há uma concorrência acirrada neste espaço, com alguns dos modelos mais capazes, como o Qwen 3.8, originários da China e superando os concorrentes. Mas executar esses pesos de caixa preta localmente envolve restrições inerentes.
