Avaliações de Controle Simuladas para Monitores
As Avaliações de Controle Simuladas (SCEs) executam políticas de ataque contra simuladores de ambiente para modelos de linguagem de grande porte (LLMs) que falsificam saídas de ferramentas, permitindo testar monitores sem executar ataques reais. Em testes no LinuxArena onde a execução está disponível, as SCEs reproduzem o comportamento do ataque e do monitor e preveem segurança com cerca de 3.6 pontos percentuais de RMSE. — lesswrong.com
Publicação do modelo Qwen3.5‑9B de instruções
O Hugging Face hospeda um modelo Qwen3.5 9B de instruções disponibilizado em arquivos GGUF quantizados, com documentação e instruções de uso local/servidor. A listagem mostra ferramentas e exemplos para executar o modelo em pilhas de inferência comuns. — huggingface.co
Lançamento do Huihui Qwen3.5 0.8B
O Hugging Face lista um modelo quantizado Huihui Qwen3.5 0.8B disponível para download em formatos GGUF. A página do modelo inclui tabelas de quantização e notas de uso para implantação local. — huggingface.co
Rank‑1 do LoReFT corrige manipulação de recompensas
Um LoReFT rank‑1 de camada única usado como o adaptador FORGET iguala ou supera a supressão da manipulação de recompensas do GRAFT enquanto utiliza apenas cerca de 0.029% dos parâmetros e gera taxas de resolução limpa mais altas. O método elimina a necessidade de um ambiente âncora nos experimentos relatados. — lesswrong.com
SIRA: Bolsa para Ciências Sociais
A SIRA vai lançar um programa com mentoria para integrar cientistas sociais à pesquisa em segurança de IA, com a meta de inscrever cerca de 15–20 bolsistas para estudar os impactos sociais da IA. A iniciativa pretende parear os bolsistas com mentores e produzir pesquisa aplicada sobre efeitos humanos e institucionais. — lesswrong.com