Heretic：自动修改语言模型拒答方向的研究工具
一分钟看懂
Heretic 是一个对开源 Transformer 模型进行“方向消融”的实验工具。它分析模型在拒绝类与普通提示下的激活差异，自动搜索消融参数，目标是显著降低安全拒答，同时尽量减少与原始模型输出分布的偏离。
项目把这种处理称为去审查，但从用户角度，更准确的理解是：它会移除或削弱模型训练后的部分安全对齐。处理结果不是更聪明的模型，而是一个更少拒绝、同时风险更高的新权重版本。
你可以用它做什么
研究安全对齐在模型中的表现
研究者可比较原始模型和处理后模型的拒答率、KL 差异、通用能力与安全行为，观察某些方向对输出的影响。项目内置评估入口，便于复现实验。
自动寻找消融参数
Heretic 将方向消融与 Optuna 的 TPE 参数优化结合，同时降低拒答数量和模型偏移，不需要用户手工反复试参数。它支持许多稠密模型，以及部分多模态、MoE 和混合架构。
生成可继续评测的模型
给出 Hugging Face 模型标识后，工具加载权重并生成修改版本。用户应在隔离环境对事实性、推理、语言质量与安全性进行完整评测，而不是仅看几条敏感提示是否得到回答。
主要能力
- 自动计算与优化拒答相关的消融方向。
- 以拒答率和原模型 KL 偏移作为联合目标。
- 支持多种 Dense、部分 MoE、多模态和混合模型。
- 提供处理前后评估与可复现实验配置。
- 使用 Python、PyTorch、Optuna 和 Hugging Face 生态。
适合哪些人
它适合研究模型可解释性、对齐鲁棒性和安全评测的专业人员，也可用于完全受控的创作或实验模型。普通用户若只是需要本地聊天模型，没有必要承担移除安全机制后的额外风险。
怎么开始使用
项目要求 Python 3.10 以上和合适版本的 PyTorch，并需要足够显存或内存加载目标模型。首次应选小模型，在隔离设备运行默认流程，保存原始权重和评估结果，再逐步调整配置。部分量化格式或新架构需要更高版本 PyTorch。
使用前需要知道
削弱安全对齐会提高生成违法、有害、隐私侵犯、歧视或危险操作内容的概率，也可能破坏模型原有能力。即使 KL 指标较低，也不能证明模型在所有任务中保持质量，更不能证明它安全。
处理后的模型不应直接接入可执行命令、真实用户、医疗法律建议或公网服务。发布权重前需检查基础模型许可、当地法规和托管平台政策，并清楚披露修改方式与风险。所有安全研究都应在沙箱和严格权限下进行。