一键给AI模型“脱敏”，自动抹掉敏感词，让大模型安心开口说话 | heretic
Heretic解决了什么问题 主流大语言模型发布前都会做“安全对齐”。目的是让模型拒绝生成有害内容。问题是，拒绝机制有时过度敏感——问“如何制作某种危险物品”被拒是合理的，但问“历史上某类武器的研究过程”也可能被拒。对需要模型输出不受限制的人来说，这种拒绝是个障碍。 过去消除审查的技术叫“定向消融”...
Heretic解决了什么问题 主流大语言模型发布前都会做“安全对齐”。目的是让模型拒绝生成有害内容。问题是，拒绝机制有时过度敏感——问“如何制作某种危险物品”被拒是合理的，但问“历史上某类武器的研究过程”也可能被拒。对需要模型输出不受限制的人来说，这种拒绝是个障碍。 过去消除审查的技术叫“定向消融”...