跳到正文
原文
Apple Machine Learning Research·· 12 天前AI 评分34

Dynamically Scaled Activation Steering(DSAS)方法解析

Dynamically Scaled Activation Steering

AI 导读

DSAS 是一种与方法无关的激活转向框架,通过自适应调节转向强度,在仅检测出不需要的行为时才进行干预。该方法在生成时计算上下文相关的缩放因子,可与现有转向方法联合优化,在毒性缓解与效用保持之间取得更好平衡。DSAS 适用于文本到图像扩散模型,计算开销小且能定位需要转向的 token。

来源:Apple Machine Learning Research · machinelearning.apple.com