深圳热线
动态 > 正文

每日讯息!大语言模型会在蒸馏中“夹带”自己的偏好

2026-04-16 07:12:39 来源：财联社


(资料图)

财联社4月16日电，《自然》15日发表的一项研究显示，大语言模型（LLM）可能会将某些自己的偏好“夹带私货”传授给其他算法，即使在训练数据中清除原始特征后，这些本不需要的特征，仍可能持续存在。在一个案例中，一个模型似乎通过数据中的隐含信号，将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明，在开发LLM时，需要进行更彻底的安全检查。

关键词： 算法 私货 蒸馏 大语言模型

热门推荐

热门文章

全站热门

深圳热线 版权所有 Copyright © 2022 SZONLINE(SZONLINE.CN) All Rights Reserved.邮箱：920 891 263 @qq.com

京ICP备2022016840号-96 营业执照公示信息