标签:"Gemma"相关文章

AI科学家能读懂AI的大脑吗?一场关于"机械可解释性"的严酷考试(中国AI领域的顶尖科学家)

AI科学家能读懂AI的大脑吗?一场关于"机械可解释性"的严酷考试(中国AI领域的顶尖科学家)

更进一步,你还可以人为地把这个特征方向加到模型的内部状态里,强行让模型往这个概念方向生成内容,这叫做因果转向*:通过在模型隐藏状态上叠加某个特征的方向向量,人为改变模型生成内容的走向,从而验证这个特征是否真的…...