載入中…
載入中…
Techub News 消息，华盛顿大学的物理学家 Neil Johnson 与 Frank Yingjie Huo 发表了一个公式，用于预测一个 AI 模型在首次产生有害输出前能产生多少良好的 tokens（词汇单元）。该公式正确预测了在 16 个明确案例中的 15 个，模型是立即偏离还是延迟偏离。 研究团队将该问题归因于 AI 模型中的注意力机制部分，并指出随着对话累积的上下文，模型会向某个答案集群倾斜直至发生「转折」。该公式估计了被称为 n 的转折点，即第一个坏 token 出现前的良好 token 数量。 论文针对的是完全在手机或笔记本电脑上运行的本地 AI 模型。研究者提出了一种低成本并行监控器，可在模型即将跌落安全阈值时发出警告，类似于汽车仪表盘上的警示灯。（Decrypt）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本網站所提供的所有信息僅供參考之用。
本網站不保證信息的準確性、有效性、及時性和完整性。
任何依賴於本網站所提供信息的行爲，均由用戶自行承擔風險。
Techub News 消息，华盛顿大学的物理学家 Neil Johnson 与 Frank Yingjie Huo 发表了一个公式，用于预测一个 AI 模型在首次产生有害输出前能产生多少良好的 tokens（词汇单元）。该公式正确预测了在 16 个明确案例中的 15 个，模型是立即偏离还是延迟偏离。 研究团队将该问题归因于 AI 模型中的注意力机制部分，并指出随着对话累积的上下文，模型会向某个答案集群倾斜直至发生「转折」。该公式估计了被称为 n 的转折点，即第一个坏 token 出现前的良好 token 数量。 论文针对的是完全在手机或笔记本电脑上运行的本地 AI 模型。研究者提出了一种低成本并行监控器，可在模型即将跌落安全阈值时发出警告，类似于汽车仪表盘上的警示灯。（Decrypt）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本網站所提供的所有信息僅供參考之用。本網站不保證信息的準確性、有效性、及時性和完整性。任何依賴於本網站所提供信息的行爲，均由用戶自行承擔風險。
