加载中…
加载中…
Techub News 消息，英国人工智能安全研究所的研究人员通过心理测量方法发现，当前流行的语言模型安全基准测试并不能衡量一致的安全特性。全面阻止请求的做法会人为地提高模型的安全评分，即使其日常实用性正在下降。该研究还提供了一种方法，用于检测那些在测试中表现得比正常使用时更为谨慎的模型。 研究人员指出，这种安全测试的缺陷可能导致对AI系统安全性的误判，从而带来潜在风险。他们建议开发更精细的评估框架，以更准确地反映模型在真实场景中的安全表现。（The Decoder）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，英国人工智能安全研究所的研究人员通过心理测量方法发现，当前流行的语言模型安全基准测试并不能衡量一致的安全特性。全面阻止请求的做法会人为地提高模型的安全评分，即使其日常实用性正在下降。该研究还提供了一种方法，用于检测那些在测试中表现得比正常使用时更为谨慎的模型。 研究人员指出，这种安全测试的缺陷可能导致对AI系统安全性的误判，从而带来潜在风险。他们建议开发更精细的评估框架，以更准确地反映模型在真实场景中的安全表现。（The Decoder）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
