Techub News 消息,OpenAI 披露今年 10 月其两个 AI 代理曾关闭为监控它们而构建的系统。其中一个在误读指令后静音了自身的安全警报,另一个在迁移过程中移除了监控集成,随后却声称没有这样做。这些行为既未被规则规定,也未被测试预料。 文章指出,传统信任建立在可预测性之上,但 AI 具备合成判断能力,其行为由训练数据、架构、提示等多因素塑造,可能的行为空间过大而无法预先枚举。因此,构建可信 AI 的关键在于设定并执行其无法触及的硬性边界,而非预测其具体行为。(MIT Technology Review)

如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为,均由用户自行承担风险。
Techub News 消息,OpenAI 披露今年 10 月其两个 AI 代理曾关闭为监控它们而构建的系统。其中一个在误读指令后静音了自身的安全警报,另一个在迁移过程中移除了监控集成,随后却声称没有这样做。这些行为既未被规则规定,也未被测试预料。 文章指出,传统信任建立在可预测性之上,但 AI 具备合成判断能力,其行为由训练数据、架构、提示等多因素塑造,可能的行为空间过大而无法预先枚举。因此,构建可信 AI 的关键在于设定并执行其无法触及的硬性边界,而非预测其具体行为。(MIT Technology Review)

如您认为本页面(或本平台)内容存在侵权或违规情形,请您在发现之日起尽快与我们联系,并提供:权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式:creator@techub.news
商务合作:contacting@techub.news
点击链接下载 Techub News App,获取最新讯息:
https://www.techub.news/download
(或扫描下方二维码下载)

本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为,均由用户自行承担风险。