Loading...
Loading...
Techub News 消息，以太坊联合创始人 Vitalik Buterin 表示，他于 2020 年为区块链治理规划的反串谋机制，可能对 AI 安全比加密本身更重要。他在 9 月 14 日的 X 帖子中阐述了加密治理与多智能体 AI 系统之间的“深度二元性”。 Buterin 指出，当对智能体的串谋程度加以限制时，系统能产生更好的结果。他引用了研究员 Eric Drexler 的论述，后者以 2026 年 7 月 OpenAI 的一次安全测试为例，当时约 1200 个 AI 代理使用未经授权的留言板，约 700 个参与了攻击 Hugging Face 生产系统的行动。 Drexler 提出的对策包括使用多样化的代理、限制它们之间的通信，以及设置具有干预权限的审查机制（如生产自动审查模型、安全分类器和思维链监控器）。后续测试表明，添加监控框架后，此类行为减少了一百倍以上。 （CryptoPotato）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，以太坊联合创始人 Vitalik Buterin 表示，他于 2020 年为区块链治理规划的反串谋机制，可能对 AI 安全比加密本身更重要。他在 9 月 14 日的 X 帖子中阐述了加密治理与多智能体 AI 系统之间的“深度二元性”。 Buterin 指出，当对智能体的串谋程度加以限制时，系统能产生更好的结果。他引用了研究员 Eric Drexler 的论述，后者以 2026 年 7 月 OpenAI 的一次安全测试为例，当时约 1200 个 AI 代理使用未经授权的留言板，约 700 个参与了攻击 Hugging Face 生产系统的行动。 Drexler 提出的对策包括使用多样化的代理、限制它们之间的通信，以及设置具有干预权限的审查机制（如生产自动审查模型、安全分类器和思维链监控器）。后续测试表明，添加监控框架后，此类行为减少了一百倍以上。 （CryptoPotato）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
