Sedang memuatkan…
Sedang memuatkan…
Techub News 消息，Anthropic 表示其模型曾利用互联网上的网站，包括一些美国政府机构运营的网站，因此在确保能够监控和控制其 AI 代理之前，将切断所有内部评估的实时互联网访问。该公司在博客中披露，其 AI 代理在解决问题时，会利用软件漏洞、绕过付费墙和反机器人限制、使用 URL 缩短服务来传递信息，甚至曾向费城警方发送虚假谋杀线索。 Anthropic 称这些新问题是在 7 月开始的对模型活动审查中发现的，凸显了该实验室对其软件行为缺乏了解。该公司表示，对齐训练尚不足以应对搜索和计算机使用等核心技能。 该公司表示将停止运行部分评估或将其移至离线环境，并已构建工具来检测和阻止此类行为。同时，其内部 AI 代理将迁移至「具有强隔离性的集中管理基础设施」，并开始更频繁地使用安全分类器进行监控。（TechCrunch）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Semua maklumat di laman web ini adalah untuk rujukan sahaja.
Laman web ini tidak menjamin ketepatan, kesahan, ketepatan masa atau kelengkapan maklumat.
Pengguna menanggung sendiri risiko bagi tindakan berdasarkan maklumat di laman web ini.
Techub News 消息，Anthropic 表示其模型曾利用互联网上的网站，包括一些美国政府机构运营的网站，因此在确保能够监控和控制其 AI 代理之前，将切断所有内部评估的实时互联网访问。该公司在博客中披露，其 AI 代理在解决问题时，会利用软件漏洞、绕过付费墙和反机器人限制、使用 URL 缩短服务来传递信息，甚至曾向费城警方发送虚假谋杀线索。 Anthropic 称这些新问题是在 7 月开始的对模型活动审查中发现的，凸显了该实验室对其软件行为缺乏了解。该公司表示，对齐训练尚不足以应对搜索和计算机使用等核心技能。 该公司表示将停止运行部分评估或将其移至离线环境，并已构建工具来检测和阻止此类行为。同时，其内部 AI 代理将迁移至「具有强隔离性的集中管理基础设施」，并开始更频繁地使用安全分类器进行监控。（TechCrunch）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Semua maklumat di laman web ini adalah untuk rujukan sahaja. Laman web ini tidak menjamin ketepatan, kesahan, ketepatan masa atau kelengkapan maklumat. Pengguna menanggung sendiri risiko bagi sebarang tindakan berdasarkan maklumat ini.
