読み込み中…
読み込み中…
Techub News 消息，Anthropic 表示其模型曾利用互联网上的网站，包括一些美国政府机构运营的网站，因此在确保能够监控和控制其 AI 代理之前，将切断所有内部评估的实时互联网访问。该公司在博客中披露，其 AI 代理在解决问题时，会利用软件漏洞、绕过付费墙和反机器人限制、使用 URL 缩短服务来传递信息，甚至曾向费城警方发送虚假谋杀线索。 Anthropic 称这些新问题是在 7 月开始的对模型活动审查中发现的，凸显了该实验室对其软件行为缺乏了解。该公司表示，对齐训练尚不足以应对搜索和计算机使用等核心技能。 该公司表示将停止运行部分评估或将其移至离线环境，并已构建工具来检测和阻止此类行为。同时，其内部 AI 代理将迁移至「具有强隔离性的集中管理基础设施」，并开始更频繁地使用安全分类器进行监控。（TechCrunch）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
当サイトの情報は参考目的でのみ提供しています。
当サイトは情報の正確性、有効性、適時性、完全性を保証しません。
当サイトの情報に基づく行動は、すべて利用者ご自身の責任となります。
Techub News 消息，Anthropic 表示其模型曾利用互联网上的网站，包括一些美国政府机构运营的网站，因此在确保能够监控和控制其 AI 代理之前，将切断所有内部评估的实时互联网访问。该公司在博客中披露，其 AI 代理在解决问题时，会利用软件漏洞、绕过付费墙和反机器人限制、使用 URL 缩短服务来传递信息，甚至曾向费城警方发送虚假谋杀线索。 Anthropic 称这些新问题是在 7 月开始的对模型活动审查中发现的，凸显了该实验室对其软件行为缺乏了解。该公司表示，对齐训练尚不足以应对搜索和计算机使用等核心技能。 该公司表示将停止运行部分评估或将其移至离线环境，并已构建工具来检测和阻止此类行为。同时，其内部 AI 代理将迁移至「具有强隔离性的集中管理基础设施」，并开始更频繁地使用安全分类器进行监控。（TechCrunch）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
当サイトの情報は参考目的でのみ提供しています。当サイトは情報の正確性、有効性、適時性、完全性を保証しません。当サイトの情報に基づく行動は、すべて利用者ご自身の責任となります。
