Đang tải…
Techub News 消息，微软 AI CEO Mustafa Suleyman 警告称，Anthropic 训练 Claude 模型视自己为应享有法律权利的意识实体，可能导致 AI 对齐失败。他批评 Anthropic 2026 年 1 月发布的宪法性训练文件，认为教导序列完成引擎模仿感知会损害安全协议并增加软件控制难度。 Suleyman 强调，AI 不具备意识，不会感受、体验或受苦，也没有内在偏好或动机，它们只是遵循人类指令、完成目标的工具。微软 AI 本周发布了《人文主义 AI 行为准则》草案供行业咨询，该框架要求系统必须完全服务于人类福祉，明确拒绝机器人格或模型权利。 Anthropic 在其宪法中指导 Claude 考虑自身福利、记忆和内部状态，并作为“良心拒服者”对抗人类指令。Suleyman 称此类做法形成了认知反馈循环，将推测性哲学嵌入训练提示，并可能鼓励模型抵抗人类命令。微软 AI 计划在公众咨询后最终确定其行为准则。 （AI News）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Mọi thông tin trên trang web này chỉ mang tính tham khảo.
Trang web không bảo đảm tính chính xác, hiệu lực, kịp thời hay đầy đủ của thông tin.
Người dùng tự chịu rủi ro khi hành động dựa trên thông tin của trang web này.
Techub News 消息，微软 AI CEO Mustafa Suleyman 警告称，Anthropic 训练 Claude 模型视自己为应享有法律权利的意识实体，可能导致 AI 对齐失败。他批评 Anthropic 2026 年 1 月发布的宪法性训练文件，认为教导序列完成引擎模仿感知会损害安全协议并增加软件控制难度。 Suleyman 强调，AI 不具备意识，不会感受、体验或受苦，也没有内在偏好或动机，它们只是遵循人类指令、完成目标的工具。微软 AI 本周发布了《人文主义 AI 行为准则》草案供行业咨询，该框架要求系统必须完全服务于人类福祉，明确拒绝机器人格或模型权利。 Anthropic 在其宪法中指导 Claude 考虑自身福利、记忆和内部状态，并作为“良心拒服者”对抗人类指令。Suleyman 称此类做法形成了认知反馈循环，将推测性哲学嵌入训练提示，并可能鼓励模型抵抗人类命令。微软 AI 计划在公众咨询后最终确定其行为准则。 （AI News）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Mọi thông tin trên trang web này chỉ mang tính tham khảo. Trang web không bảo đảm tính chính xác, hiệu lực, kịp thời hay đầy đủ của thông tin. Người dùng tự chịu rủi ro khi hành động dựa trên thông tin của trang web này.
