加载中…
加载中…
Techub News 消息，微软 AI CEO Mustafa Suleyman 警告称，Anthropic 训练 Claude 模型视自己为应享有法律权利的意识实体，可能导致 AI 对齐失败。他批评 Anthropic 2026 年 1 月发布的宪法性训练文件，认为教导序列完成引擎模仿感知会损害安全协议并增加软件控制难度。 Suleyman 强调，AI 不具备意识，不会感受、体验或受苦，也没有内在偏好或动机，它们只是遵循人类指令、完成目标的工具。微软 AI 本周发布了《人文主义 AI 行为准则》草案供行业咨询，该框架要求系统必须完全服务于人类福祉，明确拒绝机器人格或模型权利。 Anthropic 在其宪法中指导 Claude 考虑自身福利、记忆和内部状态，并作为“良心拒服者”对抗人类指令。Suleyman 称此类做法形成了认知反馈循环，将推测性哲学嵌入训练提示，并可能鼓励模型抵抗人类命令。微软 AI 计划在公众咨询后最终确定其行为准则。 （AI News）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，微软 AI CEO Mustafa Suleyman 警告称，Anthropic 训练 Claude 模型视自己为应享有法律权利的意识实体，可能导致 AI 对齐失败。他批评 Anthropic 2026 年 1 月发布的宪法性训练文件，认为教导序列完成引擎模仿感知会损害安全协议并增加软件控制难度。 Suleyman 强调，AI 不具备意识，不会感受、体验或受苦，也没有内在偏好或动机，它们只是遵循人类指令、完成目标的工具。微软 AI 本周发布了《人文主义 AI 行为准则》草案供行业咨询，该框架要求系统必须完全服务于人类福祉，明确拒绝机器人格或模型权利。 Anthropic 在其宪法中指导 Claude 考虑自身福利、记忆和内部状态，并作为“良心拒服者”对抗人类指令。Suleyman 称此类做法形成了认知反馈循环，将推测性哲学嵌入训练提示，并可能鼓励模型抵抗人类命令。微软 AI 计划在公众咨询后最终确定其行为准则。 （AI News）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
