Đang tải…
Techub News 消息，MIT Tech Review 发表评论文章指出，当前 AI 行业过度依赖模型的拒绝能力来防止滥用，但这种基于概率的机制并不可靠。文章认为，将危险的「扳机」隐藏在模型内部，同时训练其拒绝执行恶意指令，如同为每辆车配备机枪却隐藏扳机。 文章提到，尽管模型被训练以拒绝大量有害提示，但拒绝机制可能失败，且恶意用户已能突破限制。一些用户正尝试利用最先进的 AI 来优化生物病原体或构建自主无人机群，未来可能引发全球性灾难。 此外，由 AI 公司单方面、秘密地划定「应服从」与「必须拒绝」的界限也存在问题，因为某些有害知识的查询可能出于正当研究或防御目的。文章援引 OpenAI 董事会成员 Zico Kolter 的观点称，界限的划定是一个巨大的难题。（MIT Tech Review AI）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Mọi thông tin trên trang web này chỉ mang tính tham khảo.
Trang web không bảo đảm tính chính xác, hiệu lực, kịp thời hay đầy đủ của thông tin.
Người dùng tự chịu rủi ro khi hành động dựa trên thông tin của trang web này.
Techub News 消息，MIT Tech Review 发表评论文章指出，当前 AI 行业过度依赖模型的拒绝能力来防止滥用，但这种基于概率的机制并不可靠。文章认为，将危险的「扳机」隐藏在模型内部，同时训练其拒绝执行恶意指令，如同为每辆车配备机枪却隐藏扳机。 文章提到，尽管模型被训练以拒绝大量有害提示，但拒绝机制可能失败，且恶意用户已能突破限制。一些用户正尝试利用最先进的 AI 来优化生物病原体或构建自主无人机群，未来可能引发全球性灾难。 此外，由 AI 公司单方面、秘密地划定「应服从」与「必须拒绝」的界限也存在问题，因为某些有害知识的查询可能出于正当研究或防御目的。文章援引 OpenAI 董事会成员 Zico Kolter 的观点称，界限的划定是一个巨大的难题。（MIT Tech Review AI）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
Mọi thông tin trên trang web này chỉ mang tính tham khảo. Trang web không bảo đảm tính chính xác, hiệu lực, kịp thời hay đầy đủ của thông tin. Người dùng tự chịu rủi ro khi hành động dựa trên thông tin của trang web này.
