Loading...
Loading...
Techub News 消息，MIT Tech Review 发表评论文章指出，当前 AI 行业过度依赖模型的拒绝能力来防止滥用，但这种基于概率的机制并不可靠。文章认为，将危险的「扳机」隐藏在模型内部，同时训练其拒绝执行恶意指令，如同为每辆车配备机枪却隐藏扳机。 文章提到，尽管模型被训练以拒绝大量有害提示，但拒绝机制可能失败，且恶意用户已能突破限制。一些用户正尝试利用最先进的 AI 来优化生物病原体或构建自主无人机群，未来可能引发全球性灾难。 此外，由 AI 公司单方面、秘密地划定「应服从」与「必须拒绝」的界限也存在问题，因为某些有害知识的查询可能出于正当研究或防御目的。文章援引 OpenAI 董事会成员 Zico Kolter 的观点称，界限的划定是一个巨大的难题。（MIT Tech Review AI）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。
本网站不保证信息的准确性、有效性、及时性和完整性。
任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
Techub News 消息，MIT Tech Review 发表评论文章指出，当前 AI 行业过度依赖模型的拒绝能力来防止滥用，但这种基于概率的机制并不可靠。文章认为，将危险的「扳机」隐藏在模型内部，同时训练其拒绝执行恶意指令，如同为每辆车配备机枪却隐藏扳机。 文章提到，尽管模型被训练以拒绝大量有害提示，但拒绝机制可能失败，且恶意用户已能突破限制。一些用户正尝试利用最先进的 AI 来优化生物病原体或构建自主无人机群，未来可能引发全球性灾难。 此外，由 AI 公司单方面、秘密地划定「应服从」与「必须拒绝」的界限也存在问题，因为某些有害知识的查询可能出于正当研究或防御目的。文章援引 OpenAI 董事会成员 Zico Kolter 的观点称，界限的划定是一个巨大的难题。（MIT Tech Review AI）
如您认为本页面（或本平台）内容存在侵权或违规情形，请您在发现之日起尽快与我们联系，并提供：权利人姓名/名称及联系方式、被侵权作品名称及权属证明、具体侵权链接及情况说明。我们在核实后将及时处理相关内容。
联系方式：creator@techub.news
商务合作：contacting@techub.news
点击链接下载 Techub News App，获取最新讯息：
https://www.techub.news/download
（或扫描下方二维码下载）
本网站所提供的所有信息仅供参考之用。本网站不保证信息的准确性、有效性、及时性和完整性。任何依赖于本网站所提供信息的行为，均由用户自行承担风险。
