Mend.io，为增强AI安全性推出提示词强化功能

Mend.io今日发布了系统提示强化功能，该系统通过分析大型语言模型的隐藏指令来改善安全漏洞。该技术通过审查AI模型开始活动前定义条件、角色和行为方式的基础指令集，从而增强安全逻辑。Mend管理员拉米·萨斯强调："提示词是AI应用程序的行为蓝图，但安全标准尚未跟上其重要性。"

据高德纳统计，过去一年中32%针对AI应用程序的攻击利用了应用程序提示词。提示词注入常被滥用以诱导AI泄露基础指令，其优先级高于程序的原始代码。新功能通过标准化方式测试LLM响应，帮助安全团队超越偶然性测试或手动检查。

Mend.io旨在通过该系统在安全管理框架内实现漏洞标准化与分类，从而完善具体细节。该新功能已在Mend AI Core及AI Premium平台上线，可帮助企业分析AI组件、进行风险评估，并执行政策合规与安全强化工作。