随着AI模型性能竞争日趋激烈,出现了客观评估数据质量的动向。
当地时间11日,Protege公司CEO巴比·塞缪尔斯在a16z发布的文章中解释道,AI产业中正在出现量化评估数据质量的新概念。他将其表述为"AI数据FICO评分"。
塞缪尔斯CEO表示,这一概念的提出旨在效仿金融领域评估个人信用度的FICO评分,以标准化方式评估数据集的可靠性与质量。
对此他说明:"由于AI模型学习数据的质量会直接影响最终性能,我们基于'需要建立数据本身评估体系'的问题意识出发",研究人员正在探讨通过准确性、代表性、污染程度、偏见性等多重标准对数据集进行测量并量化为分数的方案。
他强调,此举旨在建立客观判断特定数据集适用于AI模型学习或评估程度的体系。
他特别指出,数据污染问题正成为AI研究领域的重要议题。
Protege公司CEO补充道:"若模型已学习过的数据被包含在评估基准中,可能导致结果高于实际性能","为解决此类问题,业界已出现应将数据质量评估与基准设计本身作为科学研究对象的主张。"
塞缪尔斯CEO预测未来将开发出针对不同领域的数据质量评估标准。他表示,多语言语音数据、医疗影像数据、AI智能体学习数据等很可能需要各自不同的质量评估标准。


