【大模型训练数据不过滤会更好？一个封闭假设实验及几个高质量数据集材料指引】来看两个话题，一个是关于高质量数据集的几个参考，指引、案例两个主题，做个记录。另一个看一个实验性的对比实验，大模型训练数据不需要过滤？看看这是在什么实验场景下的得出的相对结论。当然，先说结论：这个仅是封闭实验推断【十分理想情况】，而我们在真正做大模型训练的时候，其实不单单是考虑损失，衡量指标其实太单一，里面涉及到太多太多额外的东西，比如隐私问题、比如价值观问题、安全问题等，数据还是要好好做的，并且是个细致活。评估数据的好坏，也是一门大学问。两个都是属于数据的范畴，也很有意思。http://t.cn/AX6bfziX，推荐看看