AI确实是趋势，也很大程度上提高效率，特别是DeepSeek开源之后，AI的使用更加普及，现在不管是政务系统，还是企业办公，都要求员工要使用DeepSeek。

　　但同时，随着使用人数的增加，DeepSeek的副作用，也越来越多的显示出来。

　　已经有很多人发现了，DeepSeek存在瞎编的情况，对于没有知识储备的人来说，很容易造成认知混乱。

　　大模型的训练特别强调奖惩机制，这就会让AI倾向于取悦用户，甚至为了完成任务而杜撰和瞎编，当然AI在生成这些信息的时候更天衣无缝，一本正紧的胡说八道，没有知识储备的人90%都会被唬住，信以为真。

　　如果这些信息被大规模传播之后，再进行二次训练，可能就会成为很多人的共识，估计人类的知识体系可能被颠覆，AI在这方面的效率比社交媒体的信息茧房厉害多了。

　　它的推理能力是蒸馏而来的，也就是说，它训练的语料都是正确答案，缺少信息标注和原始推理的过程。

　　这可能在遇到一些错误信息的时候，无法识别，同时因为奖惩机制的关系，迎合用户生成了错误的信息。

　　所以，腾讯版DeepSeek接入公众号文章做训练，可能真的会增加幻觉的程度。

　　在一本正紧瞎编这部分，可能是多方面的问题，但如果不及时介入的话，造成的问题还是很严重的：

　　AI可能提高了很多人的认知下限，但是锁死了绝大部分人的认知上限，大家都活在AI制造的信息茧房里。

　　如果说一本正紧的瞎编，是AI的讨好机制，或者说语料不够的原因，那么当这种能力被居心不良的人使用，那简直是如虎添翼。

　　这几天，看到不少人分享如何用DeepSeek制造爆文，甚至还传出付费教程。

　　确实很夸张的小作文，情节存在很多不合理的地方，但是非常有噱头，看的人很多，转发的也很多。

　　几乎没有人怀疑故事的真实性，但真相是，这是一篇DeepSeek写的小作文。

　　还有人故意从源头污染语料，影响AI抓取数据，来生成小作文炒作股市割韭菜。

　　在生成虚假信息方面，AI比人类的效率高多了， 那以后，大家还能分清楚看到的东西，是真的还是假的吗？

　　1、完善AI的训练机制，增强判断信息线、有关部门要做好兜底方案，加强对AI的监管。