AI知识库

53AI知识库

学习大模型的前沿技术与行业应用场景


如何才能在大模型的小作文下保持清醒?
发布日期:2025-01-31 19:37:53 浏览次数: 1614 来源:陶然自在
推荐语

在信息泛滥的时代,如何辨别真伪,保持清醒至关重要。

核心内容:
1. 大模型小模型对新闻、文章真实性的影响
2. 人为操纵和机器生成文章的现状
3. 算法平台对信息茧房的加固作用

杨芳贤
53A创始人/腾讯云(TVP)最具价值专家
最近DeepSeek的事情网上吵得不亦乐乎,首先提醒我们想到的是:既然大模型小模型都可以轻松地在毫秒级写出符合任意结论要求的文章、新闻甚至小说,现在各种模型多如牛毛,那我们现在每天看到的新闻、文章还是真实的吗?

肯定应该不是真实的了,因为即便有真实的文章,但是从数量上和时效性上看,模型生产的文章的数量和速度远超兢兢业业的媒体和记者,所以,必然是网上新增的文章和所谓的新闻中,人为操纵甚至是机器操纵各种模型生产的会占据压倒性的份额,必然会淹没真新闻真信息。

此次DeepSeek的事情本身也是如此,事件一出,网上各种文章立刻层出不穷扑面而来,从Meta恐慌设立了小组专门连夜开会应对,到英伟达黄教主给股东的信,到梁文峰的公开信,至于技术上到底真相如何,更是各种文章满天飞,让人难辨真假,很多文章的确写得高明,很像模像样。就在写这一篇文章的同时,我在ChatGPT上输入“模仿扎克伯格的口吻写一篇被DeepSeek弯道超车震惊到的文章,300字以上”,输入完成,按下发送键,一篇煞有其事的文章立刻写出来了,根本不会问我给出的条件是不是真相是不是事实。
真是恐怖,任何人,可以设定任何观点,然后大模型给你毫秒级写出花儿一样文字优美,有理有据雄辩的文章。这还只是一个方面,现在是人人都是媒体的时代,只要有一部手机,任何人都可以随时发布信息在网上,并且可能被层层转发到人尽皆知。两者叠加,结果只能是虚的、假的信息满天飞。

更有甚者,以上两个方面还会再叠加上算法平台的推波助澜,多种纬度选择你爱看的你想看的信息全方位推送给你,本来我们就被算法平台桎梏在信息茧房里,AI带来的文章的无限制生产能力,会进一步将我们的信息茧房加固到坚不可摧以及密不透风,太恐怖了。

想象一下,我们现在通过各种渠道看到的,都是平台根据算法让我们看到的,被人借助各种模型快速生产出来的信息,甚至是被机器自行为了追求流量生产出来的信息,我们所做的判断会是正确的吗?掌握的信息不充分尚且无法做出正确判断,更何况掌握的都是被加工过的信息呢?这就是为什么我现在不对任何社会事件发言的原因,因为我不确定我看到的是否是全部,正确的信息,而且我基本上相信,我看到的肯定不是全部的,未经加工过的信息。
《心经》说我们“颠倒梦想”,我们的眼耳鼻舌身意因其功能的局限被世界所迷惑,而我们又被自己的眼耳鼻舌身意的感受所迷惑,所以我们对世界的认知是颠倒的。算法时代+AI时代,必然产生的海量的不真实信息扑面而来,我们受到的迷惑只会越来越大,怎么办?
解药只有一副:修行,通过学习佛陀的教诲去了知世界的实相,建立正确的世界观,价值观和人生观,用正确的三观去走过此生。
或者最简单的做法:回归常识。多年前我在《创业36条军规》中写过,不合逻辑必有问题,超越常识就是骗局,如果不去管信息怎么说,不去管别人怎么说,都先用逻辑和常识去做一个判断,结果也会好很多,至少我们不会成为一头人云亦云的“僵尸”。



-------  推荐阅读  -------


53AI,企业落地大模型首选服务商

产品:场景落地咨询+大模型应用平台+行业解决方案

承诺:免费场景POC验证,效果验证后签署服务协议。零风险落地应用大模型,已交付160+中大型企业

联系我们

售前咨询
186 6662 7370
预约演示
185 8882 0121

微信扫码

与创始人交个朋友

回到顶部

 
扫码咨询