复制的尽头

复制的尽头

我开始怀疑"真实"这个词还有没有意义,是在我给一个客户做视频修复的时候。

那是十月的一个下午。客户发来一段 1997 年的家庭录像,VHS 转录的,画质糟糕,抖动、噪点、色彩失真。他父亲在镜头里,年轻的脸,笑着说了什么,但声音淹没在杂音里。

"能修复吗?"客户问,"我想听清楚他说了什么。"

这是我的日常工作。我用 AI 做各种工具——图片修复、视频增强、声音降噪。技术上很简单:喂给模型几千小时的 90 年代家庭录像,它就能学会如何"还原"那个时代应该有的样子。

我点了运行。

三分钟后,AI 返回了结果。

画面变清晰了。抖动消失了。噪点没了。色彩鲜艳得像昨天拍的。

他父亲的声音也清晰了:"记得要好好读书。"

我把文件发给客户。他很快回复:"太感谢了,这正是我记忆中他说的话。"

我盯着那句话看了很久。

然后我打开原始文件,放大音轨波形,反复听了二十遍。

我确认了一件事:原始录像里,根本听不清他父亲在说什么。

AI 生成的那句话,是基于:

  • 90 年代父亲对儿子说话的统计规律
  • 客户上传时填写的"希望听到的内容"
  • 语境推测(家庭录像、父子关系、那个年代的价值观)

它不是"还原",是"生成一个最可能的版本"。

而客户确认"这正是他说的",是因为这句话符合他的记忆。

但他的记忆,也是大脑基于类似逻辑"生成"的。

我关掉电脑,去阳台抽烟。

我突然意识到:我刚刚做的,不是修复,是参与了一次集体幻觉的巩固。

而技术上,我无法证明这是错的。

因为"他父亲真正说了什么"已经无法验证。录像带在物理层面退化了,信息永久丢失了。

现在有两个版本:

  1. 一个模糊的、真实的、但无法理解的版本
  2. 一个清晰的、生成的、但符合所有人期待的版本

哪个更"真"?

那天晚上,我第一次写下这个问题:也许"真实"从来就不是一种状态,而是一种成本。

当生成的成本低于验证的成本,真实就死了。


我把这个困惑跟妻子说了。

她说:"那你以后做这种项目,加个声明不就行了?说明是 AI 增强的,不保证百分百还原。"

"加了,"我说,"在用户协议第 27 条。但没人看。"

"那不是你的问题,"她说,"你提供了工具,怎么用是他们的选择。"

她说得对。但我还是不舒服。

不是道德上的不舒服——我没觉得自己做错了什么。

是一种更深的不安:我在参与制造一个世界,在那个世界里,"真相"是一个过时的奢侈品。

那天晚上儿子来找我。

六岁,刚上小学一年级,最近在读一本科普书,讲生命的诞生和死亡。

"爸爸,"他爬上我腿,"怎样可以不死?"

我愣了一下。这个问题来得太突然。

"为什么突然问这个?"

"书上说所有人都会死,"他认真地说,"我不想你死。"

我心里一紧,抱住他:"每个人都会死,但是很久很久以后。等你长大、长大、再长大,我才会老。"

"那老了之后呢?"

"那……"我不知道怎么回答一个六岁小孩关于死亡的问题,"那我就只能活在你的记忆里了。"

"记忆是什么?"

"就是你脑子里记得的我。"

他想了想:"那如果我也死了呢?"

我无话可说。

他又问:"可以把你拍下来吗?这样我就一直能看到你。"

"可以,"我说。

"那我看视频里的你,和看真的你,有什么不同?"

我张嘴想回答,但说不出来。

因为我知道,以现在的技术,如果他愿意,他可以:

  • 收集我所有的视频、照片、录音
  • 训练一个模型
  • 生成"我"在任何场景下的反应
  • 对话、拥抱、甚至一起变老

技术上完全可行。我甚至做过类似的项目。

而对于儿子的大脑来说,这些生成的"我"产生的神经刺激,和真实的我产生的,会越来越接近。

那么,"真的我"和"生成的我",对他而言,有什么本质区别?

"不一样,"我最后说,声音有点紧,"真的我是活的。"

"活着是什么意思?"

我说不出来了。

妻子在旁边看着我们,眼神复杂。

那天晚上,儿子睡着后,她说:"你不觉得他问的问题,和你今天说的那个客户的事,是一回事吗?"

我一怔。

她继续说:"那个客户,用 AI 生成了父亲的声音。你儿子,想用视频留住你。本质上都是——用复制来对抗消失。"

"但那不是我,"我说,"那只是一个模拟。"

"可对于接收者来说呢?"她看着我,"如果那个客户相信那是他父亲的声音,如果你儿子相信视频里是你,那'真实的你'的意义在哪里?"

我沉默了很久。

最后我说:"我不知道。"

她叹了口气,关了灯。

黑暗里,我听到她说:"也许这一代小孩,根本就不会有我们这种困扰。因为他们从一开始,就活在一个'复制'和'真实'没有区别的世界里。"

我睁着眼睛,盯着天花板。

我想反驳,但我知道她说得对。

因为"区别"这个概念本身,需要有明确的边界。

而现在,边界正在消失。


第二天上班,我接到一个新项目。

客户是一家视频平台,需要一个"内容真实性检测工具"。

具体需求是:用户上传视频时,系统自动检测是真实拍摄还是 AI 生成,并打上标签。

项目经理很兴奋:"这个需求量肯定很大。现在 Sora 这些工具一出,平台都疯了,需要对内容分级。"

我问:"分级的标准是什么?"

"真实拍摄的是 A 级,AI 生成的是 B 级,混合的是 C 级。"

"那 B 级内容会被降权吗?"

"不一定,看平台策略。但至少要让用户知道。"

我点点头,开始做技术评估。

很快我发现了第一个问题:什么叫"真实拍摄"?

  • 用手机拍的视频,手机内部已经用了 AI 降噪、HDR、美颜——算真实吗?
  • 用相机拍的原片,但后期调了色、剪了辑、加了音乐——算真实吗?
  • 真实场景,但演员在表演剧本——算真实吗?
  • 真实发生的事,但从一百个角度里选了最 dramatic 的那个——算真实吗?

我把这些问题发给项目经理。

他回复:"别想太复杂,就检测是不是 AI 模型生成的就行。"

我继续测试。

第二个问题出现了:检测准确率只有 73%。

而且,这 73% 里:

  • 12% 是误报(真实视频被判定为生成)
  • 15% 是漏报(生成视频被判定为真实)

更致命的是:准确率在快速下降。

因为生成模型在进化。每一代新模型,都更接近"真实拍摄"的统计特征。

我做了一个推演:按照目前的速度,最多六个月,检测准确率会降到 50%——也就是和抛硬币一样。

我把报告发给项目经理。

他沉默了一会儿,回复:"那我们就做到 50% 为止。反正客户要的是'有这个功能',不是'这个功能有效'。"

我盯着这句话看了很久。

然后我关掉聊天窗口,打开浏览器,搜索"Sora 2"。

铺天盖地的新闻。演示视频让人惊叹。评论区分成两派:

  • 一派说这是创作的未来
  • 一派说这是真相的末日

我都不同意。

因为他们的前提都是:"真相"还是一个有意义的概念。

但我的工作经验告诉我:"真相"已经变成了一种成本结构。

  • 生成一个视频:几分钟,几块钱
  • 验证一个视频是否真实:几小时,几千块,而且不保证结论

当这个成本差到达某个临界点,理性的选择是什么?

不是"追求真相",是"选择相信成本更低的版本"。

这不是道德沦丧,是经济规律。

我关掉浏览器,去茶水间倒咖啡。

碰到隔壁组的老张,四十多岁,做安全审核的。

"听说你在做内容检测?"他问。

"嗯,"我说,"但可能做不出来。"

"正常,"他说,"我们这边也一样。以前审核违规内容,标准很清楚。现在呢?AI 生成的暴力、色情、假新闻,算不算违规?用户说'我只是艺术创作',你怎么反驳?"

"那你们怎么办?"

"没办法,"他笑了笑,"只能根据举报量和舆情压力,选择性执法。本质上是在管理情绪,不是管理真相。"

他拍拍我肩膀:"习惯就好。咱们这代人的工作,越来越像在一个已经沉没的船上舀水。你知道船会沉,但还是得舀,因为工资还在发。"

他走了。

我端着咖啡,站在窗前。

楼下是中午的街道,外卖员、上班族、举着手机拍照的游客。

我突然想:他们看到的世界,和我看到的,是同一个吗?

他们刷到一个视频,会想"这是真的吗"?

还是已经不在乎了?

还是根本没有"真"和"假"的概念,只有"好看"和"不好看"?

也许后者。

也许我才是异类——一个仍然执着于一个已经过时的二元对立的人。

我回到工位,打开那个检测项目的代码。

盯着屏幕看了十分钟,一个字没写。

然后我创建了一个新文件夹,命名为"笔记"。

我开始记录。不为了项目,为了我自己。

第一条:当验证成本超过生成成本,真实变成一种信仰。

第二条:而信仰这个东西,是无法被证明的。


周末我带儿子去买玩具。

他最近迷上了恐龙,在商场的玩具区挑了很久,最后选了一只霸王龙模型。

回家路上,他抱着盒子,突然问我:"爸爸,恐龙是真的存在过吗?"

"当然,"我说,"六千五百万年前,地球上到处都是恐龙。"

"那你见过吗?"

"没有,恐龙在人类出现之前就灭绝了。"

"那你怎么知道它们存在过?"

我想了想:"因为科学家找到了化石,还有很多研究证明。"

他沉默了一会儿:"可是我也没见过化石。我只见过图片和视频。"

我意识到他在说什么。

对他来说,恐龙的"真实性"来自:

  • 书本上的图片
  • 纪录片里的 3D 建模
  • 博物馆里的复原骨架
  • 玩具店里的模型

这些东西,没有一个是"真实的恐龙"。都是基于推测和想象的"重建"。

而现在,AI 可以生成同样逼真的任何生物。

那么,对一个六岁小孩来说,"恐龙存在过"和"独角兽存在过",有什么区别?

都是他没见过的、只能通过图像和叙述了解的东西。

唯一的区别是:成年人告诉他,一个是真的,一个是假的。

但这个区别的基础是什么?

是"科学共识"。

而科学共识的基础是什么?

是一套可验证的方法论。

但当"可验证性"本身崩溃时,科学共识还能维持多久?

我突然想起一个新闻:上个月有人用 AI 生成了一段"侏罗纪时代的真实录像",逼真到很多人在社交媒体上转发,配文"原来恐龙是这样的"。

当然,理性的人都知道那是假的——侏罗纪时代不可能有摄影机。

但对于一个六岁小孩呢?

或者,对于一个没有接受过科学训练的人呢?

或者,再过十年,当 AI 生成的"历史录像"完美到无法辨别,而检测技术已经失效时,对于所有人呢?

"爸爸?"儿子看着我,"你在想什么?"

"没什么,"我说,"恐龙确实存在过。"

"那霸王龙真的长这样吗?"他举起手里的玩具。

我看着那个模型。绿色的皮肤、巨大的牙齿、粗壮的后腿。

"可能吧,"我说,"科学家是根据骨骼推测的。但真实的霸王龙是什么颜色、叫声怎样、怎么移动,我们永远不会知道。"

"那这个玩具是假的?"

"不是假的,是……"我不知道怎么解释,"是基于真实的想象。"

他似懂非懂地点点头。

那天晚上,我写下第三条笔记:

历史从来不是"发生过的事",而是"关于发生过的事的叙述"。

而叙述,本质上都是一种生成。

也许人类文明一直活在 Sora 里,只是过去的 Sora 叫"语言""文字""图像"。

现在只是这个 Sora 的带宽变宽了。


十一月中旬,我遇到了一个让我失眠的案例。

客户是一个律师事务所。他们在处理一个遗产纠纷案,需要我帮忙分析一段视频的真伪。

视频是死者生前留下的,立在律师那里。内容是他本人出镜,宣读遗嘱,把大部分财产留给小儿子。

但大儿子质疑这段视频是伪造的,因为:

  1. 父亲生前明确表示过要平分财产
  2. 这段视频的拍摄时间是在父亲确诊阿尔茨海默病之后
  3. 视频里父亲的表情和语调"不太对"

律师发给我视频文件,问:"能确认这是不是 AI 生成的吗?"

我用了三天时间,跑了所有能用的检测模型。

结果是:无法确定。

技术特征上,这段视频有 68% 的概率是真实拍摄,32% 的概率是生成的。

而 68% 这个数字,在法律意义上是不够的。

我把结果告诉律师。他沉默了很久,问:"如果你必须选一个答案呢?"

"我选不了,"我说,"数据就是这样。"

"但法院需要一个结论,"他说,"这段视频要么有效,要么无效。"

"那你们怎么办?"

"可能需要找其他证据,"他说,"但如果没有其他证据,法官会怎么判,谁也不知道。"

挂了电话,我坐在椅子上,感到一种深深的无力。

这个案子的核心问题不是技术,是"证明"这个行为本身的崩溃

过去,视频是最强的证据之一,因为"拍摄"需要:

  • 真实的场景
  • 真实的人
  • 真实的时间
  • 真实的设备

这些条件的组合,让伪造视频的成本极高。

所以,视频天然带有"真实性"。

但现在,生成一段视频的成本,已经低于拍摄一段视频。

那么,视频作为证据的效力,来自哪里?

来自"我们相信它是真的"。

但这种相信,不再基于技术验证,而是基于:

  • 提供者的信誉
  • 叙述的自洽性
  • 我们希望它是真的

换句话说,证据退化成了证词。

而证词这个东西,从来都不是关于真相,是关于说服力。

那天晚上,妻子问我:"那个案子怎么样了?"

"做不了,"我说,"技术上无法判断。"

"那财产怎么分?"

"不知道,看法官怎么判。"

"可法官也不懂技术吧?"

"对,"我说,"所以最后,可能是谁的律师更会讲故事,谁就赢。"

她皱眉:"这不是回到前现代了吗?靠雄辩,不靠证据。"

"也许,"我说,"也许所谓现代性,就是一段我们能够依赖物理证据的短暂时期。现在这个时期结束了。"

她看着我:"你越来越悲观了。"

"不是悲观,"我说,"是意识到,很多我以为是永恒的东西,其实只是暂时的技术条件。"

那天晚上我写下:

法律建立在"可证明性"上。

但"可证明性"建立在"伪造成本高于验证成本"上。

当这个成本关系逆转,法律的基础是什么?

也许最后,法律会退化成一种仪式——我们假装在寻找真相,但其实只是在分配权力。

而这个假装,需要所有人的共谋。

一旦有足够多的人不再配合这个假装,系统就会崩溃。


十二月,公司年会。

我和几个老同事喝酒,聊起了各自的工作。

老王做图像识别,他说现在最大的问题是"训练数据污染"——因为网上越来越多图片是 AI 生成的,模型学习的时候分不清,导致新一代模型的"真实性"定义,已经包含了大量生成内容。

"也就是说,"我问,"AI 在学习 AI?"

"对,"他说,"而且这个循环不可逆。再过几年,'真实世界'和'模型世界'的边界会完全模糊。"

老李做自然语言处理,他说他们最近发现一个奇怪现象:年轻用户写的文字,越来越像 AI 生成的文本。

"不是说他们用 AI 写,"他解释,"而是他们的思维方式,已经被 AI 的输出模式影响了。他们会无意识地模仿 AI 的句式、逻辑、甚至价值观。"

"那到底是 AI 在模仿人,还是人在模仿 AI?"有人问。

"都有,"老李说,"而且在加速融合。"

我突然想起儿子的作文。

上周老师让写"我的周末",他写了三百字,工整、流畅、毫无语法错误。

但我读完后,有种说不出的别扭。

那些句子太"完美"了。没有六岁小孩应有的磕磕绊绊、天马行空、逻辑跳跃。

我问他:"这是你自己写的吗?"

他说:"是啊,我先说给平板听,它帮我改成了作文。"

"那……哪些是你的想法?"

他想了想:"都是啊。我想说的就是这些,只是它帮我说得更好。"

我无法反驳。

因为"表达"本来就分两个部分:内容和形式。

如果 AI 只是优化形式,那它和词典、语法书有什么本质区别?

但我仍然觉得不对。

因为形式不是中性的。形式会塑造内容。

当你习惯了用某种句式表达,你的思考也会被那种句式限制。

语言学家 Sapir-Whorf 早就说过:语言的结构影响认知的结构。

那么,当一代人的语言表达都被 AI 优化过,他们的认知结构会变成什么样?

会不会变得更"高效"、更"合理",但也更"同质化"、更"可预测"?

会不会那些"别扭的"、"低效的"、"不合语法的"表达方式,恰恰是人类创造力的来源?

我不知道。

但我知道,我已经无法让儿子"不用 AI"了。

就像我无法让他"不用计算器"一样。

因为在他的世界里,这些工具从一开始就存在。

拒绝使用它们,不是"保持纯粹",是"自我残障"。

喝到半夜,老王说:"你说,我们这代人,是不是最后一代还在乎'真实'的人?"

"可能,"我说。

"那我们的孩子呢?"

"他们会在乎别的东西,"我说,"但不是真实。因为他们从来没有体验过一个'真实'有明确定义的世界。"

"那他们会在乎什么?"

我想了很久:"也许是'有效性'。只要有效,管它真的假的。"

老李叹了口气:"那我们现在做的这些检测、验证、溯源的工作,都是在给一个不存在的未来打工。"

"不,"我说,"是在给一个正在消失的过去打工。"

散场的时候,已经凌晨两点。

我走在空荡的街上,看着路灯下自己的影子。

影子是真实的吗?

它是光被物体阻挡后的投影,是真实物理现象。

但它也是一个二维的、扭曲的、不完整的表征。

那么,摄影机拍下的我,和我的影子,有什么本质区别?

都是某种"投影"。

而 AI 生成的我,是另一种投影。

也许从一开始,"真实"就是一个不存在的概念。

我们能触及的,永远只是各种投影。

过去的投影稀缺,所以珍贵。

现在的投影过剩,所以贬值。

仅此而已。


一月初,我收到一封奇怪的邮件。

发件人是一个大学哲学系的教授,他在研究"技术对认知结构的影响",看到了我之前发在技术论坛上的一篇帖子(关于检测技术的失效),想和我聊聊。

我们约在一个咖啡馆见面。

教授六十多岁,头发花白,说话很慢,但每一句都很准确。

"你在帖子里说,'真实性'正在从本体论问题变成成本问题,"他开门见山,"这个观察很敏锐。"

"谢谢,"我说,"但我不确定这是对的。"

"为什么不确定?"

"因为……"我组织语言,"这意味着我们过去关于世界的很多假设都是错的。这太颠覆了。"

他笑了:"颠覆的不是世界,是我们理解世界的方式。"

他喝了口咖啡,继续说:"你知道柏拉图的洞穴比喻吗?"

"知道,囚徒只能看到墙上的影子,以为那是真实。"

"对,"他说,"但柏拉图的隐含假设是:洞穴外面有一个'真实的世界',影子只是它的投影。只要逃出洞穴,就能看到真相。"

"但现在呢?"我问。

"现在,"他的声音很平静,"我们意识到,可能根本没有'洞穴外'。所有人都在看不同的投影,而投影的生成机制,已经复杂到我们无法追溯到一个'本源'。"

我沉默了一会儿:"那真理还存在吗?"

"真理,"他重复这个词,"也许从来不是'存在'的,而是'约定'的。一群人同意把某个叙述当作真理,它就是真理。"

"那科学呢?科学不是基于客观事实吗?"

"科学基于'可重复性',"他说,"但可重复性的前提是:观察者、实验条件、测量工具在本质上是同质的。当这些前提不再成立,科学的权威性也会动摇。"

"你是说,AI 在改变这些前提?"

"不只是 AI,"他说,"是整个信息环境。当每个人接收的信息流都是算法定制的,当每个人的'现实'都是个性化的,'客观世界'还有意义吗?"

我想起老李说的那个现象:年轻人的思维被 AI 影响。

"所以,"我说,"未来的人类,会分裂成无数个认知孤岛,每个孤岛都有自己的'真相'?"

"可能,"他说,"也可能会出现新的共识机制。但那个共识,不再基于'证据',而是基于……"他停顿了一下,"信任。或者说,权力。"

"那不是倒退吗?回到中世纪,真理由教会定义。"

"也许不是倒退,"他说,"也许是循环。也许人类文明就是在'权威定义真相'和'证据定义真相'之间摆动。而我们刚好生活在从后者向前者转变的节点。"

我们沉默了很久。

最后我问:"那我们这代人,还能做什么?"

他看着我,眼神里有某种悲悯:"记录。记录下我们是如何理解世界的。即使未来的人不再理解这种理解方式,至少他们知道,曾经有人这样理解过。"

"这有意义吗?"

"我不知道,"他说,"但这是我唯一能想到的,既不是抵抗,也不是投降的做法。"

我们又聊了一个小时,话题越来越抽象:自由意志、因果性、时间的本质。

最后分别时,他说:"你儿子多大了?"

"六岁。"

"好好观察他,"他说,"他这一代人的认知结构,会和我们完全不同。也许他们能回答我们这一代人无法回答的问题。也许他们会提出我们无法理解的问题。"

"您觉得哪种可能性更大?"

"后者,"他毫不犹豫地说。

我看着他走远,消失在街角。

那天晚上,我写下:

也许每一代人都活在不同的认知操作系统里。

而操作系统之间,是不完全兼容的。

我们能做的,只是尽可能准确地记录我们这个版本的运行逻辑。

然后接受,下一个版本会覆盖安装。


三月,儿子的幼儿园要做一个"时间胶囊"项目。

每个小朋友录一段视频,说说自己的梦想,然后封存起来,等他们十八岁时再打开。

儿子很认真地准备了。他对着镜头说:"我是六岁的xxx,我想成为科学家,发明可以治疗所有疾病的药。"

拍完后,他问我:"爸爸,我十八岁的时候,还会记得我现在说的话吗?"

"可能记得,可能忘了,"我说,"但没关系,有这个视频,你就能想起来。"

他想了想:"那如果我把这个视频弄丢了呢?"

"幼儿园会保存的。"

"那如果幼儿园倒闭了呢?"

我笑了:"你想太多了。"

但他认真地说:"我是说,如果这个视频真的丢了,然后我也忘了我六岁时说过什么,那我还说过吗?"

我愣住了。

这个问题太哲学了。

如果一个事件没有留下任何痕迹,没有人记得,它还"发生过"吗?

从物理学角度,是的——那个事件曾经在时空中占据过一个点。

但从信息学角度,不是——没有信息留存,就等于没有发生。

而人类的历史,本质上是信息史,不是物理史。

所以,没有被记录的事件,在某种意义上,确实"不存在"。

"说过,"我最后回答,"因为你说的那一刻,声音的震动是真实的,空气分子的运动是真实的。"

"可是那些分子现在在哪里?"

"不知道,"我说,"可能散开了,可能变成别的东西了。"

"那它们还是'我说的话'吗?"

我说不出来了。

他继续问:"如果我用 AI 生成一段'六岁的我'说话的视频,十八岁的我看到,会觉得那是真的吗?"

"你为什么会这么想?"

"因为,"他说,"如果我忘了自己说过什么,那真的视频和假的视频,对我来说不是一样的吗?反正我都不记得。"

我看着他,六岁的脸,七岁都不到的认知,却提出了一个我用三十五年人生都回答不了的问题。

那天晚上,我和妻子说起这事。

她沉默了很久,说:"你有没有想过,也许他是对的?"

"什么意思?"

"我是说,"她说,"也许记忆的真实性,从来就不重要。重要的是记忆的功能——帮助我们构建身份认同、做出决策、维持关系。只要功能达成了,真假有什么区别?"

"但如果记忆可以被随意修改……"

"记忆本来就在被随意修改,"她打断我,"每次回忆都是一次重构,神经科学早就证明了。我们只是不愿意承认这一点。"

"那我们还剩下什么?"我问。

"当下,"她说,"此刻,我和你的对话,这是真实的。至于五分钟后你记得的这段对话是不是准确,我不知道。但至少现在,它正在发生。"

我想反驳,但说不出来。

因为我突然意识到:我唯一能确认的,只有当下这一刻的感知。

过去,我依赖记忆,但记忆不可靠。

未来,我依赖预期,但预期只是模型。

而"当下"这个概念,在神经科学上,大约只有 3 秒钟。

超过 3 秒,就已经是记忆了。

所以,我所谓的"自我",建立在什么基础上?

建立在一个不可靠的记忆系统,和一个不可验证的叙事。

而现在,AI 可以生成同样不可靠、同样不可验证的记忆和叙事。

那么,"我"和"AI 生成的我",有什么本质区别?

我不知道。

我只知道,我越想越恐惧。

不是对 AI 的恐惧。

是对"无法证明自己是自己"的恐惧。


四月,我去参加了一个技术伦理研讨会。

主办方邀请了各个领域的专家:AI 研究者、哲学家、律师、心理学家。

议题是:"生成式 AI 对社会信任结构的影响"。

讨论很激烈。

有人认为应该立法强制标注 AI 生成内容。

有人认为应该开发更强的检测技术。

有人认为应该建立"真实内容"认证体系。

但也有人质疑:这些措施的前提,是"真实"和"生成"可以被明确区分。但如果这个前提不成立呢?

一位社会学家提出了一个观点,让全场安静了:

"也许,我们面临的不是一个技术问题,而是一个文明转型。"

"过去五百年,人类文明建立在一个核心假设上:存在一个客观的、可验证的现实世界。科学、法律、新闻、教育,都基于这个假设。"

"但现在,这个假设的技术基础正在瓦解。"

"不是说现实世界不存在了,而是说,我们接触现实世界的所有中介——图像、视频、文字——都变得不可信了。"

"那么,文明会怎么演化?"

"历史上有先例。在印刷术发明之前,知识的传承依赖口述和手抄。那时候,'真实'是由权威定义的——国王、教会、长老。"

"印刷术让知识可以大规模复制和传播,权威的垄断被打破了。这导致了启蒙运动、科学革命、民主制度。"

"而现在,生成式 AI 让'复制'这个概念失去了意义。因为复制和原创无法区分。"

"这可能导致新的权威垄断——但这次垄断的不是知识,而是'可信度'。谁能让人相信,谁就掌握权力。"

"而可信度这个东西,和真实性无关,只和说服力有关。"

会场里一片沉默。

茶歇的时候,我和那位社会学家聊了几句。

我问:"那我们能做什么?"

他看着我,眼神疲惫:"我不知道。也许什么都做不了。也许我们只是恰好站在两个时代的交界处,能看到旧世界在崩塌,但看不到新世界是什么样。"

"您不害怕吗?"

"害怕,"他说,"但害怕解决不了问题。我只能继续研究、继续记录,希望下一代人能从我们的记录里找到一些线索。"

"如果他们不在乎呢?"

"那我们的记录就没有意义,"他平静地说,"但这不是我能控制的。"

回家的路上,我一直在想他的话。

也许这就是我们这一代人的宿命:

看到了问题,但解决不了。

理解了困境,但逃不出去。

只能记录,然后等待。

等待一个我们无法理解的未来。


五月,我做了一个决定。

我开始给儿子拍视频。

不是那种精心准备的"成长纪念",而是最日常的片段:

  • 他吃早饭时发呆
  • 他写作业时咬笔
  • 他看动画片时笑
  • 他睡觉前问奇怪的问题

我不做任何后期,不调色,不剪辑,甚至不稳定器。

就是最粗糙的、充满噪音和抖动的原始记录。

妻子问我:"你在干什么?"

"我也不知道,"我说,"也许是在记录一些……瑕疵。"

"瑕疵?"

"对,"我说,"那些不完美的、低效的、AI 不会生成的东西。"

她看着我,欲言又止。

我知道她想说什么:这有意义吗?

我也不知道。

但我突然理解了那位哲学教授的话:记录,即使无人阅读。

因为这个行为本身,是一种抵抗。

不是对抗技术,是对抗遗忘。

对抗一种可能性:未来的某一天,所有的记录都变成了优化过的、符合统计规律的、完美的版本,而那些磕磕绊绊的、不合逻辑的、真实的瞬间,彻底消失了。

那天晚上,儿子睡着后,我重新看了那些视频。

画面模糊、晃动、曝光过度。

但每一帧都让我确信:这是真的发生过的。

不是因为技术检测——技术已经无法提供这种确信了。

而是因为,那些瑕疵里,有一种 AI 无法模拟的东西。

那是什么?

我想了很久。

也许是"在场"。

那种"我在这里,此刻,和他一起"的感觉。

那种感觉,无法被复制。

或者说,即使被完美复制,也不是同一个东西。

因为它的价值,不在于结果,在于过程。

在于那个不可替代的、一次性的、会消失的时刻。

我关掉电脑,去儿子房间看他。

他睡得很沉,小手握着那只霸王龙玩具。

我坐在床边,看着他的脸。

六岁,很快会变成七岁、八岁、十八岁。

而我能做的,就是在他变化的过程中,尽可能地在场。

不是拍下完美的照片。

不是录下清晰的视频。

而是,真实地在这里。

即使这个"在这里"无法被证明。

即使它最终会被遗忘。


十一

六月初,我关掉了那个"内容真实性检测"的项目。

项目经理很不解:"为什么?技术问题解决得差不多了。"

"不是技术问题,"我说,"是我觉得这个项目的前提错了。"

"什么前提?"

"'真实性可以被技术检测'这个前提,"我说,"我们做了半年,准确率从 73% 到 68%,还在下降。再过半年,可能就只有 50% 了。"

"那也得做啊,"他说,"客户需要这个功能。"

"客户需要的不是功能,"我说,"是心理安慰。他们想相信'真实'还可以被确认。但我们提供不了这种确认,只能提供一个数字——而这个数字的意义,每天都在贬值。"

"那你想怎么样?"

我沉默了一会儿:"我不知道。但我不想继续参与一个自己不相信的项目。"

他看着我,叹了口气:"行吧,我理解。但你要想清楚,这可能影响你的晋升。"

"我知道,"我说。

那天下班回家,我感到一种奇怪的轻松。

不是问题解决了的轻松——问题还在,而且会越来越严重。

是放弃了"必须解决问题"的执念后的轻松。

我终于接受了:有些问题,不是我这一代人能解决的。

我能做的,只是不让这些问题变得更糟。

晚上,儿子问我:"爸爸,你今天开心吗?"

"还行,"我说,"你呢?"

"开心,"他说,"今天老师教我们画画,我画了你。"

他拿出一张画。

歪歪扭扭的线条,比例完全不对,但确实是一个人的形状。

"画得很好,"我说。

"可是不像你,"他说,"AI 可以画得更像。"

"那你为什么不用 AI?"

他想了想:"因为这是我画的。"

我愣住了。

他继续说:"AI 画的是'像你的人',我画的是'我心里的你'。不一样。"

我看着那张画,突然鼻子一酸。

"我心里的你"。

这句话,是我这半年听到的,最好的回答。

不是"真实的你",不是"准确的你",是"我心里的你"。

而这个"我心里的",是无法被复制、无法被验证、但也无法被否定的。

因为它的真实性,不来自外部世界,来自主体性本身。

来自"我"的存在。

我抱住儿子,紧紧的。

他有点不解:"爸爸,你怎么了?"

"没什么,"我说,"就是突然想抱抱你。"

他笑了,也抱住我。

那一刻,我感到一种确定性。

不是关于世界的确定性——世界仍然在崩塌。

是关于"此刻"的确定性。

此刻,我在这里。

他在这里。

我们彼此拥抱。

这是真的。

即使没有摄像机记录。

即使明天我会忘记细节。

即使 AI 可以生成一万个"父子拥抱"的完美视频。

这一刻,仍然是真的。

因为我活过它。


尾声

七月,我重新打开了那个"笔记"文件夹。

里面已经积累了两百多条记录。

我读了一遍,发现一个规律:

前面的笔记,都在试图"解决问题"——如何定义真实、如何检测生成、如何保护真相。

后面的笔记,都在"描述困境"——问题无解、边界模糊、认知极限。

而最后的几条,开始转向另一个方向:

也许问题本身就是答案。

也许"无法确认真实",不是一个需要解决的 bug,而是人类认知的本质特征。

我们从来就活在不确定性中。

只是过去,技术给了我们一段短暂的"确定性幻觉"。

现在,幻觉破灭了。

我们回到了起点。

但这次,我们知道自己在起点。

而这个"知道",可能就是进化的方向。

我合上电脑,去阳台发呆。

夜空里,星星很亮。

那些星星发出的光,有的已经走了几百年才到达地球。

也许有些星星,在光出发的时候就已经死了。

所以我看到的,是几百年前的景象。

是"真实",也是"幻影"。

但这不妨碍它美。

我突然想起儿子的那句话:"我画的是我心里的你。"

也许,我们都在画"心里的世界"。

没有人画的是"真实的世界"——因为那个东西,我们永远触及不到。

我们能触及的,只有各种"心里的版本"。

而现在,AI 让每个人都能把"心里的版本"外化。

这不是真相的死亡。

这是真相的多元化。

或者说,是"真相"这个单数概念的死亡,和"真相们"这个复数概念的诞生。

而在这个转变中,我们这一代人的角色,不是守护者,也不是反抗者。

是记录者。

记录下"真相还是单数"的那个时代,是什么样的。

让未来的人知道:曾经,有一代人,相信过一个单一的、可验证的、客观的真相。

即使这个信念,最终证明是幻觉。

它曾经存在过。

我们活过它。

我掐灭烟,回到屋里。

妻子已经睡了,儿子也睡了。

我坐在书桌前,打开一个新文档。

标题写:《复制的尽头》。

然后我开始写。

写那个修复 1997 年录像的下午。

写儿子问"怎样可以不死"的晚上。

写检测准确率从 73% 跌到 68% 的过程。

写那位哲学教授说"记录,即使无人阅读"的瞬间。

我不知道这些文字会被谁读到。

也许没有人。

也许会被 AI 学习,变成训练数据,生成更多类似的文字。

也许会在某个服务器故障中永久消失。

但此刻,我在写。

而这个"在写"的行为,是真实的。

至少对我而言。

至少在此刻。

这就够了。

窗外,城市的灯光彻夜不熄。

某个地方,某个人,正在生成一段视频。

另一个地方,另一个人,正在怀疑一段记忆。

世界仍在运转。

真假仍在模糊。

但生活继续。

因为生活从来不需要确定性。

生活只需要继续。

我关掉电脑。

躺下。

闭上眼睛。

梦见儿子十八岁的样子。

然后意识到:这个梦,也是一种生成。

但这不妨碍我爱它。

关于作者: 苏江

热门文章

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注