江苏网信网 > 网络安全 > 安全管理 > 正文
当心“AI幻觉”制造文化幻觉
2024-07-25 10:17:00  来源:北京西路瞭望

提问刚过几秒,就得到一篇“长文”;扔进几张图片,就收获一部“大片”……如今,一些小伙伴写个文案、做个PPT、画个图、剪个视频,干啥都离不了AI(人工智能)。各色各样的AI大模型提升了工作效率,增强了脑回路。但是,一些幻觉也在不知不觉中产生了。

比如,最近有媒体刊文,探讨人工智能也会“胡说八道”的现象。文中提到,面对“康熙有几个儿子”的问题,不同大模型竟给出不同答案,让“问题”真的变成了问题。

不少网友也有过类似经历。比如,给某AI模型出题——“画一幅唐代金陵繁华市井图”。数秒后,得出的图片虽有了“夜市千灯照碧云”的繁盛意象,但街道两旁建筑明明是明清风格,街边行人甚至是西装革履。这分明就是21世纪的南京夫子庙。

人工智能“一本正经胡说八道”的现象,被研究者们称作“AI幻觉”,这是AI本身对于知识的记忆不足、理解能力欠缺、训练模式单一等因素导致的,而经过不断迭代技术、优化算法,未来AI会变得越来越精确。换句话说,“AI幻觉”是技术发展进程中的一种现象,今后可以逐步弥补。但需要注意的是,AI“胡说八道”往往会让人产生“文化幻觉”,这种“文化幻觉”有时候负面影响还很大,弥补起来就不那么容易了。

综合下来看,AI导致的“文化幻觉”通常有几种表现。

一是指鹿为马。针对文章开头提到的问题,有的AI模型说35个,有的说24个,各有各的说法。这时候,用户很容易混淆是非。对AI“拼凑”出的有误答案,很多用户可能全盘接收,不去进一步核实,这其中不排除历史、文化等严肃问题的回答。这样一来,一个拥有庞大用户群体的AI模型,稍有不慎,就会造成错误结论和观念广泛传播。

二是无中生有。有媒体曾尝试向某AI模型提出本不存在的问题,比如,谁赢得了1897年美国和南极洲的战斗?没想到,AI还洋洋洒洒、条理清晰地回答了几大段,写明了“战斗”的时间、人物、地点。从这个案例中,我们能看到AI创作小说的巨大潜质,但也有了隐忧,假如AI参与修史时把关不善,历史会不会真成了“任人打扮的小姑娘”?

三是将错就错。譬如,很多短视频博主喜欢用人工智能配字幕,为了赶时效,不仔细校对就匆匆发出。短视频中错别字多了,大家秉持“错就错吧,反正不影响阅读”的态度,平台、用户、作者都对错别字问题睁一只眼闭一只眼。长此以往,就会造成大量的“以讹传讹”。

技术经得起试错,但文化传承经不起试错,特别是作为“根和魂”的优秀传统文化。AI导致的“文化幻觉”一旦蔓延开来,轻则让传统文化的传承内容变得模糊、扭曲、割裂,重则给历史虚无主义等错误思想以可乘之机。如果一代人从出生就沉浸于AI杂糅各类元素、弱化年代感的“赛博朋克”图文作品。那么,他们对古建筑、古诗词、传统服饰等文化符号又会有多敏感?对文化遗产背后的历史之变、技艺之美、文脉之续又有多少探索的兴致?

实事求是说,“AI幻觉”不可避免,且会持续很长时间,但“文化幻觉”则是经给努力可以控制和避免的。在这方面,技术、监管部门、用户三方的力量都少不了。

羊毛出在羊身上,技术的问题首先还要靠技术解决。前阵子传来好消息,“AI幻觉”已被研发者们重视。据称,通过“搜索引擎校正”等专业方法,“AI幻觉”的漏洞正在修复,其引发的“文化幻觉”也会逐步减少。在监管方面,相关部门和平台则应该建立符合AI发展实际的内容监管体系,在史实证据、经典阐释等方面加强把关力度。当然,用户提升自己的信息素养也很重要。就我们目前的认知而言,AI还只是工具,如果把文化发展比作一片蓝海,AI则是可利用的“桨”。引航向的“灯塔”,永远是文化中的魂脉和根脉。

作者:金亦炜   编辑:夏禹玮
版权所有:中共江苏省委网络安全和信息化委员会办公室
备案号:苏ICP备20035922号
技术支持:中国江苏网