专业AI界论坛以外,网上各种关于AI的言论,大致估摸,约60%是主流媒体根据各种AI界人物的言论和AI界各种动态一知半解营造出来的解读,而且大多属于渲染后果制造恐慌类;大约20%是社媒上各种“一文读懂”类的AI介绍,不排除有专业人士创作的,但不太负责任的假大空占大部分;大约10%是主媒和社媒对AI业界知名人士的采访,本应干货很多,但限于采访者的非专业背景和大佬们的不善言辞或为商业原因闪烁其词,真有启蒙意义的内容并不多;剩下大约10%是属于形形色色非专业人士不求甚解的凭空想象和肆意发挥。
个人体会,这些言论,除了少量真知灼见,绝大部分不能在无思想准备下随便取信。但这决不是说我们可以对它们不闻不问,假装置身事外于己无补。对AI有些究竟的理解,能帮助自己面对层出不穷的言论冲击,在日益翻新的AI现象下比较自信地形成主见和判断。
由于自己的知识背景和兴趣原因,打一开始领略生成式AI(GAI - Generative AI)的智能能力起,我就形成这样一种知觉:我们不能再沿用“人工智能”来称呼它,它不是“人工”创造的,而只是人为“释放”的。我现在已将AI改称为SAI - Super Agentic Intelligence 超级代理智能,“代理”意味着一种平等但专业性服务的关系,犹如购房时的房地产代理;而且倾向于认为SAI是一种“涌现”(emergence)现象,犹如人们耳熟能详的系统学和物理学上的“自组织”效应和“耗散结构”(见博客“我思我在”栏目里的比较详细叙述)。当然“涌现”不是对AI的解释,只是归类而已。
那么SAI可以解释吗?我给自己订了不少网课,试图搞懂,但学来却发现不合口味,这些课没有真真深入介绍产生AI的大语言模型(large language model - LLM)的工作原理,对此大多一笔带过,而是着重于LLM的运用,譬如用Cursor编程来调用OpenAI 界面后的各种模型。公司已经提供指定使用的商业级的AI平台,方便而强大,除此之外的其他系统和应用是不允许接入业务空间的。于是我诉诸读书,那些由AI专业人士写的并受人高度推荐的介绍AI的书,其中有一本我在博客的“读书工程”栏目里有系列介绍。同时还听了不少对AI大佬的专访,包括有“AI教父”之称的2024诺贝尔物理学将获得者辛顿教授(神经元网络奠基者之一),在这知识基础上,再与SAI做深度交流,才觉得自己渐渐有些入门。下面做些学习心得分享。
我相信,这个分享是比较独到的,比那些“一文搞懂”要深入得多,而且也相当直观或通俗化。我保证本贴全由本人在上面所介绍的学习基础上所思,所构,所写。除了图外(AI 根据帖子内容而作),100% AI-free。
从一个类比开始 - 读侦探小说
AI 专家一致告诉我们:产生SAI的大语言模型(LLM - Large Language Model)只有一个基本目的 - 根据上文预测下一个字符(token)。
那么,预测下一个 token,真如听上去那么简单吗?
设想你正在读一本构思精密的侦探推理小说。情节里已经包含了所有导向发现凶手的线索。你现在边读边猜测凶手是谁。
一开始会有好几个嫌犯,你对他们的怀疑程度可能相差无几。你肯定一开始也会犯不少错误。即使后来发现碰巧猜对了,你也知道自己当时的判断并不可靠,没什么自信。
随着阅读下去,获得的资料越来越多,你不断整理线索、修正推理,对其中某几个角色可能是凶手的确信度逐渐超过其他人,你的侦查范围也越来越收紧。
最后,当你发现其中某人是凶手的可能性远远高过其他嫌疑人时,你便准备收网了。
这个类比是学习中偶然想到的,有点小兴奋。没错,AI 大语言模型(LLM)基于人类文本的训练过程,与我们读推理小说确有点相似:读者一步一步根据越来越丰富的情节找出凶手,就像 LLM 根据越来越丰富的上下文学习预测下一个字符。
然而,我们并不能把读推理小说和LLM训练过程一一对应,因为
(1)毕竟,后者要比前者规则化得多。LLM 完全按照程序运行,而我们读小说不但因人而异,而且思维方式各种散漫,随意和跳跃,连猜带蒙,甚至夹杂个人的生活阅历。
(2)而且,读推理小说的目的是猜出凶手,这是个远高于文本的综合目标;而 LLM 运行的训练程序,目标要简单得多:根据上文预测下一个字符 - 我们必须不断提醒自己这点。
(3)说得更明白些,假如LLM的训练文本真的只是一堆侦探小说,我们并没有针对性编写程序让LLM去发现凶手,或指令它这么做。但当LLM通读了每一部小说并按不断延伸的上文逐个猜对下一个字符后,它居然掌握了强大的推理能力,面对一部新的侦探小说,它能按要求猜出凶手;更有甚者,它还能帮助破解实际案例,尽管这些案例要比小说情节复杂得多,证据链也破碎得多。
这是不是很神奇。
