大模型预测，下一个token何必是文字？

　　明敏金磊发自凹非寺

　　量子位公众号 QbitAI

　　太快了太快了…

　　大模型的生成技能，已经到了普通人看不懂的境界！

　　它可以根据用户过去 5 年的体检报告，生成未来第 1 年、第 2 年、第 3 年的体检报告。

　　你看，这个生成的过程，是不是像极了 ChatGPT，根据历史单词预测下一个单词。

　　它能查看过去 7 天机组子部件的运行情况，生成未来 3 天每小时的子部件报告。

　　还能基于历史水文数据和未来 7 天气象数据，生成未来第 1 天、第 2 天……至第 7 天的每小时降水分析报告，包括详细降水量、降水分布。

　　如今，大模型的生成内容，早已不只是文字/图像/视频了。

　　如上生成的这些报告分析涉及诸多专业知识，普通人很难基于自己的知识储备评价其合理性和正确性。

　　最多只能评价一句：不明觉厉！

　　怎么说呢？“AI 似乎正在生成一切”。

　　LLM+ 行业数据，路走错了？

　　简单理解大模型，就是Predict the Next “X”。ChatGPT 是 Predict the Next “Word”。

　　但行业需要的往往不是预测下一个字。

　　比如对于慢性病患者的健康管理规划，它需要基于一系列生理指标数据，从医学角度进行数据预测。举个不恰当的例子，这更像是用数学方法解题。

　　如果在大语言模型基础上投喂大量专业的医学语料，更像是用语文方法读题。尽管能理解相关的术语和指标，可是给出的预测结果大概率不准确。因为问题本身超出了“语言”范畴，不能用语文方法求解。

　　如果“X“的模态从“文字 Word”变成了“体检报告”，模型则可以根据历史体检报告数据去预测下一个体检报告，这才是一个健康管理大模型。

　　它的逻辑更像是“种瓜得瓜、种豆得豆”。即输入“X”、输出“X”。

　　这里的“X”可能包含水文数据、健康报告、设备监测数值、设计推演等不同样式的专业数据。

　　它能基于音乐厅的几何模型和房间数据，从声源发射 5000Hz 频率射线，生成射线分布图，找到听觉最佳的音源摆放位置。

　　如何预测“X”？

　　所以，这些能预测下一个X的行业大模型，如何构建出来？

　　通过刚刚发布的先知 AIOS 5.0。其核心特点是基于各行各业场景的X模态数据，构建行业基座大模型。

　　解决了当前行业大模型只能将行业文本数据喂给大语言模型、生成下一个字的问题，让大模型能来到的领域更加广泛。

　　先知是 AI 公司第四范式的核心产品。2015 年，先知 AIOS 1.0 版本首次发布，通过高维、实时、自学习框架提升模型精度；2017 年，先知 AIOS 2.0 版本利用自动建模工具 HyperCycle，降低模型开发门槛；2020 年发布的先知 AIOS 3.0 版本规范 AI 数据治理和上线投产；2022 年，先知 AIOS 4.0 版本引入北极星指标，更大化发挥 AI 应用价值。

　　AIOS 5.0 版本则从生成式 AI+ 行业这一角度出发，给行业大模型提出了一种新思路。

　　而在公认的大模型应用落地元年里，行业大模型的发展和影响一定是此前的数倍。这种更具规模化的动向，由此也形成了 AIGC 趋势的下一个范式。

　　One More Thing：AIGC 迈向新范式？

　　从图片、文字、视频，再到健康、水利……我们不难看出 AIGC 现在正以迅猛的速度朝着 AI生成一切的方向飞奔。

　　通常来说，一切事物的发展似乎都需要一些范式来推动，而且不是新范式取代旧范式，而是它们之间互补使其更加深入和全面。

　　正如科学研究中的四种范式一般，即实验归纳、理论推演、计算机仿真和数据密集型科学发现，它们相互补充，共同推动了科学研究的进步。

　　那么若是以这种逻辑来看待 AIGC，似乎类似的四种范式也已经开始出现。

　　AIGC 的第一范式以文本生成为核心，通过智能客服、内容续写等应用，展示了 AI 在理解和生成自然语言方面的能力。这一阶段的 AIGC 技术，为后续的发展奠定了基础，使得机器能够与人类进行有效的交流和互动。

　　AIGC 的第二范式将应用领域扩展到了图像生成。

　　如生成对抗网络（GAN）、变分自编码器（VAE）等，可以学习从随机噪声生成逼真图像的映射。并能将输出结果用于艺术创作、图像增强、虚拟场景生成等领域。这一范式进一步展现了 AI 的想象力。

　　AIGC 的第三范式则是聚焦在了视频生成，例如 Gen2，例如 Sora。

　　视频生成一定程度上反映了 AI 对于世界的理解。从 Sora 诞生以来，能否理解世界？是否是世界模拟器的说法一直争论不休。因为如果确定 Sora 可以理解世界，将意味着 AGI 大门正式开启。