人工智能和传统行业的思考。

network

人工智能和传统行业的思考。xiaowenz / 2023-04-02传统之传统

传统产业之所以被称为传统，除了大部分并非依靠计算机技术驱动之外，同时也因为这些产业往往更贴近社会的基础架构或生产要素，对国家经济和民生福祉具有至关重要的影响。这些行业通常需要应对更为严格的行业内规定和行业外法律法规的监管，其业务特点也呈现出极高的细分程度。

在这些行业内，安全、合规、准确性往往高于效率，因此它们的信息系统建设或信息化进程，大多数情况下是对现有业务的升级加持——从线上化、半自动化到全自动化的演变过程，而所采用的方案必须同样满足行业的各项要求。传统产业的信息化建设之初，并非是「科技赋能业务」，而更像是「业务培育科技」。

以银行业为例，当你考虑技术方案的时候，要考虑的基本款因素有：

合规：使用的供应商是否满足国家和行业的合规要求。

比如，当你考虑使用SaaS的OpenAI的时候，OpenAI的法人，股东，连带受益实体，是否出现在国际和国内的制裁名单上？

数据安全：使用的方案中，数据的使用，传输，保护是否满足要求？

数据安全是个系统工程，往往从数据的采集，传输，使用，销毁等生命周期完整的进行评估。当你考虑使用SaaS的OpenAI的时候：

• 你可能会输入哪些信息？是否有自身企业内的非公开信息？
  • 如：企业内的代码片段，企业内的流程制度，企业内的员工或其他个人信息，企业客户的信息等
    
• 这些数据会如何被传输？
  • 显而易见，数据的传输链路上虽然有SSL的加密，但传输的数据内容本身是不加密的。
  • 同时显而易见，数据会从境内传输到境外。
    
• 这些数据会如何被使用？
  • 如果你阅读ChatGPT的条款，你会发现你需要同意ChatGPT使用用户内容改进和提升服务。也就是说你和Chat的交互会被存储，并可能用于长期的训练。嗯哼？
    
  
  

怎么样，任何一个传统企业如果要商用，顾虑何如？

另外说个分支话题，许多行业外的人可能不知道，大部分银行的生产环境尤其是核心系统的产线是物理隔离的。接触生产环境的运维人员，只能在固定的区域（很多时候是机房旁边的运维房间）才能做生产环境的操作。

这不是技术老派的问题，只是对于数据和生产安全来说，社会工程不可不防。武功再高也怕菜刀啊。

准确：传统行业关心的首先是底线

传统行业首先关心的是地板而不是天花板。目前的AI通过自注意层等设计，让人机交互出现了前所未有的上下文联系和自纠错能力，但代价实际上反馈存在一些不确定性，虽然可以通过参数进行调节，但这种不确定性仍然会根据prompt的差异而产生。

不确定性（uncertainty）意味着风险，这在传统行业（尤其是金融）很可能是致命的黑天鹅。如果你告诉一家银行，我们上一个全自动的人工智能交易系统，99%的场景下可以比以前多赚很多钱，但1%的场景下可能原地爆仓，你看看风控部门怎么说……

成本：成本问题暂且不说……后面说方案的时候一起比较

智能之能

在ChatGPT引领的AI浪潮如此热烈的时候，人工智能究竟解决了什么？

不打算重复大部分扫盲文章中的内容，只推荐下面的一些材料：

• [url=https://xiaowenz.com/blog/2023/04/decouple-your-time/%5Bhttps://arxiv.org/pdf/2303.12712v1.pdf%5D(https://arxiv.org/pdf/2303.12712v1.pdf)]Sparks of Artificial General Intelligence: Early experiments with GPT-4[/url]
• Orange的翻译和解读
  

简单来说，算力和神经网络设计的发展，首次让以自然语言文本进行海量训练的模型，学会了逻辑能力（也延伸出了视觉听觉等描述性的感官逻辑）。

因此目前的人工智能之所以看起来有巨大突破，核心原因是ChatGPT有效打破了自然语言和自然逻辑之间的鸿沟。

长期以来，掌握了专业工具的人，通过利用自己的专业技能，把客户通过自然语言的沟通出的需求，转化为专业领域内的方案，最终提供实现满足客户的最终目标并收取费用。这个提供服务的过程，实际上存在两个部分：

• 需求 -> 自然语言 -> 逻辑上可解释的方案
• 方案 -> 工具（如程序语言） -> 逻辑上可执行的实现
  

如今，自然语言和逻辑之间的鸿沟被逐渐的填平了（GPT），工具能力和逻辑关系之间的鸿沟也在不断缩小（如Midjourney为首的作图）。这意味着原本阻挡在需求和实现中间的工具人们，存在的意义会慢慢的被淡化。

于是，我们理想的工作形态也许是这样（这也是无数人突然觉得AI可以干掉很多工作岗位的原因）：

需求 -> 自然语言 -> 实现

智能之障

然而，我们的现状是，大部分的人你给他一个ChatGPT4，除了聊几个天之外，他都不知道别的能做什么。

人类对世界的积累，对逻辑的理解，对世界的抽象的平均水平和能力，其实惨不忍睹。

大部分企业的现状其实是：业务部门经常认为研发部门开发的系统功能不好用，研发部门经常认为业务部门讲不清楚需求。

按理说，大家都是人类，都用自然语言沟通，有啥讲不清楚的？但令人悲伤的事实就是如此，业务需求是对客观世界的抽象和归纳，功能实现是从原始的基础能力往上进行逐层具象和堆叠——他们从未对齐过。

人工智能可以填平自然语言的鸿沟，却无法填平人类远远跟不上的逻辑和抽象能力。

智能之智

人工智能的特长到底是啥？

自然语言输入。

这当然是首当其冲的优点，否则编程语言纵横这么多年的意义在哪不是吗？

海量的信息。

没有人可以穷尽所有的知识，哪怕你掌握再多的生产力工具和知识图谱技巧，构建了你的第二第三第八百多个大脑也一样。

但电脑显然可以，理论上电脑可以输入人类社会有史以来所有的知识，并用跨越社会语言文化的最底层逻辑关联他们，这是任何一个人脑在有限时间内做不到的。

目前人工智能的局限是啥？

算力，只有算力。

有限的算力无法在单次的交互中纳入足够多的上下文并构建完整自洽的逻辑关系，因此我们目前对AI的所有使用，都讲受到算力的限制。为了适应这种限制，人们在尽可能抽象自己需求的同时，开始学习各种「魔法（prompt）」，以求在有限的上下文中尽可能准确的固定自己的真正的需求。

吐槽：所以……之前为啥没有业务部门还有产品经理去研发一个“准确和程序员沟通需求的prompt清单”……

算力，是对愚蠢人类的「容错」能力。

传统之当下

当下传统行业面对信息化时代的痛点其实非常清晰：业务目标和对应成本之间不可调和的矛盾。

这里的业务目标包含了本身业务的复杂度，合规的要求等。目前的ChatGPT4模型背后是海量的数据和算力的支撑，然而大部分的企业都无法在目前的服务框架下直接用$20每月的成本将这个能力投入商用（无论是中国，还是非美国的其他国家）。

若要合规的把足够深度的AI模型本地化落地，对大部分企业来说都是巨大的成本投入，显然也并不可取。因此，倘若算力和算法在今天这个程度，对于大部分企业来说，细分领域的专精人工智能才是最首选的。

• 翻译：无用多说，在外企呆过就知道，要招一个多语言能力的专业技能的人有多难。
• 文档和培训：企业内的文档和培训永远是不得不做，却性价比极低的。DocGPT我觉得是一个雏形，最终把企业内上下文的所有知识传承都训练成一个自动的辅助培训工具，似乎会是非常值得做的一件事，同时也会重构人们对文档，手册维护意义和格式的定义。
• 交互 Interface：信息化系统的UI，本质上提供了一个非机构化世界和结构化系统之间的接口。这个交互会逐渐演进的。
• 专业领域的助手：GPT4的能力毋庸置疑，但如果Fine Tune出一个专精的开发助手或者脚本助手，我个人仍然觉得值回票价，对应的成本和难度应该会小很多。
• 助理：很多人需要助理的原因是，日常的大多事务性工作无法轻易结构化。比如预订酒店，航班，会议时间的安排和选择等。你无法通过一个自然语言的指令，把一个结构化的需求产生出来，并引发后续自动的处置。未来，也许呢？
  

传统之未来

和ChatGPT互动的这些日子，最让我惊讶的其实并不是他对于自然语言的处置如何顺畅，而是他跨界知识经常可以产出的新意。

严格来说，这些内容都来自前人知识，不能叫作创意——但正因为人类的知识面有穷尽，对于机器来说理所应当的排列组合，有时候却是没有人想到过的。

比如这是我让AI思考金融机构信息化可能可以做的事：

这些选择是否都有效（Make Sense）本身并不重要，重要的是当你用适当的问题和他探讨的时候，你可能得到让你愿意更进一步思考的意外答案。

辅助思考，可能是AI对人，对每个行业能带来的更高的价值，因为作为一个永远优先关心行业地板的悲观主义者，第一次看到了天花板真的可以提高的可能性。