《Self-driving as a case study for AGI》，翻译成中文就是：将自动驾驶作为 AGI ...
Andrej Karpathy 最近写了一篇文章，标题是《Self-driving as a case study for AGI》，翻译成中文就是：将自动驾驶作为 AGI 的一个案例来研究。不知何故他在发文不久就删除了这篇文章，好在还有网络备份。Andrej Karpathy 是 OpenAI 的创始成员之一，并且 Andrej Karpathy 的另一个身份是特斯拉前 AI 高级总监、自动驾驶 Autopilot 负责人，那这篇文章的很多观点就值得一看了！
一、AGI 的定义
首先是他对通用人工智能（AGI）的定义：首先，它是一个完全自主的系统，即它可以独立运行，几乎不需要或完全不需要人类的监督。其次，它能在大多数具有经济价值的工作中独立运作。
基于这样的对 AGI 的定义，自动驾驶可以作为一个很好的 AGI 的早期案例，借助自动驾驶的发展来预览通用人工智能带来的影响和普通民众对它的感受。
二、辅助自动化驾驶和工具型 AI
然后在自动化驾驶的历程中，在真正实现全自动化自动驾驶之前，其实是从辅助驾驶开始的，就像我们现在程序员们用的 GitHub Copilot，或者微软集成到 Office 的 Copilot，这些都是辅助作用的工具型 AI。
在辅助驾驶或者辅助 AI 中，人类主要承担监督角色，可以随时接管驾驶或者下达指令。这个阶段 AI 在某些领域的表现甚至超过人类，比如辅助驾驶中的跟车或紧急制动，或者是编程中一些具体模块的实现，但是整体上或者一些场景上还不足，需要人类干预。
三、全自动化驾驶
随着技术的发展，完全自动化终究会到来，就像现在的 Waymo 汽车，已经实现了完全自动化驾驶，在旧金山打车，可以直接叫一辆 Waymo 车，而不是 Uber，一辆无人驾驶的汽车会来接你，带你前往目的地。
> 注：Waymo 前身为 2009 年成立的自动驾驶项目，目标为完全自动驾驶。2016 年，该项目从 Google 独立出来，成为 Alphabet 公司旗下的子公司 Waymo。虽然现在已经有了全自动化驾驶的 Waymo，但还是有很多人选择 Uber 或者其他方式打车，因为一方面很多人还不知道有 Waymo，另一方面 Waymo 的供应也不足，只有旧金山和凤凰城在运行，并且 Waymo 也还受制于硬件和政策法规上面的约束无法马上扩大运营规模。
所以 Andrej Karpathy 认为，通用人工智能也会是类似的过程 - 有些人或公司会立即采用，但许多人可能 1) 不了解这些技术，2) 知道后可能不信任，3) 即使信任，也更倾向于与人类合作。此外，需求大于供应，通用人工智能 (AGI) 也会因为开发者的自我约束、法规限制以及资源短缺（比如需要建设更多 GPU 数据中心）而受到限制。想想现在的 ChatGPT 也是类似的，很多人每天都在大量使用，而很多人从来没有用过 ChatGPT 甚至都还不知道它的存在，另外现在受制于 GPU 算力的约束，最强大 GPT-4 也无法放开了给大家使用，我日常就会经常遇到超过 3 小时 40 条的限制。
四、社会对自动化驾驶的反应
另外从自动驾驶可以看到的一个角度就是社会大众对于自动驾驶的反应，在几年前，大家还在纷纷讨论和怀疑自动驾驶的可行性，甚至有很多恐慌和不确定的声音。但现在，自动驾驶不再遥不可及，你已经可以花钱去乘坐完全自动驾驶的 Waymo 出租车。然而，这个变化似乎并没有引起太多人的关注。当 Waymo 的自动驾驶车辆在旧金山街头行驶时，你会发现许多人对此感到好奇。他们先是惊讶地盯着看，然后很快就继续他们的生活。
可能当自动驾驶技术在其他行业得到应用时，世界并不会发生翻天覆地的变化。大多数人甚至可能刚开始都没意识到这个变革。即使意识到了，他们可能只是好奇地看一眼，然后无动于衷，态度从否认到接受各不相同。有些人可能会因此感到不满，做出一些反抗行为，就像有人曾经在 Waymo 车辆上放置交通锥以示抗议一样。
五、自动化驾驶会导致司机失业吗？
大家对通用人工智能讨论的最多的还是对工作职位的影响，害怕 AI 会替代自己的工作。在自动驾驶领域，Waymo 显然取代了司机的工作。但同时，它也创造了许多此前看不见的新职位——比如帮助收集神经网络训练数据的人工标注员、远程协助遇到问题的车辆的技术支持人员、负责建造和维护车队、地图等的工作人员。为了制造这些高度仪器化、高科技的汽车，一个涵盖各种传感器和相关基础设施的全新产业也随之诞生。
与此类似，工作本身也在发生变化：一些工作会消失，许多新的工作机会也会出现。这更像是对工作的一次重组或改造，而不仅仅是简单的消除，尽管消除部分可能更为显著。长远来看，总体的工作数量可能会减少，但这个过程比人们初看时想象的要缓慢得多。
六、一家独大还是百花齐放
几年前，自动驾驶领域涌现出众多公司。但今天，随着人们逐渐意识到这一领域的技术难度和挑战（按照我对当前人工智能及整体计算技术的看法，这个挑战刚好处于可实现的边缘），相关企业已经大幅度整合。在这之中，Waymo 已经率先展示了功能完备的自动驾驶技术。然而，仍有诸如 Cruise、Zoox、Tesla 等公司紧随其后。
自动驾驶行业在 ~2015 年那样经历了快速增长和扩张，但最终只有少数几家公司在激烈竞争中存活下来，AI 领域也可能会经历类似的变化。在这一过程中，将会大量使用工具型 AI（例如：目前的二级自动驾驶辅助系统 ADAS 特性），甚至出现一些开放平台（例如：Comma）。
七、对未来通用人工智能的展望
通用人工智能并不会导致失控或者毁灭，相反，它更像是目前正在快速发展的自动驾驶技术，这是经济中一个重要的、正在改变社会的自动化分支。
AGI 的发展是逐步的，社会既是观察者也是参与者。其扩展在多方面受到限制，包括对教育有素的人力资源、信息、材料和能源的监管和资源的限制。世界不会因此崩溃，而是在适应、变化和重新构建中前行。
以自动驾驶为例，交通的自动化将使道路更安全，城市空气将变得更清新，交通更为畅通，而路边的停车场和停车车辆将逐渐消失，让出更多空间给行人。
期待看到 AGI 在各个领域带来的类似变革。
原文：https://web.archive.org/web/20240122062223/https://karpathy.github.io/2024/01/21/selfdriving-agi/…译文：https://baoyu.io/translations/ai/self-driving-as-a-case-study-for-agi…
https://pbs.twimg.com/media/GEthVBeWIAEpQOd?format=png&name=medium
上午3:22 · 2024年1月26日
·
3,895
查看
页:
[1]