读了Deepmind联合创始人穆斯塔法·苏莱曼的书《浪潮将至》。
其中的一个核心主张，是要对当下的技术浪潮进行某种“遏制”。这是科技互联网界的一个重要现象：一批在科技前沿探索的创业公司CEO和科学家，开始提出对科技要重新审视，而不只是乐观地相信技术进步必然会带来经济增长和社会进步，让所有人受益。
苏莱曼用了一个词“悲观规避”。“悲观规避”是心理学上著名的“乐观偏差”的变体。“乐观偏差”是指人在判断未来时会更偏乐观，比如会高估自己完成一件工作的顺利程度。“悲观规避”指的是，人倾向于忽视、淡化或排斥他们认为过于负面的观点。
确实，没人想要过于扫兴。
1.
先来看下作为全球最领先人工智能公司的联创，他是怎么理解今天的科技变革的。
苏莱曼认为，即将到来的技术浪潮主要建立在两大通用技术上：人工智能与合成生物学。
这里面有四个关键词，分别是：通用技术、技术浪潮、人工智能与合成生物学。
名词解释下。通用技术，指的是能对人类能力产生变革性影响的技术。
根据一项研究，人类历史上出现过24项通用技术，比如农耕、工厂系统、铁和青铜等材料的开发、印刷机、电力、互联网等。人类社会的每一次跃迁，背后都有通用技术在起作用。比如农业革命时期出现过两项重大通用技术：植物和动物的驯化。
技术浪潮指的是，在一个时期同时涌现出多种技术，这些技术都受到一种或多种新的通用技术的推动。
比如围绕着人工智能出现的技术浪潮中还包括了机器人、量子计算、新型能源技术等。“技术就像一种语言或化学：它并非一系列各自独立的实体和实践，而是一组相互交融、不断组合与重组的要素。”
人工智能已经无需解释。最近这些年我们自己亲身经历过的重大里程碑就包括，Deepmind开发的AlphaGo下围棋赢了李世石；OpenAI的ChatGpt开启了大模型时代。前者展现出人工智能可以在人类最擅长的智力领域之一胜过人类；后者展现出人工智能的逻辑推理能力可以不局限在某一个领域。
合成生物学这些年来的两个里程碑，一是基因编辑技术，CRISPER利用Cas9酶作为“基因剪刀”可以精确剪切DNA链的特定部分。二是2018年Deepmind团队的Alphafold在 CASP（蛋白质结构预测关键评估）竞赛中夺冠。弄清楚蛋白质的折叠结构，是药物研发等领域的关键。2024年Deepmind的创始人哈萨比斯因为Alphafold获得了诺贝尔医学奖。
这两大通用技术，一项关于智能，另一项关于生命。
2.
苏莱曼说，新技术浪潮具备4个特征，是之前技术浪潮没有那么突出的。
第一个特征是技术的非对称性。
它指的是，新技术可以用低成本的方式造成巨大的破坏力。比如，随着技术进步和成本降低，无人机已经成为大规模的民用硬件。对应的是，美国和以色列都曾经用300万美元的爱国者导弹去把几百美元就可以买到的无人机击落。一次实验室内的病原体泄露，就可能触发全球范围内的病毒大流行。再比如，黑客低成本制造的计算机病毒，可能造成大公司和大组织的计算机网络崩溃。
第二个特征是技术的超级进化性。
如果技术的演进只是发生在虚拟世界里，当突破了一个阈值，技术的学习速度和进化速速，会远超人类的想象。一个著名的例子就是AlphaGo，仅仅经过一个晚上，它已经自己跟自己下过无数盘棋，进而跃升到另一个阶段。包括2022年底ChatGPT发布之后，GPT的进化速度在这两年时间里也让人瞠目结舌。
第三个特征是技术的通用性。
如果机器只是在下围棋上胜过了人类，这可能还没那么可怕，可怕的是，人工智能能够在所有的领域都击败人类智能。
第四个特征是自主性。技术开始可以不依赖于人类自主进化、自主决策。
非对称性、超级进化性、通用性和自主性，之前的技术浪潮，从没有同时兼具这四个特征。尤其是超级进化性和自主性。
3.
下一个关键概念是“技术遏制”。
这个词可能会引发误解。遏制的目的，不是要停止对技术的投入，而是要保持社会对技术的驾驭力。也就是说，要让技术始终服务于人类社会。技术的停滞不前，本身就会引发巨大的社会动荡。
苏莱曼的原话是：“遏制应被视为一套相互关联、相互增强的技术、文化、法律和政治机制，其目标是在技术呈指数级增长的时代里，保持社会对技术的驾驭力…遏制技术的关键在于构建一个融合技术、社会和法律机制的综合体系。”
对技术的遏制也应该针对技术的特征来进行：
比如，相较于通用技术系统，人类应该更加鼓励针对特定领域的技术系统。技术越通用，控制就会越困难。核武器破坏力巨大，但是因为应用领域明确，所以控制起来就相对容易。
一项技术越需要人为干预 ，失控的可能性就越小。这是针对技术的自主性来建立遏制系统。
安全可行的替代技术越多，就越容易淘汰现有技术。因此需要鼓励替代技术的发展。
一些技术更具有非对称性，如果出现意外，风险就更大。比如针对特定病原体的研究。
技术的非物质化程度越高，就越容易发展处超级进化性。因为在数字世界更容易发展出指数型增长。（但是人类生活在原子世界。）
如果技术的进展受到特定资源或工程能力的制约，也会有助于短期内实现技术遏制。比如网上开玩笑说，当人工智能开始威胁人类时，就给它拔电源。
讲到这里，苏莱曼还点到了今天美国的出口管制。他的观点是，不要仅仅把出口管制看作一种地缘政治策略，还可以把它看成一种技术遏制的实验。出口管制本质上是通过特定的技术控制点来影响特定国家的技术进步。
4.
最后，分享一段有意思的话：“我认为关于奇点是否会来以及什么时间会来的争论，完全是一个误导性的议题。每次我希望引导人们关注合成媒体、错误信息、隐私以及致命自主武器等紧迫的现实议题，最终总是花费时间回应与会者关于机器人意识、奇点等与现实世界有些脱节的问题。”
我自己理解，他的意思是，不恰当地抬高大家对科技的预期，其实会妨碍我们去面对当下真实的技术挑战。最简单的，比如互联网上的假新闻，以及无处不在的摄像头。
（转自：李翔李翔）
