文：诗与星空(ID: SingingUnderStars)
马斯克和人工智能领域顶尖专家、图灵奖得主约书亚•本吉奥(Yoshua Bengio)等人联名签署了一封公开信，呼吁暂停开发比GPT-4更强大的AI系统至少6个月，称其“对社会和人类构成潜在风险”。这封发布在非营利性组织“未来生命研究所”(Future of Life Institute)网站上的公开信主张，在开发强大的AI系统之前，应先确认其带来影响是积极的、风险是可控的。
信中详述了具有人类水平智能的AI系统可能对社会和人类带来极大的风险，称“这一点已经得到大量研究和顶级AI实验室的认同”，并连续抛出四个疑问：
– 我们是否应该让机器用宣传和谎言淹没我们的信息渠道？
– 我们是否应该让所有的工作自动化，包括那些令人满意的工作？
– 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维？
– 我们应该冒着失去对我们文明控制的风险吗？
这封公开信的签名者越来越多，不过也有人核实部分签名可能并非本人，但马斯克呼吁暂缓AI的研究是一个事实。
这些大佬为什么这么做？
有一种观点，认为马斯克是为了在这段延缓的时间发展自己投资的新AI产品。星空君认为，这个观点有点低估马斯克的格局了。
作为世界首富、想要死在火星的马斯克来说，他的梦想真的是星辰大海。
在此之前，星空君大概深度使用了一个多月的ChatGPT和stable diffusion，甚至特意买了一台12G显卡的主机做测试，对于AI加持的人类未来，原本还是很乐观的。
研究完这封公开信之后，却变的非常不淡定了，因为事实可能和我的乐观不一致。
01
第四次工业革命和前三次工业革命的本质不同
ChatGPT为首的人工智能比以往任何的产品都要强大，甚至似乎“进化”出了智慧。以及随着工业4.0的快速迭代，第四次工业革命已经/即将到来。
前三次工业革命都大幅提高了生产力，但同时提供了更为先进的生产工具，从而产生了更多的工作岗位，才有了工程师、程序员这类高科技人才的发展空间。
蒸汽机不能凭空制造，电脑需要人工操作。
第四次工业革命却变的有一点点不一样：代码可以凭空制造、机器也许可以凭空制造。
这意味着，这一次的工业革命很可能在解放生产力的同时，不会创造更多新的岗位了。
当然这只是推测，也许新的工业革命会催生革命性的就业岗位。
如果真的无法创造更多的岗位，那就出现了一个严重的问题：AI发展越快，没有工作的人类会越来越多，世界有没有做好出现一部分人（可能数量巨大）无法工作的情况？
马斯克的担心是对的，很显然人类社会并没有做好这个准备。
02
数字化生存
1996年，美国学者尼葛洛庞帝出版了一本书，叫《数字化生存》。
在这本书里，尼葛洛庞帝提到，人类生存于一个虚拟的、数字化的生存活动空间，在这个空间里人们应用数字技术（信息技术）从事信息传播、交流、学习、工作等活动，这便是数字化生存。
星空君的第一个邮箱就是1996年注册的，那年拥有了自己的第一台电脑，第二年就读到了这本书，年少的心对未来充满了期待。
2000年的时候，加拿大科幻小说家罗伯特﹒J﹒索耶写过一本《计算中的上帝》。遗憾的是，读到这本书的时候，是20年之后了，如果当时能够读到这本书，可能会对数字化生存有一个全新的认识。
《计算中的上帝》认为，当一个星际文明发展出原子能和计算机技术后，会在短短几百年的时间里，迅速发展到“数字化生命”阶段。把全体成员的意识上传，数字生命在云端生存并迭代发展，一直到宇宙尽头，而这个文明的实体就消失在茫茫宇宙中。
结合起来想，就明白为什么马斯克在研究脑机接口了。一旦实现了人类意识的上传，距离真正的数字化生存就咫尺之遥。
不过意识上传有个bug，现在电脑的所谓“剪切”并不是真正的剪切，而是先复制后再删除原来的。
一旦实现了意识上传，那么传上去的，其实是个复制品。
如果意识可以永存，那么即便是上传了我的意识的复制品，我也可以接受抛弃躯壳的结果。
03
悲观与乐观同在
无论最终AI发展到什么程度，人类都不可避免的要去拥抱AI。
要么和AI一同进化，成为AI的一部分；要么被AI淘汰，成为进化路上失败的一支，就像当年的尼安德特人。
这并非危言耸听。
原文标题 : AI做好解放生产力的准备了，但人类还没做好
