AI的广泛使用最终会控制人类吗？

文／明一（明慧之窗记者宋蒖琂编辑）

AI（人工智能）研究和AI产品在过去几年中取得了巨大突破，并从对人类工作的隐形参与、部分参与，突然转变为更高调的、更全方位的社会角色。这项转变，堪比互联网给人类日常生活和工作带来的转变，甚至更大。然而，AI的广泛使用最终会导致AI控制人类吗？

笔者认为会，因为不失不得，AI给人类带来的方便和满足感是有代价的。暂时的、局部的、短期的、表面的方便和满足，会或快或慢的、最终让人类失去很多能力，最终付出惨痛代价。

过度依赖科学和科学产品已经让人类付出巨大代价

在细看AI之前，我们不妨先来看看其它科学领域的例子：

百年来，科学的蓬勃发展已经让科学成为很多人的信仰，取代他们心目中神才配有的位置，直接导致道德败落，后果惊人。比如西药的研制和压倒性广泛使用，早已让一些利益集团不惜以伤害一国百姓的健康（甚至性命）为手段让自己财源滚滚，即便如此，在广告等各种洗脑的作用下，在关于西药副作用的研究信息常年被屏蔽的情况下，压倒性多数的人对西药的崇拜依然丝毫不减。

其中，鸦片从镇静剂和止泻剂演变为制造瘾君子的夺命武器，乃至使中国从富强的天邦跌落为哀鸿遍野的蛮土。

还有，上世纪六十年代研制出的芬太尼，曾作为西医手术全身麻醉的新星给人类带来振奋和安慰；到了九十年代中期，芬太尼开始以贴片、棒棒糖、溶解片剂、舌下喷剂等形式更广泛的走入人类日常生活，导致全球用量激增。再后来，芬太尼被用作「娱乐性用药」，导致二零零零年至二零一七年数以千计的用药过量死亡案例。美国病控与预防中心估计，仅在二零一六年一年中，就有超过20,000名美国人死于芬太尼及类似结构化合物的滥用。

虽然美国财政部终于在二零二一年十二月十五日，以打击芬太尼等药物滥用成瘾问题为由，对中国、巴西、哥伦比亚、墨西哥4国的15间实体和10名个人实施制裁，但是，从一九六零年代至今的六十四年中，仅因芬太尼就成为富豪的人赚钱赚到了甚么程度？因滥用芬太尼而死亡的全球总人数又是多少呢？如果挖掘一下已有的、但长期被严密封锁的事实和数据，人类会看到，药物对人类欲望、健康乃至生命的影响，都远远不再可控、不再理性。

过度依赖AI可能让人类付出哪些代价？

回到AI这个具体领域，做AI运算的数据库和电脑，简称「机器」，通常被设置在与用户隔开的地方，掌握在少数人手中。当人类将原本自己应该学习和付出努力的工作委托给机器，懒惰、走捷径、贪图便利等人性弱点，必然会导致人类将越来越多的工作分配给 AI，直至造成过度依赖，导致无法独立思考。事实上，尽管AI的突然大规模兴起似乎只是几年前的事，然而研究人员已经发现，AI 的重度用户对事物的认知度较低，决策能力也明显降低。而重度依赖AI会给人类在道德方面造成的损失，目前尚无研究成果。

以下是人们已经看到的、过度依赖AI会造成的前景：

1．AI 压迫人的生存空间，抢夺人类的工作机会。

AI 自动生成程序代码，压缩人类程序员的工作机会；
AI自动生成文档，抢夺作家、记者、办公室职员的工作岗位；
AI 会替代人类的数据录入和管理任务工作；
AI 会替代人类的客户服务工作；
AI 会替代人类的制造和装配线工作；
AI 会替代人类的零售结账工作；
AI 会替代人类的翻译工作；
AI 会替代人类的企业摄影工作。

2．AI 使人类最终失去独立思考、独立判断、独立决定的能力，完全依赖AI。

人工智能的吸引力来自于它能够处理大量数据并执行超越人类能力的复杂任务。最初，人工智能提高了我们的生产力，并在各个领域提供帮助。但随著我们开始依赖它，我们可能更信任人工智能的决定而不是我们自己的决定，从而被动地接受它的结果。这种依靠会逐渐变成依赖，人工智能对我们的选择影响太大，以至于我们失去了独立决策的能力。

3. AI 逐步控制人类社会。

人工智能可能被武器化──例如，药物研发工具可用于制造化学武器，人工智能产生的错误信息可能破坏社会稳定并影响政府的决策。人工智能的力量可能越来越集中在越来越少的人手中，使少数人能够通过普遍的监视和压迫性的审查来强制推行他们的价值观，来控制多数人的财富、生存环境和生活习惯，甚至生死。

正如动物的本质是兽性而不具备真正人类的道德思想，机器人的本质是冷酷接受电子指令而不具有真正人类的灵性和神性。现在的社会，绝大多数人类早已失去了与野兽搏斗求生的体力与技能，人的肉身在金属和人工材料制成的机器人面前，可以说是完全不堪一击的。

换个角度说，当AI使用已有的人类在各个领域发表的成果数据库，进行无数种重新梳理、分解、组合时，依赖AI的人类就成了一个个「回收站」──大多数人会退化，不再有真的灵感、创新，只会设法在已有信息中挖掘看似无数、实则有限的回收使用。这是对人类尊严的极大剥夺。

当AI使用新的人类成果作为其培训数据时，依赖AI的人类就成了AI和AI控制者的奴隶──随时给AI提供训练以强大AI及其控制者，为他们增加财富和更强大的武器；绝大多数人变得没有隐私、没有选择不受AI控制的自由。

不知朋友们冷静思考后，是否也看到了这幅前景？

神的巨大存在是事实，不以人是否承认神而改变。神是慈悲于人的，而科学则不是，所以人类必须摆正自己与科学的关系，否则后果严重，后悔莫及──说科学冷酷无情、科学让人冷酷无情，这并非耸人听闻──科学和科学产品只能是人类的工具，当工具不受人类控制或者被坏人掌握的时候，它不会因为对人类有情而不伤害人类。

刀是生活的日常用品，同时刀也可以用来自杀和杀人。枪可以用来猎食、娱乐和自卫，同时枪也能用于自杀和杀人。药物可以救死扶伤也可以杀人害命。那么AI呢？它们会永远只给人扫地、做繁琐杂务和「省脑筋」吗？绝对不会，它们已经在剥夺年轻人等重度AI依赖者的智能、想像力和创造力了。试想，特殊材料制成的机器人和血肉之躯的人类直接博弈时，谁会轻易获胜呢？

【关联文章】
人工智能是终结人类文明的科技奇点吗？