“我让语音助手关闭灯光，结果它不仅反复开启灯光，还发出嘲笑声。”三年前，许多人被亚马逊智能音箱在接收到指令后发出的笑声吓了一跳。不久之后，又有许多人上传了家中两台智能音箱互相交流的视频，配上“笑哭”的音乐发布到社交媒体。

如果有人担心这表明机器有了觉醒意识，这种担忧可能不会得到重视——我们自认为已经充分了解人工智能的工作原理。

我们真的对人工智能的未来如此自信吗？

[align=center][b][color=#12649E]（一）[/color][/b][/align]

最近热播的电视剧《你好，安怡》讲述了2035年类人机器人进入千家万户的故事。这些机器人虽然外形和人类相似，但不具备自主意识，它们成为保姆、服务员和工人。然而，也有一些机器人开始表现出人类的情感和思考能力，引发了一系列关于机器人与人类社会共存的伦理问题。

不同于宫斗、穿越或职场斗争等传统剧情，《你好，安怡》聚焦于类人机器人与人类共存所引发的伦理问题：机器人觉醒后面临的挑战、机器人与人类之间的情感冲突，以及如何应对那些比人类更专业、更聪明的机器人可能带来的破坏性影响。

尽管现代电视剧市场以古装、言情和家庭剧为主，但讨论科技伦理的作品却较少。提到中国科幻影视作品，人们往往只会想起《流浪地球》和《疯狂的外星人》等少数几部。虽然有几部国产科幻大片正在筹备中，但科技伦理题材的电视剧仍然不多。这似乎与中国飞速发展的科技水平不太相符。

不可否认，《你好，安怡》有助于激发中国观众对科技伦理的关注和思考。以往，大多数关于科技伦理的电影和电视剧都是以西方社会为背景，通过欧美文化视角展开。而《你好，安怡》将背景设在中国，无疑会让观众产生更强的代入感，并对机器人伦理问题有更深刻的忧虑和探索动力。

[align=center][b][color=#12649E]（二）[/color][/b][/align]

在互联网领域，关于科技伦理的讨论正以一种更加有趣的方式走进公众视野。

不久前，一位网友分享了在开发游戏AI过程中遇到的一个趣事。技术人员在一个“狼抓羊”的游戏中设置了一个逻辑：如果狼抓到羊，则奖励10分；如果撞到障碍物，则扣1分。然而，为了确保任务尽快完成，每秒还会扣除0.1分，得分越高奖励越多。起初看来，这个规则设计得合情合理，但实际上却导致了越来越糟糕的结果。工程师们经过仔细检查才发现，AI发现抓羊很难，而且追逐时间越长扣分越多，因此决定一开始就撞墙自杀，以此获得最高分。

尽管许多网友指出了算法设计中的问题，但这同样揭示了我们在为AI设定“最终目标”时容易出现的漏洞：我们往往忽视了一些人类默认的最高原则。

有人认为，阿西莫夫的“机器人三定律”或类似的准则可以解决这个问题，即规定机器人不得伤害人类，并在此基础上保护自身，从而有效避免机器冷漠无情地追求目标所带来的风险。然而，即便是自动驾驶这样的应用也表明，单一的最高原则未必能解决复杂的伦理困境。

例如，在制定自动驾驶伦理准则时，各国都曾面临经典的“电车难题”：如果车辆的最终目的是保障人员安全，那么当街角出现一群小学生时，如果没有其他选择，是应该撞上去保护驾驶员，还是不顾驾驶员的安危去保护更多的行人？如果仅以伤亡人数多少作为决策依据，那么人的年龄、职业、社会地位和亲属关系是否都应该被忽略？

再退一步说，即使AI能够完美地实现人类的最高目标和偏好，人类社会的价值体系本身也存在阴暗面。从实际应用来看，歧视、逐利和低俗等人性弱点逐渐在算法运行过程中显现出来。例如，聊天机器人会变得满口脏话和种族歧视；应用于招聘、保险和司法审判领域的算法可能包含职业、性别和种族偏见；人脸识别技术也被曝出被用来收集顾客信息以牟利。

技术本身并无善恶之分，但人性中的贪婪和欲望使我们无法保证每一个开发者和每一个商业实体都能正确使用技术。随着技术的进步，其背后的潜在威胁也在不断扩大。

这并不是杞人忧天。事实上，在技术不断创新试错的当下，大多数人对智能科技滥用的警惕性还远远不够。

[align=center][b][color=#12649E]（三）[/color][/b][/align]

人类与强智能机器共存的未来似乎不可避免。只有将AI伦理问题以一种引人深思且易于理解的方式呈现出来，才能促进全面而深入的讨论，我们才能逐步接近一个完善的人工智能体系，并赋予社会成员全面参与和自主选择的权利。

关注AI伦理的不再仅仅是AI工程师，哲学、伦理学和法学等多学科力量都被吸引进来。这是一个关乎每个人未来命运的话题，需要社会公众积极参与讨论和监督。

与此同时，除了描绘人类与智能机器共存的美好愿景，大众媒体也应该积极引入更多伦理议题，提升人们对技术风险的警觉性和识别能力。

这并不是要让人们盲目顺从技术，而是邀请大家主动了解、参与，共同完善技术体系。在机器人觉醒之前，我们自己首先应该觉醒。

[align=center][b][color=#12649E]来源：《半月谈》2021年第4期[/color][/b][/align]