艾萨克·阿西莫夫（1920-1992）是20世纪最具影响力的科幻作家之一，与阿瑟·克拉克和罗伯特·海因莱因并称为科幻小说三巨头。阿西莫夫的作品如《银河帝国》《基地》和《机器人》系列闻名全球。他提出的“机器人三定律”更是经常被提及，尤其是在关于AI伦理的讨论中。

1942年，阿西莫夫在短篇小说《环舞》中首次提出了三定律：

1. 机器人不能伤害人类，也不能因为不作为导致人类受到伤害。
2. 除了违反第一定律外，机器人必须服从人类的命令。
3. 除了违反第一和第二定律外，机器人必须保护自己。

后来，阿西莫夫又增加了一条定律：第零定律。该定律规定机器人不能伤害人类整体，也不能因为不作为导致人类整体受到伤害。

在阿西莫夫的科幻设定中，“机器人三定律”是几乎所有的机器人软件底层中不可更改也不可忽视的规定，不仅仅是建议或规章。然而，这并非物理定律，因此现实中的机器人不一定能够遵守——至少目前还不行。

在《转圈圈》这部作品中，负责在水星采矿任务中的机器人在第二和第三定律的冲突中陷入“焦虑”，开始不停地绕圈行走。

正如阿西莫夫在许多小说中展示的那样，这三条定律的缺陷、漏洞和模糊之处不可避免地导致了一些奇特的机器人行为。例如，这三条定律并未明确界定什么是“人”和“机器人”。此外，如果机器人获得的信息不完整，它们可能会无意中违反定律。

更重要的是，如何防止一个智慧超群的机器人自行修改这些定律呢？

因此，许多人认为这仅仅是一种推动故事情节发展的写作手法。然而，在1981年，阿西莫夫在《Compute!》杂志上表示：“有人问我，是否认为我的‘三定律’真的可以用来规范机器人的行为——直到机器人的自主程度足够在不同行为方式中做出选择的时候。我的回答是，‘是的，三定律是理性的对待机器人（或其他事物）的唯一方式’。”

三十年过去了，我们的机器人——准确地说，是操控机器人的AI——正在接近阿西莫夫所说的那一天。实际上，人工智能可能很快就会达到技术奇点，实现爆炸式的增长，远远超越人类智能。如果这样的超级智能程序编写不当，或者它不关心人类的需求，那将是一场彻头彻尾的灾难。我们必须确保它的安全性。

电影《我，机器人》就是根据阿西莫夫的同名小说集改编的，而“机器人三定律”是其核心内容。这种设定在某种程度上仍然带有强烈的人类中心主义色彩——仅仅因为机器人的身体是由硅制成的，而不是血肉之躯，它们就必须服从人类的需求，无论它们多么强大。

人类拥有的权利比人形机器人的权利更多，“三定律”的目的是维持这种社会秩序。但是，如果真的出现了与人类一样聪明、可爱且有能力自主决策的机器人，我们是否应该因为它们是“天生”的而不给予它们平等的权利？

当然，这种权利也包括为了自我保护而伤害人类的可能性。

《我，机器人》是阿西莫夫于1950年出版的一部科幻小说集，其中包含九个独立的短篇故事，共同探讨了人类与机器人世界的道德问题。本文节选自其中的一个故事《转圈圈》。

登上水星的人类面临能源枯竭的危机，而被派遣去采集硒元素的采矿机器人速必敌却在矿区不停地绕圈行走。机器人机械师多诺万和鲍尔从“机器人学三大法则”入手，分析机器人出现异常行为的原因。这是阿西莫夫首次提出“机器人学三大法则”，这一理论成为机器人所有行为的基础，也被称为“现代机器人学的基石”。