Claude的开发商Anthropic于8日表示，正在更新使用政策，允许其工具在用户表现出“残忍”时终止交互。该公司称，此前在“罕见”情况下曾这样做过。

如今，这类辱骂行为将被列入禁止行为清单，该清单还包括欺凌他人、鼓励自残和制作未经同意的私密影像。

尽管Anthropic表示，该政策仅适用于反复辱骂的“极端情况”，但它再次引发了关于应如何与AI工具交流的争论。

公司表示，该政策不适用于“用户常见的沮丧、反驳、黑暗主题创作，或模型测试和研究”。但Anthropic究竟会把什么视为对其模型的“虐待或残忍行为”，仍不清楚。

新政策截图在社交媒体上被广泛分享和评论。一些人称赞它“倡导了礼貌”；但也有人批评该计划，有人称其“大错特错”，还有人暗示，这可能削弱人们对人类和动物的虐待行为的重视。

“这种程度的AI拟人化是有害的。它让人们相信AI拥有并不具备的属性。”

微软AI主管穆斯塔法·苏莱曼曾在9月批评竞争对手Anthropic将AI当作人对待，并以一个带有揶揄意味的“融化的脸”表情符号回应其政策更新。

此次更新还旨在应对其他领域新出现的风险，包括禁止使用Claude进行“欺骗性活动”。此外，随着美国中期选举临近，Claude不得被用于“欺骗选民或扰乱选举”。

Anthropic在8日还表示，其使用政策此前已阻止其工具被用于开发武器。

但在所有更新中，没有哪一项像禁止用户虐待聊天机器人这样引发如此多关注和审视。这也触及一个备受争议的问题：使用生成式AI工具时，应该粗鲁还是礼貌？

一些专家表示，对ChatGPT等AI工具写或说“请”“谢谢”没有必要，还会浪费词元——生成式AI工具背后的大语言模型需要用这些词元来处理并回复你。

另一些专家提出，对AI聊天机器人粗鲁可能对人类沟通产生不利影响，因为它会“渗透到我们与他人交谈和对待他人的方式中”。