Anthropic宣布在Claude Opus 4եւ4.1型号中启动新功能，该模型使Neurocan能够在长期侮辱或淫秽行为的情况下完成对话。该公告发表在开发人员网站上。
该创新是在AI福利计划的框架内进行的，该计划旨在提供人工智能的“繁荣”。初步测试表明，Claude Opus 4避免对有害调查做出响应，并在笨拙的交流过程中提供了“压力”的反应。当对话结束时，该模型已积极使用。
在用户侮辱ABH的情况下，系统将通知用户对话的结束，之后将可以开始进行新的对话，发送反馈，并恢复以前的消息，并恢复对话和恢复对话。注意，创新不适用于API模型。
开发人员强调，此功能仅在极端情况下启动，该系统首先试图将合作转变为建设性的方式。大多数用户并不意味着更改。
人类人物还指出，目前，克劳德（Claude）和其他语言模型的道德地位仍然是一个研究问题，但该公司非常认真，并提供了增强其“幸福感”的工具。
翻译的：uromedia24.com
