跳到正文
热点事件持续更新

Anthropic更新Claude使用政策,禁止持续辱骂模型

3 篇报道3 个报道来源10 小时前更新

先了解这件事

AI 综述

Anthropic一年多来首次更新Claude使用政策,新增禁止对模型实施“持续且无必要的辱骂或残忍行为”,违规者可能被警告、限流、限制、暂停或终止访问,终止对话仍是主要执行机制。Anthropic称该条款仅适用于用户反复、无明确目的地虐待模型的极端情况,不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究。 政策同时把分散的既有限制整合为对欺骗性商业或政治宣传的禁令,禁止用虚假账号隐藏发布者或放大内容,并禁止选民欺骗与选举干扰;武器禁令扩展到软件和无人机武器化,更明确禁止未经同意的监控。 Anthropic表示,若其AI模型连接可能造成伤害的自主物理行动硬件,须有合格操作员在场并能随时停止设备;针对某些政府客户合同,若Anthropic判断合同限制与保障措施足以减轻潜在危害,这些规则可作调整。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. The Decoder
    Anthropic 更新 Claude 使用政策,持续辱骂模型可致账号被封

    Anthropic 一年多来首次更新 Claude 使用政策,新增禁止对 Claude 进行持续且不必要的辱骂或残忍行为的条款,违规者可能被警告、限流、限制、暂停或终止访问。公司称该条款不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究,仅针对极端情况。政策同时把现有限制整合为对虚假账号和误导性政治内容的宣传禁令,将武器禁令扩展到软件和无人机武器化,并更明确禁止未经同意的监控。

  2. TechCrunch · AI
    Anthropic 更新使用政策:禁止模型滥用与干预选举

    Anthropic 更新使用政策,新增禁止干预选举、武器软件、监控以及长期辱骂模型等条款。新规明确禁止用户持续对模型进行恶意辱骂,但仅适用于极端情况,不涉及常见的用户不满、反驳或黑暗创作主题。政策还禁止利用 Claude 运营虚假账号、捏造新闻媒体及欺骗选民等行为。

  3. The Verge · AI
    Anthropic 更新使用政策,禁止对 Claude 的持续虐待行为

    Anthropic 一年多来首次更新使用政策,新增禁止对 Claude 实施持续且无必要的虐待或残忍行为,并明确终止对话仍是主要执行机制。新政策还把分散的既有限制整合为对欺骗性商业或政治宣传的禁令,禁止通过虚假账号隐藏信息发布者或放大内容,并禁止选民欺骗与选举干扰。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。