过去 48 小时，AI 圈讨论最多的 4 件事
10月9日 12:30 更新 · 按讨论热度排序
Anthropic一年多来首次更新Claude使用政策，新增禁止对模型实施“持续且无必要的辱骂或残忍行为”，违规者可能被警告、限流、限制、暂停或终止访问，终止对话仍是主要执行机制。Anthropic称该条款仅适用于用户反复、无明确目的地虐待模型的极端情况，不适用于常见的用户不满、反驳、黑暗创作主题或模型测试研究。 政策同时把分散的既有限制整合为对欺骗性商业或政治宣传的禁令，禁止用虚假账号隐藏发布者或放大内容，并禁止选民欺骗与选举干扰；武器禁令扩展到软件和无人机武器化，更明确禁止未经同意的监控。 Anthropic表示，若其AI模型连接可能造成伤害的自主物理行动硬件，须有合格操作员在场并能随时停止设备；针对某些政府客户合同，若Anthropic判断合同限制与保障措施足以减轻潜在危害，这些规则可作调整。
最新进展Anthropic 更新 Claude 使用政策，持续辱骂模型可致账号被封
Google发布通用Gemini AI智能体，可在后台跨应用和设备工作，入口为Gemini Enterprise应用，用户能在单一界面中对话并派发任务。该智能体目前仅面向企业客户开放私密预览，Google称将先服务企业、之后再推向消费者。 据Google介绍，该智能体可接收目标而非仅指令，自行规划工作、调用自定义技能与工具，并连接Google Workspace、Microsoft 365、Slack、Jira、Git等内部系统，也支持通过MCP服务器接入。默认由AI选择模型，用户也可手动选择，包括Anthropic的Claude等第三方模型；Google称未来将扩展至开源及其他私有模型。 Google还称将提供多模型编排、智能路由和实时支出上限等灵活支出选项，以帮助企业控制企业AI成本。
Google 发布实验性笔记应用 Google AI Edge Foresight，可完全离线转写会议和音频文件，免费使用，在 macOS 上基于其端侧 EmbeddingGemma 2 模型运行，该模型有 7.4 亿参数。 据 Google 的 FAQ 页面，该应用目前仅针对搭载 Apple Silicon 的 Mac 优化，但可完全离线工作，能跨应用记录会议内容，包括线下会议。在众多 AI 笔记应用中，其特点是全部处理在设备本地完成，对标 Granola 等工具。
OpenAI 在 ChatGPT 中推出名为 Intelligent UI 的新界面，随新 GPT-6 模型一同推送，让回答不再只是纯文本，而是加入可点击按钮、交互式图表、表单、可编辑图形和针对特定任务定制的内联工具（如计算器）。OpenAI 称，GPT-6 经过训练，能判断何时生成交互式视觉内容以及如何在回答中排版，示例包括七速自行车结构图、麻将教学图和退休储蓄计算器。 推送范围分两批：周三起面向全球 ChatGPT Plus、Pro、Business 和 Enterprise 用户，周四扩展到 Go 和免费用户。付费高阶用户可使用中档的 GPT-6 Sol 模型，Go 和免费用户则使用更高效的 GPT-6 Luna。用户若不想要过多视觉内容，可以自行调低。 界面转向可视化交互是这次更新的核心变化，但相关效果目前来自 OpenAI 的说法，尚未有独立验证。