跳到正文

技术方向

端侧 AI 最新动态

跑在手机、电脑与边缘设备上的 AI：小模型、本地推理与端侧芯片的进展。

2 条精选近 30 天 1 条共收录 8 条

更新

端侧 AI的精选

10月7日周三第 1–2 条
  1. Google DeepMind71

    Google DeepMind 发布 EmbeddingGemma 2 端侧多模态嵌入模型

    Google DeepMind 发布 EmbeddingGemma 2，这是基于 Gemma 4 架构、采用 Apache 2.0 许可的端侧多模态嵌入模型，参数量 740M，可将文本、图像、音频、视频映射到统一嵌入空间。

    推荐理由：EmbeddingGemma 2 把文本、图像、音频、视频统一到端侧嵌入空间，并给出参数量与内存占用等可核对细节。

7月29日周三
  1. Berkeley AI Research62

    从 CUDA 到 MLX：K-Search 如何把内核优化经验带到 Apple Silicon

    Berkeley AI Research 与 IBM Research 将 K-Search 进化式内核搜索框架扩展到 MLX，通过结构化的 CUDA 到 MLX 翻译层，让已有 CUDA 内核成为知识库并适配为 Apple Silicon 内核。

    推荐理由：K-Search 把 CUDA 内核优化经验迁移到 Apple Silicon，读者可看到跨平台内核迁移的具体方法与实测数据。