Skip to content

科技日报 006|DeepSeek开源推理框架,Grok接工单 ​

第 006 期 · 2026-10-21 · Python斗罗

本期封面

本期范围:北京时间10月20日00:00—10月21日08:00。海外公告沿用官网日期;开源项目按今晨观察选入。

今天先看两件日常小事:客服工单堆起来,谁来整理;开车去机场,谁来翻邮件找航班。

Grok和Gemini各交了一份方案。DeepSeek开源的DeepInfer也值得看,后面还有谷歌TPU、蛋白质设计和两个开源工具。

01|Grok:先整理工单,再让人确认 ​

10月20日官方文章 · 团队内部应用

Grok团队公开了两位“AI同事”的分工:一位盯故障苗头,一位处理故障后的积压工单。

前者每5分钟检查过去15分钟的反馈。如果很多人突然报告同一个问题,就提醒值班工程师。

后者找出相关工单,把拿不准的先放一边,列出准备回复的对象和具体文案。

工程师确认后,它才分批发送;中途出错就停下,也不会擅自扩大名单。

官方举的例子发生在9月18日:约10分钟处理204张工单,过程中有人审核。这是公司公布的案例数据。

我更想借鉴的是这一步:让AI把“发给谁、发什么”先摆出来,确认起来才有依据。

来源:Grok团队官方文章。

02|Gemini:在车里问自己的邮件和日历 ​

10月20日公告 · Android Auto开始分批推出

谷歌把Personal Intelligence带进车载场景。经用户开启,它能结合Gmail、日历、照片等应用里的信息回答问题。

比如去机场时问登机口和航班是否准点,或者直接说“带我去看医生的地方”,由助手查预约信息。

这次先面向Android Auto;内置Google系统的汽车,要在未来几个月跟进。

应用连接由用户选择,可以关闭。开放对象是符合条件的18岁以上个人账号,不含企业、教育等Workspace账号。

欧洲经济区、瑞士、英国和尼日利亚暂不在本轮开放范围内,也不能据此认定国内车型已经支持。

车载助手能理解的内容变多了。真用起来,预约地点是否找对、旧邮件会不会被误认成新行程,比会聊多少话更要紧。

来源:Google官方博客。

03|DeepSeek开源DeepInfer:把运行模型的框架交出来 ​

10月21日早间项目观察 · 推理框架已开源

DeepSeek开源了DeepInfer,把运行模型所需的优化算子、并行计算和调度等工程实现开放出来。

这次公开的是推理框架,关注的是模型怎么跑、计算任务怎么安排。

当前版本采用Apache 2.0许可证,提供离线推理,支持DeepSeek-V4.1-Flash。

硬件清单包括NVIDIA SM100 GPU和华为昇腾950 NPU,运行环境要求Linux。

完整在线服务所需的缓存系统、不同计算阶段分离和负载均衡等组件,还需要部署团队补齐。

对研究模型部署的人,这份代码值得看;对平时通过网页或API用AI的人,暂时不用因此更换工具。

来源:DeepSeek官方仓库。

04|TorchTPU:谷歌也在降低换芯片的门槛 ​

10月20日公告 · 已开源

昨天说到亚马逊TorchNeuron,今天轮到谷歌的TorchTPU。

它是PyTorch的TPU后端,由谷歌与Meta的PyTorch团队合作开发,让现有模型以较少代码改动跑到谷歌TPU上。

开发者可以沿用熟悉的调试方式,再用torch.compile做编译优化;谷歌也公布了与Hugging Face等工具的集成。

开源的是适配软件,运行仍需要TPU资源。普通电脑装上它,不会因此多出一块AI芯片。

对需要训练、部署模型的团队,值得看的是迁移要改多少代码,以及同一任务在不同硬件上的总成本。

来源:Google Cloud公告 · TorchTPU仓库。

05|Claude:211个蛋白质设计,17个通过结合测试 ​

10月20日研究公告 · 实验室结果

Anthropic让内部研究模型设计能够结合蝎毒神经毒素的小蛋白,希望为后续抗毒药物研究提供候选。

合作实验室测试了211个设计,其中17个达到研究团队设定的结合标准。相关设计和实验数据也已公开。

目前证明的是能与目标结合,尚未验证能否在细胞环境中中和毒素,更没有做出可用的解毒药。

这项进展值得看,是因为计算机里的候选经过了真实实验筛选。后面能否安全、有效地用于治疗,仍有很长的验证过程。

来源:Anthropic研究文章。

06|Headroom:别把整份日志都塞给AI ​

10月21日早间热门项目观察 · 既有开源项目

让AI查一个报错,工具却吐回来几千行日志。上下文越堆越长,真正要看的信息可能只有几段。

Headroom在内容送进模型前,先在本地压缩工具输出、日志、文件和检索结果。

它保留原文缓存,模型需要细节时可以再取回来;可作为程序库使用,也能通过代理服务或MCP接入。

它适合先拿长日志任务试一试。能省多少token、是否遗漏关键信息,要用自己的任务对比,不能照搬仓库里的宣传数字。

来源:Headroom仓库 · GitHub Trending。

07|LLMflare:把几个模型接口收在一个地址里 ​

10月21日早间工具观察 · 社区项目,未实测

最后看一个用途挺直接的小项目:LLMflare。

它把网关部署在Cloudflare Workers上,将多个模型供应商接到一个入口,提供OpenAI、Anthropic兼容接口。

需要准备Cloudflare账号和上游API密钥。网关在云端运行,不用让自己的电脑一直开着。

统一入口解决的是接入管理,供应商的计费和额度限制仍然存在。密钥也需要由部署者妥善保管。

如果你有几个小应用,各自填了一遍模型地址和密钥,这类网关能减少重复配置。它还不是经过我实测的推荐。

来源:LLMflare仓库。

来源索引 ​

本站收录内容源自互联网,不对其网站内容或交易负责。 | 如有内容侵犯权益,请联系站长删除相关内容!

今日和总访问量