Love

 · 2 days ago

a16z: 我们很高兴宣布,我们将主导 Inferact 的 1.5 亿美元种子轮。

@inferact 是由 vLLM 项目维护者领导的新初创公司,包括 Simon Mo、Woosuk Kwon、Kaichao You 和 Roger Wang。
vLLM 是领先的开源推理引擎,也是各类开源项目中最大的之一,被 Meta、Google、Character AI 等众多公司用于生产环境。

#Inferact 通过专门的财务和开发资源支持 vLLM 项目,并将构建他们视为下一代商业推理引擎的架构。

对于 #a16z 基础设施来说,投资于 #vLLM 社区明确意味着未来将带来极其多样化的 #AI 应用、代理和工作负载,运行在多种硬件平台上。
image.png 430.9 KB

愿-有缘

 · 3 days ago

马斯克向OpenAI和微软索赔至多1340亿美元#马斯克#OpenAI#微软#AI#科技#人工智能#新闻

Moon

 · 3 days ago

老牌加密货币 #AI 分析公司 #Nansen 今天面向所有用户开放了一种全新的交易方式:分析和交易,合而为一。
https://x.com/nansen_ai/status/2013870913851437366
69706dcfd697a364360cb3d1_Trade - Web & Mobile Asset-Updated-p-3200.png 612 KB

Love

 · 4 days ago

📊 Anthropic 2026 年首个经济指数报告
image.png 398.2 KB
具体情况如下:
  • AI 在近 50%的工作中处理了约四分之一的任务,较去年的 36%有所上升,但不到 10%的公司出现了完全职位更替。
  • 需要高中技能的任务在 AI 下加速 9 倍,大学级任务提升 12 倍,克劳德在复杂场景下提升。
  • Claude 处理较长任务的能力持续提升,Anthropic 的数据显示,长达 19 小时的任务成功率达到 50%。
  • 编码任务仍主导 #Claude 的使用,尽管辅助(学习、反馈、迭代)已取代纯自动化相关任务。
为什么重要: 生产力提升正在迅速发生,但人工智能完全接管工作的恐慌还未反映数据。问题在于初级员工—— 如果 #AI 承担了通常用于培训和积累经验的繁重工作,整整一代年轻人才可能会陷入全新的经济现实。

Moon

 · 8 days ago

什么是大模型蒸馏版(Distilled Model)?

蒸馏版(Distilled Model)是指用一个大模型(老师模型)来“教”一个小模型(学生模型),让小模型学会大模型的核心能力,但参数量大幅减少、速度更快、内存占用更低。
核心目的
把大模型的“知识”压缩到小模型里,实现接近大模型的效果,但跑得更快、更省资源(适合本地单机、手机、边缘设备)。
一句话总结
蒸馏版 = “大模型瘦身版”,性能接近原版,但更小、更快、更省电。
常见例子:
  • DeepSeek-R1-Distill-Qwen-32B(从更大模型蒸馏出的32B版)
  • Llama-3.1-8B-Instruct(从Llama-3.1-405B蒸馏)
本地跑70B+太吃力时,蒸馏版32B/70B往往是最佳折中。#LLM #蒸馏版 #大模型 #ai

Moon

 · 8 days ago

Multicoin Capital Kyle认为未来10年最大的2个趋势是:AI 和互联网资本市场(ICM: Internet Capital Market) #ai #ICM
icm.jpg 95.3 KB

Arrow-path Loading...