Anthropic放手,亚马逊想买,帮AI“换芯片”,凭什么值70亿美元?
近日,亚马逊被曝出一项规模约70亿美元的AI领域收购计划。
10月11日,《华尔街日报》援引知情消息透露,亚马逊正在与AI初创公司Decart进行收购谈判,潜在交易估值约为70亿美元。
这家公司的核心能力,是帮助人工智能利用不同制造商的芯片,并让这些芯片的算力得到更充分的利用。
在此之前,Anthropic也曾对其表现出兴趣。
据彭博社9月报道,双方曾讨论过一笔约60亿美元的交易,但Anthropic在完成尽职调查后,决定放弃推进。
Anthropic刚退出谈判,亚马逊便坐上了谈判桌。
值得注意的是,今年5月英伟达投资Decart时,该公司的估值还接近40亿美元。
短短几个月内,潜在收购估值已升至约70亿美元。
一家专注于帮助AI“更换芯片”的公司,为何能吸引这些AI巨头接连出手?
因为购买芯片只是成本计算的第一步。
芯片购入后,能完成多少任务、以及完成这些任务需要多少成本,同样需要精细核算。
让模型适配不同芯片,并使其运行更快、更节省资源,这正是Decart的专长。
AI换芯片,仍需软件铺路
我们日常与AI互动时,也会让智能体查找资料、编写代码、处理文件。
这些任务背后的计算,全部依赖芯片完成。
英伟达提供GPU,谷歌拥有TPU,亚马逊则有Trainium。不同芯片的硬件架构各不相同,模型要高效运行,必须进行相应的适配。
一套在英伟达芯片上运行顺畅的程序,转移到亚马逊芯片上,往往需要调整和优化,才能释放新硬件的性能。
因此,为AI选择芯片时,还需计算一笔迁移成本:
现有的模型迁移过去,需要修改多少代码、花费多少时间?迁移后,能提速多少、成本降低多少?
Decart的DOS(Decart Optimization Stack)正是帮助模型适配不同芯片、提升运行效率的一套软件。
据官方介绍,DOS支持英伟达GPU、谷歌TPU和亚马逊Trainium等硬件,并同时用于模型训练和推理。
DOS面向多种AI芯片,提供训练和推理优化。
它会根据芯片特性调整模型的运行方式,优化底层计算,减少芯片的空闲时间,增加有效计算量。
这样一来,同样的硬件就有机会运行得更快、更经济。
亚马逊已拥有自己的Trainium芯片,Decart的这一能力或许能帮助其吸引更多客户。
如果开发者能减少适配工作量,同时模型运行更快、更省资源,选择Trainium的理由就会更充分。
双方已展开合作。
今年5月,Decart在官方公告中将亚马逊列为战略客户,并披露其视频模型Lucy2已运行在Trainium3上。
同一轮融资中,英伟达也成为Decart的新投资者。
芯片竞争越激烈,厂商就越需要回答一个问题:客户为何选择我的芯片?
让模型更容易适配不同芯片,并在这些芯片上运行更快、更省资源,正是Decart能发挥作用的地方。
实时视频,延迟即破绽
Decart自身也开发AI模型,这套软件同样能让它们运行更快、更省资源。
其中,Lucy能实时修改视频画面,Oasis则可生成随操作变化的虚拟环境。
根据官方说明,Lucy2.5支持在视频播放过程中,通过文字或参考图片,更换人物、改变服装、调整背景、添加特效,甚至移除物体。
边播放边修改,画面无需等待拍摄完成后再处理。
官方称,Lucy2.5支持1080p分辨率、每秒30帧的实时生成。
直播时更换背景、对着镜头试穿衣服、为正在拍摄的画面添加特效,都可成为这类技术的应用场景。
但要让用户持续使用,画面必须跟上动作,效果也要保持稳定。
这要求AI在接收视频的同时修改画面,并及时显示结果。从输入到处理,再到显示,任何环节的延迟都会让用户感受到卡顿。
AWS官方客户页面披露过Decart的一组早期测试结果:
据Decart联合创始人兼CEO Dean Leitersdorf介绍,其实时视频模型在Trainium上的帧吞吐量最高达到对照GPU的4倍,成本效率达到2倍,延迟从40毫秒降至10毫秒。
在这项视频测试中,模型与芯片的配合带来了速度和成本的改善。
Lucy侧重实时修改视频,Oasis则用AI生成一个随操作变化的模拟世界。
Decart推出的Oasis3,首先瞄准自动驾驶领域。
可以将其理解为为自动驾驶系统准备的“虚拟训练场”。
据官方介绍,车辆在其中的转弯、加速或刹车动作,都会引起周围画面的相应变化。
系统还能从多个同步的摄像头视角观察路况,练习和测试驾驶能力。
这就像玩驾驶游戏:转动方向盘后,眼前的道路必须及时跟随变化。Oasis要让自动驾驶系统在这样的环境中反复练习。
练习时间越长,需要生成的画面和完成的计算就越多。软件更高效地安排这些工作,才能用同样的预算,练习更多场景、进行更多轮测试。
从实时修改视频到虚拟训练,背后都需要AI跟上操作、持续提供反馈。
只有更充分地利用芯片的算力,才能让更多AI功能运行更流畅,成本也更低。
巨头比拼算力,用户能少花钱吗?
如果这笔收购达成,用户日常使用AI时,是否能减少等待时间、降低花费?
例如,生成一段视频时,能否减少盯着进度条的时间;花同样的钱,能否多修改几次细节、多尝试几种想法;实时试衣、视频特效,能否让画面跟上动作。
同样的芯片能完成更多工作,单次生成的成本就有机会下降。厂商也就有更大空间降价、增加使用次数,让更多人用得起、经常用。
但厂商节省成本,并不一定意味着用户就能少付钱。产品售价、每月使用次数,仍由厂商决定。
至于画面是否流畅、效果是否稳定,还需看模型质量,以及网络和设备能否跟上。
AI芯片竞争,正从比拼硬件性能,延伸到比拼软件能发挥多少性能。
对用户而言,这场竞争的价值体现在每一次使用中:结果来得更快,想按下“重试”时,不必先计算时间和费用。
AI越来越好用,也越来越用得起,这才是用户最期待的变化。若想获取更多相关资讯,可通过开云下载了解详情。
参考资料:
本文来自微信公众号“新智元”,作者:ASI启示录,36氪经授权发布。
精选开云在线登录内容,开云网页版与你一同发现更多精彩。
开云网页版专注开云网页版,为用户提供专业可靠的体验。
围绕开云下载,开云网页版持续打磨更优质的服务。
开云网页版深耕开云下载安装领域,用心服务每一位用户。