首页 > 手游资讯 >加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

加拿大初创公司推出 Command A 轻量级 AI 模型,号称仅需两块英伟达 A100 / H100 GPU 即可部署

2025-03-15 17:30:07天下手游网

本站 3 月 14 日消息,加拿大 AI 初创公司 Cohere昨日发布了一款名为“Command A”的 AI模型,该模型主打轻量化应用,号称只需要两块英伟达 A100 或 H100 GPU 即可轻松部署,号称“表现能和 GPT-4o 相媲美”,实现“用最少的硬件发挥最大的性能”。

Cohere 表示,Command A 专门为中小型企业环境设计,其支持 256k 的上下文长度和 23 种语言,作为比较,其他竞争对手的“同类模型”需要 32 块 GPU 才能部署。

在性能测试中,Command A 最快每秒可以输出 156 个 Token,据称比 GPT-4o 快 1.75 倍。而在指令追踪、SQL、代理程序和工具任务的基准测试上,Command A 也表现出色。

Cohere 援引相应性能数据,声称业界的大语言模型如果“规模过大”,反而在输出结果时可能会出现严重的延迟问题;如果只是想快速得到正确答案,Command A 相对是个不错的选择。

目前,Cohere 已将相应 Command A 发布在Hugging Face 平台(点此访问),对学术界开放使用,未来还会登陆其他云服务平台。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表本站立场。文章及其配图仅供学习分享之

4530
956

同类推荐更多

“老牛嫩草”和“精二”的本质差异:为什么有些关系更被社会接受?

“老牛嫩草”和“精二”的本质差异:为什么有些关系更被社会接受?

最火的手游资讯

2025-03-23

在现代社会中,越来越多的人开始关注两种特定的社会现象——“老牛嫩草”和“精二”。这两种词汇在大众文化中频繁出现,各自带有鲜明的特色和广泛的讨论。对于不少人来说,这两者有着明显的差异,但具体是什么样的区别呢?本文将深入分析“老牛嫩草”和“精二”的本质差异,帮助大家理解这些词汇背后的深层次含义。 老牛嫩草的特点 “老牛嫩草”是指年长男性与年轻女性之间的关系。在这种关系中,通常年长者有着较为成熟的生活