当前位置:首页 > 百科 > 节省龙虾 40% Token 消耗!ClawChips 加持 Firefly

节省龙虾 40% Token 消耗!ClawChips 加持 Firefly

随着AIAgent逐步走向实际业务场景,节省加持客户的龙虾关注点也在发生变化。相比单纯的节省加持模型能力展示,客户更关心的龙虾是:Agent能否真正落地到设备侧、场景侧和交互侧,节省加持并在成本、龙虾体验与适配性之间取得有效平衡?节省加持

针对这些问题,瑞芯微推出一套端云协同的龙虾龙虾解决方案ClawChips,为龙虾Agent的节省加持本地化、场景化开发提供了强力支持。龙虾

5a6b37e4-33fc-11f1-ab55-92fbcf53809c.jpg



什么是节省加持ClawChips?

ClawChips属于“端侧智能路由插件方案”,是龙虾在瑞芯微边缘设备上,把本地模型、节省加持云端模型、龙虾记忆路由和可视化运维面板整合起来,节省加持让龙虾在端侧更省钱、更实用、更可控,相较于完全依赖云端模型的处理方式,系统能够根据任务复杂度,对请求进行本地与云端分流,本地处理占比有了显著提升。这意味着一部分高频、轻量、实时性要求更高的任务,可以优先在本地完成处理,从而减少不必要的云端调用压力,让云端资源更多用于复杂理解和高质量生成等任务。


关于ClawChip更详细的介绍,可参考瑞芯微电子原文链接:瑞芯微龙虾平台“ClawChips”——端云协同·安全省耗·高效适配

5a7d4e98-33fc-11f1-ab55-92fbcf53809c.png

(图片资料来源:瑞芯微龙虾平台“ClawChips”)



节省云端Token消耗

ClawChips搭载自研本地智能路由机制,实现交互成本的高效管控。系统收到请求后,优先复用记忆库基于PinchBench实测,可节省40%云端模型消耗,实现本地推理零成本,云端调用更高效。

5a8af912-33fc-11f1-ab55-92fbcf53809c.png

(资料来源:瑞芯微龙虾平台“ClawChips”)



简易指令,龙虾开箱即用

ClawChips已完成多项基础功能的集成与落地,兼顾实用性与开发性,内置通用型+客户定制型首批Skils,将设备调试、图像分析、模型测试等核心需求封装为简易指令,降低开发者初期使用门槛,让龙虾可以到手直接使用。



应用场景:编程助手

在编程助手这一典型应用场景中,ClawChips展现出“简单任务本地优先、复杂任务云端补充”的协同优势。像代码注释翻译、短代码说明、函数命名优化等轻量任务,可以优先在本地完成,而对于报错排查、根因分析、修复建议、测试设计等更复杂的开发任务,则借助云端能力进一步提高处理质量。对于开发者而言,能够在效率、成本与能力之间取得有效平衡。

5a948694-33fc-11f1-ab55-92fbcf53809c.png



应用场景:语音识别

除了端云协同之外,ClawChips所具备的ASR语音识别交互能力,实现复杂环境下的语音指令快速识别与解析。能够适用于机器人智能家居、智能终端、语音控制设备等高频的语音自然交互场景。

5aa48c7e-33fc-11f1-ab55-92fbcf53809c.png



ClawChips多元场景适配

ClawChips在“本地承载 + 协同推理 + 云端补充”的思路下,展现出较好的工程落地潜力。尤其对于通用行业场景而言,这种端侧可部署、端云可协同、交互能力可扩展的方案形态,结合实际业务需求,实现高效的场景化适配。

(责任编辑:探索)

推荐文章
  • 如何估算空调器的用电量—万维家电网

    如何估算空调器的用电量—万维家电网 在夏季制冷工况下,当制冷量和使用条件相同时,单冷型、热泵冷热型、热泵辅助电型和冷热电加热)型空调器的用电量是一样的。其用电功率可用式计算: Ne=Q/EERW式中:Ne—空调器夏季用电功率,W ...[详细]
  • 观察:格兰仕助推空调业竞争巨变!—万维家电网

    观察:格兰仕助推空调业竞争巨变!—万维家电网 由“黑马”变为“骏马”,只用了短短几年时间,在2007冷冻年度,格兰仕光波空调实现了令人侧目的华丽跃升。 内外销再创新高作为2005年以来连续两年中国市场增长率最高的空调品牌,格兰仕今年再次取得了不俗 ...[详细]
  • 空调品牌集中度提高 销售额增16.85%—万维家电网

    空调品牌集中度提高 销售额增16.85%—万维家电网 国家信息中心信息资源开发部和中国家电网,9月5日联合发布的《2007年度国内重点城市空调零售市场白皮书》显示,国内空调市场已经从2006年度相对低迷状态得到迅速恢复,与去年同期相比,空调销售量增长10 ...[详细]
  • 第二套房新政隐现空调之忧—万维家电网

    第二套房新政隐现空调之忧—万维家电网 上海10月31日电“第二套房”认定标准分化严重一个月前的9月27日,央行联手银监会共同发布了《关于加强商业性房地产信贷管理的通知》,其中“第二套房”的信贷管理是此次调控政策的重点内容之一。然而,由于各 ...[详细]
  • 海信空调“鼎”系列直流变频新品亮相—万维家电网

    海信空调“鼎”系列直流变频新品亮相—万维家电网 最近,国美、苏宁这两个家电连锁巨头同时发布了2007年空调行业白皮书,对今年的空调市场做了深入的分析,并对发展趋势进行了预测。两份白皮书在预测空调产品今年的消费特点时,均认为,随着经济发展和生活水平的 ...[详细]
  • 空调行业首款人性化睡眠空调上市—万维家电网

    空调行业首款人性化睡眠空调上市—万维家电网 格力卧室空调“睡梦宝”拥有多项自主知识产权 在快节奏的现代生活中,睡眠质量不高已经成为普遍的社会问题,而睡眠环境不舒适是睡眠质量不高的重要原因。炎炎夏夜,卧室不开空调无法入眠。而普通空调效果忽冷忽热、 ...[详细]
  • “鲜风空调”出现 受到消费者青睐—万维家电网

    “鲜风空调”出现 受到消费者青睐—万维家电网 夏季,空调给人们带来舒爽的同时,也带来的一些麻烦——“空调病”。由于空气不流通,室内空气含氧量降低,长期在空调环境下工作学习的人,就会出现鼻塞、头昏、打喷嚏、耳鸣、乏力、记忆力减退等症状,甚至会引起皮 ...[详细]
  • 海信电器公告:转让股权获利3800万—万维家电网

    海信电器公告:转让股权获利3800万—万维家电网 海信电器今日07年9月26日)公告称,公司与青岛海信空调有限公司已于昨日07年9月25日)在青岛签署股权转让协议,向后者转让公司将所持有的海信北京)电器有限公司55%的股权。 海信电器公告称,根据协议 ...[详细]
  • 今年空调很“好色”卖场打响价值战—万维家电网

    今年空调很“好色”卖场打响价值战—万维家电网 3月入春以来,国美、苏宁等家电卖场就纷纷搞起了空调的大规模促销,4月7日,永乐又宣布打响“空调价值战”,今年广州市场的空调大战正愈演愈烈。来自卖场的数据显示,迫于前两周外资空调突然集体降价的压力,近日 ...[详细]
  • 格力睡梦宝卧室空调:噪声低至23分贝—万维家电网

    格力睡梦宝卧室空调:噪声低至23分贝—万维家电网 近日,格力电器推出了一款围绕睡眠主题,着重营造卧室优质睡眠环境的空调新品“睡梦宝”。 据了解,“睡梦宝”空调是格力系列“卧室空调”产品中的第一款新品。拥有自主知识产权的3种科学睡眠模式、超静音技术、独 ...[详细]
热点阅读