大众新闻网
登录 |  注册
浏览位置:大众新闻网 > 资讯

longsys江波龙AISSD?依托iSA?,优化端侧AI推理KVCache压力

时间:2026年09月28日 11:35   来源:网络   浏览量:4529   会员投稿

2026年端侧AI产业进入持续落地,AI PC、AI智能体主机等终端设备承载越来越多本地大模型运行需求。但行业普遍面临同质化硬件堆砌问题,多数设备依靠扩容高额DRAM内存支撑AI推理运转,面对MoE架构模型参数庞大、KVCache缓存持续膨胀的特性,极易出现内存占用过高、推理卡顿、硬件成本飙升等问题,成为端侧AI下沉普及的核心阻碍。作为深耕存储领域多年的半导体存储品牌企业,江波龙跳出传统硬件扩容思路,依托自研全套核心技术,推出AI SSD?专用AI固态硬盘,以软硬件协同架构优化资源调度,高效解决端侧AI落地的资源损耗与成本痛点。

iSA?存储智能体:智能调度重构端侧AI资源逻辑

区别于传统固态被动存储数据的模式,江波龙iSA?作为核心存储智能体,是适配端侧AI推理场景的专属调度引擎,也是AI SSD?实现高效运转的软件核心。针对MoE架构大模型运行痛点,iSA?搭载动态专家卸载机制,不再将全部模型参数留存于内存中,而是将低频使用的专家参数下放至AI SSD?存储空间,仅保留高频活跃参数在DRAM运行,大幅降低内存常驻占用。针对多轮对话、长文本生成产生的KVCache冗余问题,该引擎可实时分层清理、智能缓存调度,避免缓存堆积拖累AI推理速度。搭配SPU(存储处理单元),整套调度过程无需占用主机CPU算力,全程后台静默运行,从软件层面打通存储与内存的协同壁垒,适配多种轻量化端侧设备的算力调度需求。

SPU?硬件赋能落地,全场景适配端侧AI终端

为将智能调度能力落地实处,江波龙搭配自研SPU?存储处理单元,形成“软件调度+硬件执行”的闭环方案,集成于AISSD?产品之中。SPU?内置硬件级无损压缩技术,可在芯片内部完成模型文件与缓存数据的压缩处理,平均压缩比可达2:1,提升存储利用率,进一步缓解内存压力。同时依托HLC高级缓存技术,智能区分端侧AI运行的冷热数据,将非实时运算数据下沉存储,精准释放内存算力资源。

在场景落地与生态适配方面,江波龙与AMD基于锐龙 AI Max+ 395处理器的智能体主机开展联合调优,实现397B超大模型本地部署;在256K超长上下文(122B)场景下,DRAM占用大幅降低。目前AI SSD?主要面向AIPC、AI Agent Host等主流终端,既满足消费级设备的日常智能运算需求,也可为行业终端量产提供标准化存储解决方案。

当下端侧AI的竞争,已从单纯算力比拼转向存算协同的全链路优化。江波龙凭借成熟的技术积淀,以AISSD?为核心,联动iSA?、SPU?全套自研技术,有效破解DRAM依赖、缓存冗余、推理低效等行业难题。未来品牌将持续迭代调度算法与硬件架构,拓展更多芯片平台适配场景,持续降低端侧AI部署门槛,助力终端人工智能产业高效规模化发展。

免责声明:该文章系本站转载,旨在为读者提供更多信息资讯。所涉内容不构成投资、消费建议,仅供读者参考。

推荐内容
  • 麦格纳斯太尔或为小鹏、广汽代工,迎来新契机

    麦格纳斯太尔或为小鹏、广汽代

  • 智能教育硬件升级赋能个性化学习新体验

    智能教育硬件升级赋能个性化学

  • 美食节开幕各地特色美食齐聚引得食客竞相青睐

    美食节开幕各地特色美食齐聚引

  • 上海交大2025本科扩招聚焦前沿新兴领域展担当

    上海交大2025本科扩招聚焦

  • 高校开设新兴交叉学科专业引发广泛关注热潮

    高校开设新兴交叉学科专业引发

  • ​破解星际迷雾!科学家绘制银河系“尘埃地图”

    ​破解星际迷雾!科学家绘制银

热门
  • 上海浦创:2025年第二季度智能座舱技术创新与增长齐飞

    上海浦创:2025年第二季度