硅心科技开源上下文压缩专用模型aiXcompact-4B,面向编程Agent的长程复杂研发任务场景,参数量仅4B,支持单张A100-40GB显卡私有化部署。该模型在上下文压缩时,能够保留关键原始信息,精简工具返回结果,删除重复记录,并生成结构化任务摘要,降低成本。在私有化部署场景下,单次GPU推理成本较DeepSeek-V4-Pro降低78%,API调用费用降低97%。适用于编程Agent的复杂研发任务,可通过GitHub开源地址获取。

——————————

来源:https://zhidx.com/p/609168.html

本信息由云云发情报官整理自公开渠道,如有异议可联系我们删除。