钱拓网络申请智能并发控制的AI推理加速与资源增

  国家知识产权局信息显示,上海钱拓网络技术有限公司申请一项名为“一种智能并发控制的AI推理加速与资源增效系统”的专利,公开号CN121705023A,申请日期为2025年12月。

  专利摘要显示,一种智能并发控制的AI推理加速与资源增效系统,包括请求接收与准入模块、动态负载均衡与批处理模块、智能并发调度与推理执行模块、缓存与内存管理模块、结果处理与资源监控模块,请求接收与准入模块用于接收推理请求,动态负载均衡与批处理模块用于流量调度,智能并发调度与推理执行模块用于并发地执行推理任务,缓存与内存管理模块用于性能加速,结果处理与资源监控模块用于结果交付与资源监控。本发明提出改进多目标自适应前瞻批处理算法对多个独立的推理请求进行智能组合,提出改进资源感知的动态紧迫度调度算法对模型推理执行过程中的资源进行复用和调度,为一种智能并发控制的AI推理加速与资源增效系统提供更优的方案。

  天眼查资料显示,上海钱拓网络技术有限公司,成立于2013年,位于上海市,是一家以从事软件和信息技术服务业为主的企业。企业注册资本1000万人民币。通过天眼查大数据分析,上海钱拓网络技术有限公司共对外投资了7家企业,参与招投标项目120次,财产线条,此外企业还拥有行政许可4个。

  声明:市场有风险,投资需谨慎。本文为AI基于第三方数据生成,仅供参考,不构成个人投资建议。

  特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

  伊朗已同意与美国谈判并达成协议,金属价格有望反弹!有色金属ETF天弘(159157)近30日净流入超47亿元

  个人公众号“千问”停更近10年,近期接连遭阿里投诉均被驳回,号主:规避风险不发AI文章,如果我不发声,账号就不保了

  “春满九华·镜揽芳华”——九华山风景区2026年春季短视频创作大赛启幕