迈特芯科技申请基于TTD压缩的多头潜在注意力模型的数据处理相关专利，提高模型在边缘设备上的长文本输出能力
创始人
2025-07-28 16:43:38
0次
金融界2025年7月28日消息，国家知识产权局信息显示，深圳市迈特芯科技有限公司申请一项名为“基于TTD压缩的多头潜在注意力模型的数据处理方法、系统及终端”的专利，公开号CN120373358A，申请日期为2025年03月。
专利摘要显示，本发明公开了一种基于TTD压缩的多头潜在注意力模型的数据处理方法、系统及终端，所述方法包括：构建大语言模型，通过TTD压缩、分解的方式对大语言模型中的多个线性层进行处理，从而减少了模型中的权重数量，在硬件层面针对TTD压缩后线性层推理的数据流进行针对性优化，从而输出最后的模型推理结果。本发明通过转化为大语言模型中的多头潜在注意力结构，从而减少模型推理时对KV cache的需求，通过减少权重数量，提高模型在边缘设备上的长文本输出能力，后续采用组矢量脉动阵列的计算结构去进行推理过程中的矩阵计算，高效地利用了有限的硬件资源。
天眼查资料显示，深圳市迈特芯科技有限公司，成立于2023年，位于深圳市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本612.2449万人民币。通过天眼查大数据分析，深圳市迈特芯科技有限公司共对外投资了2家企业，专利信息12条，此外企业还拥有行政许可9个。
来源：金融界
相关内容
热门资讯
关于召开嘉实润泽量化一年定期开...
嘉实基金管理有限公司决定召开嘉实润泽量化一年定期开放混合型证券投资基金基金份额持有人大会，并于202...
【高盛计划发行投资级债券，筹集...
【高盛计划发行投资级债券，筹集至少50亿美元】据知情人士透露，高盛集团寻求通过发行投资级债券筹资至少...
2026指尖理财指南：手机伦敦...
跨入2026年，移动互联网技术的迭代让贵金属投资彻底摆脱了空间束缚，手机端已成为现货黄金博弈的主战场...
国内商品期货收盘 多晶硅主力合...
每经AI快讯，4月13日，国内商品期货收盘，互有涨跌。多晶硅主力合约涨停，碳酸锂涨超5%，原油、LU...
“金牛至赢”期货大赛 启动招商
● 本报记者 王超 为助力期货市场高质量发展，发掘和培育优秀交易人才，由中国证券报主办、至易赢公司协...
恒指期货夜盘收涨1.01%，报...
每经AI快讯，4月14日，恒指期货夜盘收涨1.01%，报15924点，高水263点。 每日经济新闻
WTI原油期货结算价收涨2.6...
WTI原油期货结算价收涨2.6%，上涨2.51美元，报99.08美元/桶。布伦特原油期货结算价收涨4...
ICE农产品期货主力合约收盘表...
每经AI快讯，当地时间4月13日，洲际交易所（ICE）农产品期货主力合约收盘表现分化，原糖期货跌0....
瑞联银行重新购入黄金，押注年底...
瑞联 银行重新购入 黄金。此前，该银行因受伊朗战争引发的市场低迷影响而大幅削减了黄金持仓。该银行表示...
开局起步“十五五”｜关岭石板井...
“老朱，工期一定要盯紧。春节一过，咨询电话就没断过，一天得有几十个，目前已经有50多个房间被预订了。...