金融界2025年5月27日消息,国家知识产权局信息显示,太初(无锡)电子科技有限公司申请一项名为“一种Transformer模型的多头注意力计算自适应分配方法、装置”的专利,公开号CN120045308A,申请日期为2024年12月。
专利摘要显示,本发明涉及处理器技术领域,公开了一种Transformer模型的多头注意力计算自适应分配方法、装置,本发明依据获取的模型的关键参数和目标处理器自身的结构参数进行自适应的分配。进一步,采用预设二幂分配方法对单个核组的注意力头数进行拆分,充分考虑了处理器的并行计算核特点以及模型的具体情况,避免了常规分配方式下因注意力头数量和计算核数量不匹配导致的计算资源闲置问题,实现了计算资源的高效利用,使得不同配置的模型在目标处理器上都能尽可能地发挥其计算能力。进一步,通过自适应分配,多个注意力头的计算能合理地分配到各个计算核中并行执行,充分发挥了处理器的并行计算优势,进而有效提升了模型多头注意力计算的速度。
天眼查资料显示,太初(无锡)电子科技有限公司,成立于2019年,位于无锡市,是一家以从事研究和试验发展为主的企业。企业注册资本1890.953328万人民币。通过天眼查大数据分析,太初(无锡)电子科技有限公司共对外投资了4家企业,参与招投标项目7次,财产线索方面有商标信息225条,专利信息170条,此外企业还拥有行政许可9个。
来源:金融界