面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法

杨赟辉; 程虎; 魏敬和; 刘国柱; 桑贤侦

doi:10.12263/DZXB.20240435

您当前的位置：

首页 >

文章列表页 >

面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法

学术论文 | 更新时间：2026-05-07

- 面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法
- High-Precision Lightweight Quantization Inference Method for Prevalent Activation Functions in Transformer Models in Edge Device Deployment
- 杨赟辉，程虎，魏敬和，刘国柱，桑贤侦
- 电子学报 2024年52卷第10期页码：3301-3311
- 作者机构：
  中国电子科技集团公司第五十八研究所，江苏无锡 214072
- 作者简介：
  杨赟辉男，1994年11月出生于浙江省台州市.现为中国电子科技集团公司第五十八研究所工程师，从事机器视觉、智能计算、高性能计算方面的研究工作.E-mail: yangyunhui1315@qq.com
  程虎男，1989年8月出生于江苏省徐州市.现为中国电子科技集团公司第五十八研究所工程师，从事机器视觉、智能计算、高性能计算方面的研究工作.E-mail: chhu1989@163.com
  魏敬和男，1970年1月出生于安徽省合肥市.现为中国电子科技集团公司第五十八研究所研究员、博士生导师.获国防科技进步二等奖等省部级奖励4项.已授权发明专利50余项，国内外发表论文60余篇，出版专著1部.E-mail: pume1975_cnjs@sina.com
  刘国柱男，1980年11月出生于江苏省盐城市.现为中国电子科技集团公司第五十八研究所研究员、硕士生导师.获省部级科技奖项4次.已授权发明专利20余项，国内外发表论文30余篇.E-mail: gzliucetc@163.com
  桑贤侦男，1992年10月出生于河南省商丘市.现为中国电子科技集团公司第五十八研究所工程师，从事机器视觉、智能计算方面的研究工作.E-mail: sangxianzhen@163.com
- 基金信息：
  江苏省自然科学基金(K20211041;BK20211040;BE2021003-1;BE2023005-1);国家自然科学基金(62174150)
- DOI： 10.12263/DZXB.20240435
  中图分类号：
- 修回：2024-07-11 ，
- 稿件说明：
移动端阅览
DOI：
DOI：

HTML全文
图( 10 ) 表( 6 )
参考文献
出版信息
数据统计

摘要

Abstract

关键词

Keywords

references

58

浏览量

70

下载量

4

CSCD

文章被引用时，请邮件提醒。

提交

工具集

BibTeX下载
Endnote下载
RefMan 下载
NoteExpress下载
NoteFirst下载

关联资源

面向工业多时间尺度软测量的时序解耦与度量对齐Transformer模型

RIS辅助宽带太赫兹ISAC系统鲁棒保密传输方法

低轨卫星网络自适应随机接入研究

面向低空无人机监测的3D MIMO OTFS通信感知一体化方法

面向Transformer模型边缘端部署的常用激活函数高精度轻量级量化推理方法

High-Precision Lightweight Quantization Inference Method for Prevalent Activation Functions in Transformer Models in Edge Device Deployment

DOI： 10.12263/DZXB.20240435

HTML全文

图( 10 ) 表( 6 )

参考文献

出版信息

数据统计

摘要

Abstract

关键词

Keywords

references