自适应突触神经元简化模型的动力学与电路实现

doi:10.12263/DZXB.20210549

电子学报 ›› 2022, Vol. 50 ›› Issue (5): 1083-1088.DOI: 10.12263/DZXB.20210549

自适应突触神经元简化模型的动力学与电路实现

朱永鑫, 徐权, 陈墨, 侯莉萍, 包伯成

常州大学微电子与控制工程学院, 江苏常州 213164

收稿日期:2021-04-28 修回日期:2021-06-12 出版日期:2022-05-25
- 作者简介:
- 朱永鑫　男，1997年9月生于安徽亳州.现为常州大学微电子与控制工程学院硕士研究生.主要研究方向为神经元功能性电路.E-mail: zhuyx1217@163.com
  徐　权　男，1983年2月生于江苏连云港.现为常州大学副教授、硕士生导师.主要研究方向为神经元功能性电路、非线性电路与系统等.E-mail: xuquan@cczu.edu.cn
  陈　墨　女，1982年9月生于江苏泰州.现为常州大学副教授、硕士生导师.主要研究方向为神经元网络与同步、非线性电路与系统等.E-mail: mchen@cczu.edu.cn
  侯莉萍　女，1994年10月生于安徽宿州.现为常州大学微电子与控制工程学院硕士研究生.主要研究方向为神经元功能性电路.E-email: ly1124026522@163.com
  包伯成　男，1965年7月生于江苏常州.现为常州大学教授、博士生导师.主要研究方向为神经元功能性电路、神经元网络与同步、非线性电路与系统、电能变换与控制技术等.E-mail: mervinbao@126.com
- 基金资助:
- 国家自然科学基金 (51777016); 江苏省自然科学基金 (BK20191451); 江苏省研究生科研创新计划 (KYCX20_2546)

Dynamics and Circuit Implementation of a Simplified Model of Adaptive Synaptic Neuron

ZHU Yong-xin, XU Quan, CHEN Mo, HOU Li-ping, BAO Bo-cheng

School of Microelectronics and Control Engineering, Changzhou University, Changzhou, Jiangsu 213164, China

Received:2021-04-28 Revised:2021-06-12 Online:2022-05-25 Published:2022-06-18
- Supported by:
- National Natural Science Foundation of China (51777016); Natural Science Foundation of Jiangsu Province, China (BK20191451); Postgraduate Research Innovation Project of Jiangsu Province (KYCX20_2546)

摘要/Abstract

摘要：

自适应突触神经元模型具有两个复杂激活函数，导致其不易于理论分析和硬件电路实现.然而，该神经元的主要放电活动仅受到两个激活函数的局部曲线特征的影响，且这些局部曲线特征是完全不一样的.鉴于此，采用两个简单函数分别对两个不同局部曲线特征进行拟合，提出了一种自适应突触神经元的简化数学模型.基于平衡点轨迹图，阐述了该简化模型随外部刺激变化的平衡点稳定性演化机理，它经由Hopf分岔实现稳定与不稳定平衡态之间转迁.借助理论分析和数值仿真，分析了不同参数下自适应突触神经元的复杂动力学.最后，采用分立元器件进行了模拟电路设计，制作印刷电路板，由数字示波器捕捉的运动轨迹图，验证了简化激活函数的可行性与MATLAB数值仿真的正确性.

关键词: 激活函数, 神经元, 平衡点, 稳定性, 动力学, 数值仿真, 电路实现

Abstract:

Adaptive synaptic neuron model has two complex activation functions, which make it difficult to be analyzed theoretically and implemented in hardware circuit. However, the main firing activities of this neuron are only affected by the local curve characteristics of the two activation functions and these local curve characteristics are completely different. In view of this, a simplified mathematical model of adaptive synaptic neuron is proposed using two simple functions to respectively fit the two different local curve characteristics. Based on the trajectory diagram of the equilibrium point, the evolution mechanism of the equilibrium stability of the simplified model with the change of external stimulus is explained. It achieves the transition between the stable and unstable equilibrium states via Hopf bifurcation. By means of theoretical analyses and numerical simulations, complex dynamics of the adaptive synaptic neuron under different parameters is investigated. Finally, an analog circuit is designed using discrete components and a printed circuit board is made. The motion trajectory captured by a digital oscilloscope verifies the feasibility of the simplified activation functions and the correctness of MATLAB numerical simulations.

Key words: activation function, neuron, equilibrium, stability, dynamics, numerical simulation, circuit implementation

中图分类号:

TN711.4

朱永鑫, 徐权, 陈墨, 等. 自适应突触神经元简化模型的动力学与电路实现[J]. 电子学报, 2022, 50(5): 1083-1088.

Yong-xin ZHU, Quan XU, Mo CHEN, et al. Dynamics and Circuit Implementation of a Simplified Model of Adaptive Synaptic Neuron[J]. Acta Electronica Sinica, 2022, 50(5): 1083-1088.

图/表 7

图1 激活函数局部曲线特征及其拟合曲线特征

图2 简化神经元模型随时间变化的平衡点稳定性

图3 模型(6)的分岔图与李雅普诺夫指数谱

图4 不同参数α时在u?s平面上的相轨图

图5 自适应突触神经元简化模型的模拟实现电路

图6 自适应突触神经元简化模型的硬件实验电路板

图7 当Rα1、Rα2为不同阻值时，实验捕获的相轨图

参考文献 18

1	IZHIKEVICHE M. Neural excitability, spiking and bursting[J]. International Journal of Bifurcation and Chaos, 2000, 10(6): 1171‑1266.
2	蔺想红, 张田文. 分段线性脉冲神经元模型的动力学特性分析[J]. 电子学报, 2009, 37(6): 1270‑1276.
	LINX H, ZHANGT W. Dynamical properties of piecewise linear spiking neuron model[J]. Acta Electronica Sinica, 2009, 37(6): 1270‑1276. (in Chinese)
3	MAJ, TANGJ. A review for dynamics in neuron and neuronal network[J]. Nonlinear Dynamics, 2017, 89(3): 1569‑ 1578.
4	BEANB P. The action potential in mammalian central neurons[J]. Nature Reviews Neuroscience, 2007, 8(6): 451‑465.
5	DONGD W, HOPFIELDJ J. Dynamic properties of neural networks with adapting synapses[J]. Network: Computation in Neural Systems, 1992, 3(3): 267‑283.
6	SUGASE-MIYAMOTOY, LIUZ, WIENERM C, et al. Short-term memory trace in rapidly adapting synapses of inferior temporal cortex[J]. PloS Computational Biology, 2008, 4(5): e1000073.
7	HOPFIELDJ J. Neural networks and physical systems with emergent collective computational abilities[J]. Proceedings of the National Academy of Sciences, 1982, 79(8): 2554‑2558.
8	CHENC J, CHENJ Q, BAOH, et al. Coexisting multi-stable patterns in memristor synapse-coupled Hopfield neural network with two neurons[J]. Nonlinear Dynamics, 2019, 95(4): 3385‑3399.
9	张耀锋, 孙以材, 邢晓辉. 基于人工神经网络的压力传感器的温度补偿[J]. 电子学报, 2008, 36(2): 358‑361.
	ZHANGY F, SUNY C, XINGX H. The temperature compensation for pressure sensor based on artificial neural network[J]. Acta Electronica Sinica, 2008, 36(2): 358‑361. (in Chinese)
10	SHARMAS, SHARMAS, SCHOLARU G, et al. Activation functions in neural networks[J]. International Journal of Engineering Applied Sciences and Technology, 2020, 4(12): 310‑316.
11	HIKAWAH. A digital hardware pulse-mode neuron with piecewise linear activation function[J]. IEEE Transactions on Neural Networks, 2003, 14(5): 1028‑1037.
12	APICELLAA, DONNARUMMAF, ISGRÒF, et al. A survey on modern trainable activation functions[J]. Neural Networks, 2021, 138: 14‑32.
13	陈军, 李春光. 具有自适应反馈突触的神经元模型中的混沌: 电路设计[J]. 物理学报, 2011, 60(5): 050503(1‑8).
	CHENJ, LIC G. Chaos in a neuron model with adaptive feedback synapse: Electronic circuit design[J]. Acta Physica Sinica, 2011, 60(5): 050503(1‑8).(in Chinese)
14	HAYATIM, NOURIM, HAGHIRIS, et al. Digital multiplierless realization of two coupled biological Morris-Lecar neuron model[J]. IEEE Transactions on Circuits and Systems I, 2015, 62(7): 1805‑1814.
15	JOKARE, ABOLFATHIH, AHMADIA, et al. An efficient uniform-segmented neuron model for large-scale neuromorphic circuit design: Simulation and FPGA synthesis results[J]. IEEE Transactions on Circuits and Systems I, 2019, 66(6): 2336‑2349.
16	BAOB C, ZHUY X, LIC Q, et al. Global multistability and analog circuit implementation of an adapting synapse-based neuron model[J]. Nonlinear Dynamics, 2020, 101(2): 1105‑1118.
17	闵富红, 王珠林, 曹弋, 王恩荣. 基于双曲函数的双忆阻器混沌电路多稳态特性分析[J]. 电子学报, 2018, 46(2): 486‑494.
	MINF H, WANGZ L, CAOY, WANGE R. Multistability analysis of a dual-memristor circuit based on hyperbolic function[J]. Acta Electronica Sinica, 2018, 46(2): 486‑ 494. (in Chinese)
18	BAOB C, HOUL P, ZHUY X, WUH G, CHENM. Bifurcation analysis and circuit implementation for a tabu learning neuron model[J]. International Journal of Electronics and Communications, 2020, 121: 153235(1‑10).

[1]	张旭东, 雷倩倩, 张芳玲, 李弦, 李连碧. 3阶FLFB低通滤波器的最小可接受功耗分析[J]. 电子学报, 2022, 50(6): 1480-1486.
[2]	史宏强, 李岳衡, 黄平, 谭跃跃, 刘陕陕, 居美艳. 基于APD与PIN接收机的UWOC系统误码率性能优化研究[J]. 电子学报, 2022, 50(2): 446-454.
[3]	王刚, 陆世伟, 冯云, 刘文斌, 马润年. 网络节点增减下的潜伏型病毒传播行为建模研究[J]. 电子学报, 2022, 50(2): 273-283.
[4]	孙芸, 张帆, 王航天, 白中扬, 孙统, 彭静宜, 张盈, 刘永山, 王梓力, 李竞, 高凡, 赵兴科, 谢魏然, 田祺云, 张婕, 许涌, 张慧, 温良恭, 聂天晓, 赵巍胜. 基于超快自旋电子学太赫兹发射源的研究与应用[J]. 电子学报, 2022, 50(12): 2854-2873.
[5]	修建娟, 张敬艳, 董凯. 基于动力学模型约束的空间目标精确跟踪算法研究[J]. 电子学报, 2021, 49(4): 781-787.
[6]	陈国军, 蔺想红, 王国恩, 王向文. 一种脉冲神经元监督学习的直接计算方法[J]. 电子学报, 2021, 49(2): 331-337.
[7]	蔺想红, 郑鉴洋, 王向文, 马慧芳. 基于深度学习网络的神经元自适应投影分类方法[J]. 电子学报, 2020, 48(7): 1321-1329.
[8]	肖祥慧, 史可, 袁小芳. 基于模型预测控制的电动汽车轮毂电机转矩控制研究[J]. 电子学报, 2020, 48(5): 953-959.
[9]	赵伟, 曹少中, 孙富春, 晋振杰, 王明道. 胶印机齿轮系统非线性模型直接积分解法[J]. 电子学报, 2019, 47(6): 1267-1271.
[10]	刘兆广, 纪秀花, 刘云霞. 一种快速收敛的非参数粒子群优化算法及其收敛性分析[J]. 电子学报, 2018, 46(7): 1669-1674.
[11]	王京丽, 刘旭林, 刘金城, 阮顺贤, 韦涛, 聂凯. 数字摄像能见度仪夜间观测技术研究[J]. 电子学报, 2018, 46(6): 1306-1311.
[12]	崔江维, 郑齐文, 余德昭, 周航, 苏丹丹, 马腾, 魏莹, 余学峰, 郭旗. 沟道宽度对65nm金属氧化物半导体器件负偏压温度不稳定性的影响研究[J]. 电子学报, 2018, 46(5): 1128-1132.
[13]	单翔, 李炳南, 向馗. 磁共振脑组织弹性成像的数值仿真算法[J]. 电子学报, 2018, 46(5): 1207-1212.
[14]	闵富红, 王珠林, 曹弋, 王恩荣. 基于双曲函数的双忆阻器混沌电路多稳态特性分析[J]. 电子学报, 2018, 46(2): 486-494.
[15]	李壮举, 田舜禹, 赵伟, 曹少中. 卷筒纸印刷机折页机构运动学方程直接积分解法[J]. 电子学报, 2018, 46(12): 3037-3043.

自适应突触神经元简化模型的动力学与电路实现

Dynamics and Circuit Implementation of a Simplified Model of Adaptive Synaptic Neuron

RichHTML

PDF

可视化

摘要/Abstract

引用本文

使用本文

图/表 7

参考文献 18

相关文章 15

编辑推荐

Metrics