Nonlinear dynamics and machine learning of recurrent spiking neural networks

Cover Page

Cite item

Full Text

Abstract

Major achievements in designing and analyzing recurrent spiking neural networks intended for modeling functional brain networks are reviewed. Key terms and definitions employed in machine learning are introduced. The main approaches to the development and exploration of spiking and rate neural networks trained to perform specific cognitive functions are presented. State-of-the-art neuromorphic hardware systems simulating information processing by the brain are described. Concepts of nonlinear dynamics are discussed, which enable identification of the mechanisms used by neural networks to perform target tasks.

About the authors

Oleg Vladimirovich Maslennikov

Federal Research Center A.V. Gaponov-Grekhov Institute of Applied Physics of the Russian Academy of Sciences

Candidate of physico-mathematical sciences, Researcher

Mechislav M. Pugavko

Federal Research Center A.V. Gaponov-Grekhov Institute of Applied Physics of the Russian Academy of Sciences

Email: slavapugavko2@gmail.com

Dmitrii Sergeevich Shchapin

Federal Research Center A.V. Gaponov-Grekhov Institute of Applied Physics of the Russian Academy of Sciences

Candidate of physico-mathematical sciences

Vladimir Isaakovicih Nekorkin

Federal Research Center A.V. Gaponov-Grekhov Institute of Applied Physics of the Russian Academy of Sciences

Email: vnekorkin@ipfran.ru
Doctor of physico-mathematical sciences, Professor

References

  1. Gerstner W. et al., Neuronal Dynamics: From Single Neurons to Networks and Models of Cognition, Cambridge Univ. Press, Cambridge, 2014
  2. Bassett D. S., Zurn P., Gold J. I., Nat. Rev. Neurosci., 19 (2018), 566
  3. Breakspear M., Nat. Neurosci., 20 (2017), 340
  4. Ashwin P., Coombes S., Nicks R., J. Math. Neurosci., 6 (2016), 2
  5. Izhikevich E. M., Dynamical Systems in Neuroscience: the Geometry of Excitability and Bursting, MIT Press, Cambridge, MA, 2007
  6. Rabinovich M. I. et al., Rev. Mod. Phys., 78 (2006), 1213
  7. Храмов А. Е. и др., УФН, 191 (2021), 614
  8. Иваницкий Г. Р., Морозов А. А., УФН, 190 (2020), 1165
  9. Иваницкий Г. Р., УФН, 188 (2018), 965
  10. Доронина-Амитонова Л. В. и др., УФН, 185 (2015), 371
  11. Клиньшов В. В., Некоркин В. И., УФН, 183 (2013), 1323
  12. Павлов А. Н. и др., УФН, 182 (2012), 905
  13. Рабинович М. И., Мюезинолу М. К., УФН, 180 (2010), 371
  14. Некоркин В. И., УФН, 178 (2008), 313
  15. Безручко Б. П. и др., УФН, 178 (2008), 323
  16. Борисюк Г. Н. и др., УФН, 172 (2002), 1189
  17. Абарбанель Г. Д. и др., УФН, 166 (1996), 363
  18. Иваницкий Г. Р., Медвинский А. Б., Цыганов М. А., УФН, 164 (1994), 1041
  19. Rabinovich M. I., Zaks M. A., Varona P., Phys. Rep., 883 (2020), 1
  20. Rabinovich M. I., Friston K. J., Varona P., Principles of Brain Dynamics: Global State Interactions, MIT Press, Cambridge, MA, 2012
  21. Rabinovich M. I. et al., Phys. Life Rev., 9:1 (2012), 51
  22. Шумский С. А., Машинный интеллект. Очерки по теории машинного обучения и искусственного интеллекта, РИОР, М., 2019
  23. Lake B. M. et al., Behavioral Brain Sci., 40 (2017), e253
  24. Vyas S. et al., Annu. Rev. Neurosci., 43 (2020), 249
  25. Sussillo D., Current Opin. Neurobiol., 25 (2014), 156
  26. Barak O., Current Opin. Neurobiol., 46 (2017), 1
  27. Yang G. R., Wang X.-J., Neuron, 107 (2020), 1048
  28. Glaser J. I. et al., Prog. Neurobiol., 175 (2019), 126
  29. Marblestone A. H., Wayne G., Kording K. P., Front. Comput. Neurosci., 10 (2016), 94
  30. Hassabis D. et al., Neuron, 95 (2017), 245
  31. Cichy R. M., Kaiser D., Trends Cognitive Sci., 23 (2019), 305
  32. Киселев М., Импульсные нейронные сети: Представление информации, обучение, память, Palmarium Acad. Publ., Chisinau, 2020
  33. Zenke F., Ganguli S., Neural Computat., 30 (2018), 1514
  34. Nicola W., Clopath C., Nat. Commun., 8 (2017), 2208
  35. Mozafari M. et al.
  36. Bellec G. et al., Adv. Neural Inform. Proc. Syst., 31 (2018), 787
  37. Schuman C. D. et al.
  38. James C. D. et al., Biol. Inspired Cognitive Arch., 19 (2017), 49
  39. Chen Y. et al., Integration, 61 (2018), 49
  40. Schmidhuber J., Neural Networks, 61 (2015), 85
  41. Samarasinghe S., Neural Networks for Applied Sciences and Engineering : from Fundamentals to Complex Pattern Recognition, CRC Press, Boca Raton, FL, 2016
  42. Botvinick M. et al., Neuron, 107 (2020), 603
  43. Botvinick M. et al., Trends Cognitive Sci., 23 (2019), 408
  44. Sompolinsky H., Crisanti A., Sommers H. J., Phys. Rev. Lett., 61 (1988), 259
  45. Jaeger H., Haas H. D., Science, 304 (2004), 78
  46. Sussillo D., Abbott L. F., Neuron, 63 (2009), 544
  47. Дмитричев А. С. и др., Изв. вузов. Прикладная нелинейная динамика, 26:4 (2018), 5
  48. Abbott L. F., Brain Res. Bull., 50 (1999), 303
  49. Ermentrout B., Neural Comput., 8 (1996), 979
  50. Latham P. E. et al., J. Neurophysiol., 83 (2000), 808
  51. Fourcaud-Trocme N. et al., J. Neurosci., 23 (2003), 11628
  52. Ermentrout G. B., Kopell N., SIAM J. Appl. Math., 46 (1986), 233
  53. Brette R., Gerstner W., J. Neurophysiol., 94 (2005), 3637
  54. Douglas R. J., Martin K. A., J. Physiol., 440 (1991), 735
  55. Van Vreeswijk C., Sompolinsky H., Science, 274 (1996), 1724
  56. LeCun Y., Bengio Y., Hinton G., Nature, 521 (2015), 436
  57. Sussillo D., Barak O., Neural Comput., 25 (2013), 626
  58. Maslennikov O. V., Nekorkin V. I., Nonlin. Dyn., 101 (2020), 1093
  59. Pugavko M. M., Maslennikov O. V., Nekorkin V. I., Commun. Nonlin. Sci. Numer. Simulat., 90 (2020), 105399
  60. Пугавко М. М., Масленников О. В., Некоркин В. И., Изв. вузов. Прикладная нелинейная динамика, 28:1 (2020), 77
  61. Maslennikov O. V., Nekorkin V. I., Chaos, 29 (2019), 103126
  62. Масленников О. В., Некоркин В. И., УФН, 187 (2017), 745
  63. Mante V. et al., Nature, 503 (2013), 78
  64. Chaisangmongkon W. et al., Neuron, 93 (2017), 1504
  65. Freedman D. J., Assad J. A., Nature, 443 (2006), 85
  66. Swaminathan S. K., Freedman D. J., Nat. Neurosci., 15 (2012), 315
  67. Wang J. et al., Nat. Neurosci., 21 (2018), 102
  68. Yang G. R. et al., Nat. Neurosci., 22 (2019), 297
  69. Zhang X. et al., eLife, 8 (2019), e43191
  70. Romo R. et al., Nature, 399 (1999), 470
  71. Genovesio A., Tsujimoto S., Wise S. P., Neuron, 63 (2009), 254
  72. Inagaki H. K. et al., Nature, 566 (2019), 212
  73. Barraclough D. J., Conroy M. L., Lee D., Nat. Neurosci., 7 (2004), 404
  74. Purcell B. A., Kiani R., Proc. Natl. Acad. Sci. USA, 113 (2016), E4531
  75. Remington E. D. et al., Neuron, 98 (2018), 1005
  76. Padoa-Schioppa C., Assad J. A., Nature, 441 (2006), 223
  77. Munoz D. P., Everling S., Nat. Rev. Neurosci., 5 (2004), 218
  78. Wilson H. R., Cowan J. D., Biophys. J., 12:1 (1972), 1
  79. Dayan P., Abbott L. F., Theoretical Neuroscience: Computational and Mathematical Modeling of Neural Systems, Massachusetts Institute of Technology Press, Cambridge, MA, 2001
  80. Maass W., Neural Networks, 10 (1997), 1659
  81. Roy K., Jaiswal A., Panda P., Nature, 575 (2019), 607
  82. Tavanaei A. et al., Neural Networks, 111 (2019), 47
  83. Pfeiffer M., Pfeil T., Front. Neurosci., 12 (2018), 774
  84. Perrinet L., Samuelides M., Thorpe S., IEEE Trans. Neural Networks, 15 (2004), 1164
  85. Escobar M.-J., Int. J. Comput. Vision, 82 (2009), 284
  86. Brette R. et al., J. Comput. Neurosci., 23 (2007), 349
  87. Gerstner W., van Hemmen J. L., Network Comput. Neural Syst., 3:2 (1992), 139
  88. Sommer F. T., Wennekers T., Neural Networks, 14 (2001), 825
  89. Amit D. J., Mongillo G., Neural Comput., 15 (2003), 565
  90. Mongillo G., Barak O., Tsodyks M., Science, 319 (2008), 1543
  91. Szatmary B., Izhikevich E. M., PLoS Comput. Biol., 6 (2010), e1000879
  92. Buzsaki G., Rhythms of the Brain, Oxford Univ. Press, Oxford, 2006
  93. Izhikevich E. M., Edelman G. M., Proc. Natl. Acad. Sci. USA, 105 (2008), 3593
  94. Ma J., Wu J., Neural Comput., 19 (2007), 2124
  95. Oster M., Douglas R., Liu S.-C., Neural Comput., 21 (2009), 2437
  96. Jin D. Z., Seung H. S., Phys. Rev. E, 65 (2002), 051922
  97. Lumer E. D., Neural Comput., 12 (2000), 181
  98. Wang X.-J., Neuron, 60 (2008), 215
  99. Atiya A. F., Parlos A. G., IEEE Trans. Neural Networks, 11 (2000), 697
  100. Dominey P. F., Ramus F., Language Cognitive Proces., 15:1 (2000), 87
  101. Jaeger H., German National Research Center for Information Technology GMD, Technical GMD Report 148, Boon, 2001, 13 pp.
  102. Maass W., Natschläger T., Markram H., Neural Comput., 14 (2002), 2531
  103. Schrauwen B., Verstraeten D., Van Campenhout J. M., Proc. of the 15th European Symp. on Artificial Neural Networks (ESANN 2007, Bruges, Belgium, April 25-27, 2007), 471
  104. Lukoševičius M., Jaeger H., Comput. Sci. Rev., 3:3 (2009), 127
  105. Häusler S., Markram H., Maass W., Complexity, 8:4 (2003), 39
  106. Joshi P., Maass W., Neural Comput., 17 (2005), 1715
  107. Burgsteiner H., Novel Applications of Neural Networks in Engineering. Proc. of the 9th Intern. Conf. on Engineering Applications of Neural Networks (24-26 August 2005, Lille, France), Ecole des Mines de Douai, Douai, 2005, 129
  108. Kasinski A., Ponulak F., Int. J. Appl. Math. Comput. Sci., 16 (2006), 101
  109. Verstraeten D. et al., Inform. Proces. Lett., 95 (2005), 521
  110. Ponulak F., Kasinski A., Neural Comput., 22 (2010), 467
  111. Raven J. C., Court J. H., Raven J., Manual for Raven's Progressive Matrices and Vocabulary Scales, Oxford Psychologists Press, Oxford, 1998
  112. Eliasmith C. et al., Science, 338 (2012), 1202
  113. Voelker A. R., Eliasmith C., Neural Comput., 30 (2018), 569
  114. Bekolay T. et al., Front. Neuroinform., 7 (2014), 48
  115. Boahen K., Comput. Sci. Eng., 19:2 (2017), 14
  116. Liu S.-C. et al., Analog VLSI: Circuits and Principles, MIT Press, Cambridge, MA, 2002
  117. Indiveri G. et al., Front. Neurosci., 5 (2011), 73
  118. Tang J. et al., Adv. Mater., 31 (2019), 1902761
  119. Kelly J. E. (III), Hamm S., Smart Machines: IBM's Watson and the Era of Cognitive Computing, Columbia Business School Publ., New York, 2013
  120. Zheng N., Mazumder P., Learning in Energy-Efficient Neuromorphic Computing: Algorithm and Architecture Co-Design, Wiley-IEEE Press, Hoboken, NJ, 2019
  121. Minvielle R., Bayoumi M., 2013 4th Annual Intern. Conf. on Energy Aware Computing Systems and Applications, ICEAC, IEEE, Piscataway, NJ, 2013, 125
  122. Bhardwaj K., Nowick S. M., IEEE Trans. Very Large Scale Integrat. VLSI Syst., 27:2 (2019), 350
  123. Kim M.-K. et al., iScience, 23 (2020), 101846
  124. Benjamin B. V. et al., Proc. IEEE, 102 (2014), 699
  125. Menon S. et al., Proc. of the 5th IEEE/RAS-EMBS Intern. Conf. on Biomedical Robotics and Biomechatronics, IEEE, Piscataway, NJ, 2014, 181
  126. Neckar A. et al., Proc. IEEE, 107 (2019), 144
  127. Markram H. et al., Procedia Comput. Sci., 7 (2011), 39
  128. Schemmel J. et al., ISCAS 2010, 2010 IEEE Intern. Symp. on Circuits and Systems Nano-Bio Circuit Fabrics and Systems (May 30th - June 2nd, 2010, Paris, France), IEEE, Piscataway, NJ, 2010, 1947
  129. Scholze S. et al., Front. Neurosci., 5 (2011), 117
  130. Schemmel J., Proc. of the 6th Annual Neuro Inspired Computational Elements, NICE, Conf. (Hillsboro, Oregon, 2018)
  131. Furber S., Brown A., Proc. of the Ninth Intern. Conf. on Application of Concurrency to System Design (1-3 July 2009, Augsburg, Germany), S. Edwards, R. Lorenz, W. Vogler, IEEE Computer Soc., Los Alamitos, CA, 2009, 3
  132. Höppner S., Mayr C., Proc. of the 6th Annual Neuro Inspired Computational Elements, NICE, Conf. (Hillsboro, Oregon, 2018)
  133. Tayeb Z., Erçelik E., Conradt J., Proc. of the 8th Intern. IEEE EMBS Conf. on Neural Engineering NER (May 25-28, 2017, Shanghai, China), IEEE, Piscataway, NJ, 2017, 263
  134. Galluppi F. et al., 2014 IEEE Intern. Conf. on Robotics and Automation, ICRA (31 May - 5 June, 2014, Hong Kong, China), IEEE, Piscataway, NJ, 2014, 2862
  135. Denk C. et al., Artificial Neural Networks and Machine Learning — ICANN 2013, 23rd Intern. Conf. on Artificial Neural Networks (Sofia, Bulgaria, September 10-13, 2013, Proc.), Lecture Notes in Computer Science, 8131, V. Mladenov et al., Springer, Berlin, 2013, 467
  136. Kungl A. F. et al., Front. Neurosci., 13 (2019), 1201
  137. Wunderlich T. et al., Front. Neurosci., 13 (2019), 260
  138. Akopyan F. et al., IEEE Trans. Computer-Aided Design Integrated Circuits Syst., 34 (2015), 1537
  139. DeBole M. V. et al., Computer, 52:5 (2019), 20
  140. Amir A. et al., The 2013 Intern. Joint Conf. on Neural Networks IJCNN (4-9 Aug. 2013), IEEE, Piscataway, NJ, 2013, 1
  141. Merolla P. et al., 2011 IEEE Custom Integrated Circuits Conf., CICC, IEEE, Piscataway, NJ, 2011, 1
  142. Esser S. K. et al., Proc. Natl. Acad. Sci. USA, 113 (2016), 11441
  143. Padala V., Basu A., Orchard G., Front. Neurosci., 12 (2018), 118
  144. Davies M. et al., IEEE Micro, 38:1 (2018), 82
  145. Vogels T. P., Abbott L. F., J. Neurosci., 25 (2005), 10786
  146. Viale A. et al.
  147. Rueckauer B. et al.
  148. Imam N., Cleland T. A., Nat. Mach. Intell., 2 (2020), 181
  149. Канглер В. М., Панченко К. Е., Беспилотные транспортные средства с элементами искусственного интеллекта. Третий Всероссийский научно-практический семинар, Труды семинара. Российская ассоциация искусственного интеллекта (22-23 сентября 2015, Иннополис, Республика Татарстан, Россия), Перо, М., 2016, 169
  150. Pei J. et al., Nature, 572 (2019), 106
  151. Yang G. R., Molano-Mazon M., Current Opin. Neurobiol., 70 (2021), 182
  152. Pulvermüller F. et al., Nat. Rev. Neurosci., 22 (2021), 488
  153. Zhang X., Liu,S, Chen Z. S., iScience, 24 (2021), 102919
  154. Goulas A., Damicelli F., Hilgetag C. C., Neural Networks, 142 (2021), 608
  155. Масленников О. В., Изв. вузов. Прикладная нелинейная динамика, 29 (2021), 799
  156. Ehrlich D. B. et al., eNeuro, 8:1 (2021), 0427–20
  157. Chung S., Abbott L. F., Current Opin. Neurobiol., 70 (2021), 137
  158. Xue X. et al., “Spiking recurrent neural networks represent task-relevant neural sequences in rule-dependent computation”, Cogn. Comput., 2022
  159. Calaim N. et al., eLife, 11 (2022), e73276
  160. Пугавко М. М., Масленников О. В., Некоркин В. И., Изв. вузов. Радиофизика, 64 (2021), 817
  161. Schuman C. D. et al., Nat. Comput. Sci., 2 (2022), 10
  162. Ivanov D. et al., Front. Neurosci., 2022

Supplementary files

Supplementary Files
Action
1. JATS XML
Download

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».