SFFAI 17 报名通知 | 类脑计算介绍及最新进展

关注文章公众号

回复"类脑计算"获取本主题精选论文

论坛主题

类脑计算

召集人

史梦婷，中国科学院自动化研究所类脑智能研究中心硕士二年级在读，目前研究方向主要为类脑计算模型、好奇心建模及其应用、网络演化。

论坛讲者

杜长德，本科毕业于北京信息科技大学自动化学院，中科院自动化所类脑智能研究中心2016级普博生，指导老师为何晖光研究员。研究生期间主要从事统计机器学习、深度学习及人脑视觉神经信息处理模型研究。研究生期间在国际顶级/高水平期刊/会议发表多篇学术论文, 如IEEE TNNLS、ACMMM、IJCAI、SIGKDD、ECML、UAI等。其关于人脑视觉信息解码的研究工作曾被《MIT Technology Review》、《中国科学院》等头条报道。其在《全国大学生类脑计算创新应用大赛》获得优异成绩。曾获得博士国家奖学金，中科院三好学生，自动化所攀登二等奖学金等荣誉。

题目：基于深度学习的人脑视觉神经信息编解码研究进展及挑战

摘要：现实世界中，外部视觉刺激是多种多样、杂乱无章的，而人类的视觉系统，从视网膜到高级视觉皮层的各个认知阶段，却能以某种方式稳定地识别和理解这些视觉输入数据。人脑在复杂视觉信息处理方面具有计算机所无法比拟的高效性、鲁棒性。视觉信息编码是指人脑将外部视觉刺激转换成神经活动信号的过程，解码是指根据观测到的脑信号模式预测对应的外部视觉刺激的过程。研究人脑视觉神经信息编解码，开发类似人脑的视觉信息处理模型，对于提高机器的智能感知能力具有重要意义。本报告将围绕深度学习来讲解视觉神经信息编解码研究进展以及该领域面临的挑战。

Spotlight：

1、视觉神经信息编解码背景介绍；

2、深度神经网络助力计算机视觉发展；

3、深度神经网络与人脑视觉神经编码；

4、感受野及可解释的人脑视觉编码模型；

5、该领域存在的一些难点和挑战。

李春放，中国科学院信息工程研究所硕士二年级在读，本科毕业于北京交通大学。目前研究兴趣方向为小样本学习、深度学习可解释性。

题目：脉冲神经网络与小样本学习

摘要：脉冲神经网络（SNN）最早起源于生物学家对生物神经系统工作机制的探索，随着人工智能技术的发展，SNN也被越来越多地用于人工神经网络（ANN）所擅长的任务中。相比于ANN，SNN因其起源而拥有一些独特的优势，包括更强的可解释性、低能耗和更好地模拟生物认知过程的潜力。相比于生物的认知过程，现有的ANN模型还要很多不足，其中小样本学习能力就是很重要的一项。虽然我们现在拥有一些公开数据集，但是更多的应用场景和目标类别无法提供足够的训练数据。人们希望ANN也能利用少量的样本学习到新类别的特征，所以对传统的ANN进行了很多改造，更好地模仿人类从小样本数据中学习类型特征的能力。既然是要更好地模仿人类，那么SNN很有可能会对小样本学习产生帮助。

Spotlight:

1、SNN与ANN的区别；

2、对SNN认识的发展；

3、小样本学习的兴起；

4、SNN与小样本学习的结合。

近年来随着传统人工智能算法逐步陷入瓶颈，人们期待与从脑科学中得到相应的启发来改进模型，进而从狭义人工智能走向通用人工智能。类脑智能作为人工智能重要的应用方向之一，也在逐步探索高效、快速并且具有生物可解释性的算法模型。

由SFFAI17分享嘉宾杜长德同学为大家精选出来的关于生物视觉建模的论文以及李春放同学为大家精选出来的类生物的神经网络模型和小样本计算方法，将带你了解类脑研究的基本方向。你可以先仔细阅读，并带着问题来现场交流哦。

1

🌟🌟🌟🌟🌟

推荐理由：2017年日本Kamitani团队提出的基于深度学习的神经解码研究，发表在nature communication上。该文章系统研究了各种视觉特征（SIFT,GIST,CNN1-8等）与大脑视觉皮层各个脑区（V1,V2, V4,…）之间的对应关系，分析了计算机视觉模型和人脑视觉之间的联系和差异。该研究项目采用ImageNet图像数据库中的部分类别作为视觉刺激，并且已经将大脑信号数据和代码开源，为该领域做出了很大贡献。由于论证了深度神经网络和大脑视觉通路的联系，为任意物体的视觉神经编解码研究建立了很好的基础，值得仔细阅读。

推荐理由来自：杜长德

2

🌟🌟🌟🌟🌟

推荐理由：这篇文章是自动化所张铁林老师和曾毅老师团队对SNN更新规则的探索成果之一，主要是要解决SNN用于图像分类时不能进行监督学习的问题。

本文与曾老师团队其他工作一样，都是基于系统神经科学对生物神经网络的认识，提出的SNN训练方法相比于其他同类工作更加贴近生物神经系统在学习时的更新过程。

文中提出的SNN更新方法同时考虑了神经元的四个特性，包括神经元膜电位总是趋于稳态，神经元存在兴奋型和抑制型两类，神经元突触拥有短时可塑性（STP），神经元之间存在逆向通路用于信号的反响传播。利用这四种特性，就可以使用简单的SNN网络结构获得较好的图像分类结果。

这篇文章最大的亮点在于它是为数不多的既能保证SNN仿生特性不减少，又能大幅提高图像分类准确率，还能对实验结果进行分析的文章。而且本文前几部分对SNN做了较为详尽的介绍，只要接触过ANN就能大致看懂。另外，文中的方法主要源于曾毅和张铁林老师的另一篇文章，Improving Multi-layer Spiking Neural Networks by Incorporating Brain-inspired Rules，可以两篇一起阅读，更能加深对这些SNN更新法则的理解。

推荐理由来自：李春放

3

🌟🌟🌟🌟🌟

推荐理由：这篇文章是多伦多大学向量实验室的Snell提出了一种简单有效的方法，原型网络，用于解决小样本学习中图像分类准确率太低的问题。

本文首次将欧式距离引入小样本学习，作为向量空间的度量，并且首次将类别特征向量（类别原型）与样本特征向量映射到同一向量空间，大幅度提升了小样本学习用于复杂图像分类的准确率。

从目前的研究来看，原型网络开创了小样本学习中的一种重要范式，之后的众多方法多是基于原型网络进行设计的。

推荐理由来自：李春放

4

🌟🌟🌟🌟

推荐理由：2017年普渡大学Zhongming Liu团队提出的基于深度学习的神经编解码研究，发表在Cerebral Cortex上。该文章从动态视频刺激入手研究人脑对动态场景的编码和解码能力。文章采用AlexNet为基础深度学习网络，将视频刺激在AlexNet中的各层表征与大脑视觉皮层各个脑区建立关系。得出初级视觉皮层与神经网络的浅层特征相关性较高，而高级视觉皮层与神经网络深层次特征相关性较高的结论。文章实现了根据fMRI脑活动按数据重建对应的动态视频，虽然清晰度有待提高但该研究项目已经将数据和代码开源，值得一读。

推荐理由来自：杜长德

5

🌟🌟🌟🌟

推荐理由：2017年Naselaris等人提出的基于深度特征加权的神经编码模型，发表在NeuroImage上。该文章基于群体感受野和多层特征加权思想构建了一个可解释的神经编码模型，相较于传统的编码模型，该方法效果更好，可解释性也更好，为理解视觉神经编码方式作出了重要贡献。

推荐理由来自：杜长德

6

🌟🌟🌟🌟

推荐理由：这篇文章是新加坡国立大学淡马锡实验室的两位研究员发表在NeurIPS 2018 上的一篇文章，利用概率的方法解决了脉冲信号不可求导的问题，从而大幅提高了SNN用于图像分类的准确率，还创新性地将SNN用于动态图像识别、人体动作识别和音频识别，获得了非常好的实验效果。

本文主要关注了神经元的两个宏观表现，即突触权重和轴突延迟，对于SNN的影响，以及将这两个表现用于网络更新的方法。作者还引入了强化学习中信用分配策略的概念，根据膜电位与脉冲产生的阈值电位，将脉冲的出现和消失都变成概率，使得离散的脉冲信号在计算梯度时变成了连续的脉冲产生概率，从而在保证信号形式不变的情况下解决了脉冲信号不可求导的问题。

文中将SNN脉冲产生和传输的过程分解成与ANN信号传输过程类似的几部分，用“管道函数”的形式表示出来。虽然“管道”中的数据流都是离散的，但是“管道函数”中只有激活函数的形式是离散的，所以在求梯度时只需要对激活函数部分进行特殊处理即可。

这篇文章中提出的SNN训练方法是真正地利用网络中传输的离散信号对网络进行优化，而之前很多提出的能够端到端学习的方法则多是利用膜电位等间接信号。更重要的是，本文提出的训练方法，能适用多种任务，还都能获得最好的效果，这为以后实现单个SNN同时处理时域和空域信号打下基础。

推荐理由来自：李春放

7

🌟🌟🌟🌟

推荐理由：这篇文章是要进一步提升小样本学习在图像分类问题中的准确度。

本文关注了分类任务中，同一任务的多个类别之间有较强的相关性，从而根据任务中多个类别的共同特性对特征提取器进行调整。另外，文中也对常用的两种向量空间度量，余弦相似度和欧式距离，进行了整合，通过一个参数的调整使得新的度量在两种经典度量之间动态变化，从而更好地适用于不同的分类任务。

TADAM是目前为止在mini-imagenet数据集上性能最好的模型，它的作用原理值得思考，有助于进一步提升小样本学习在图像分类方面的能力。

推荐理由来自：李春放

时间：

2019年1月13日（周日）

14:00 -- 17:00

地点：

中国科学院自动化研究所

报名方式

点击下方原文链接 或 扫描二维码报名

活动名额

1、为确保小范围深入交流，本次活动名额有限（不收取任何费用）；

2、活动采取审核制报名，我们将根据用户研究方向与当期主题的契合度进行筛选，通过审核的用户将收到确认邮件；

3、 如您无法按时到场参与活动，请于活动开始前 24 小时在AIDL微信公众号后台留言告知，留言格式为放弃报名 + 报名电话。无故缺席者，将不再享有后续活动的报名资格。

SFFAI招募

现代科学技术高度社会化，在科学理论与技术方法上更加趋向综合与统一，为了满足人工智能不同领域研究者相互交流、彼此启发的需求，我们发起了SFFAI这个公益活动。SFFAI每周举行一期线下活动，邀请一线科研人员分享、讨论人工智能各个领域的前沿思想和最新成果，使专注于各个细分领域的研究者开拓视野、触类旁通。

SFFAI目前主要关注机器学习、计算机视觉、自然语言处理等各个人工智能垂直领域及交叉领域的前沿进展，将对线下讨论的内容进行线上传播，使后来者少踩坑，也为讲者塑造个人影响力。

SFFAI还将构建人工智能领域的知识树（AI Knowledge Tree），通过汇总各位参与者贡献的领域知识，沉淀线下分享的前沿精华，使AI Knowledge Tree枝繁叶茂，为人工智能社区做出贡献。

这项意义非凡的社区工作正在稳步向前，衷心期待和感谢您的支持与奉献！

报名通道已开启，请点击下方

阅读原文

报名

↓↓