当前位置：首页 > 启梦行动 > 讲座沙龙 > EngineClub > 2021 > 主题分享 >
讲座题目：TensorLayer中Transformer组件实现简介
分享人：韩佳容
分享人介绍：国防科技大学模式识别与智能系统专业硕士毕业。鹏城实验室网络智能部开源技术研究所成员，负责统一深度学习编程框架开发。邮箱：hanjr@pcl.ac.cn
内容介绍：
Transformer是一个完全基于注意力机制的编解码器模型，在任务表现、并行能力和易于训练性方面都有大幅的提高。本次分享以transformer的算法思想与模型结构为切入点，介绍transformer组件在统一编程框架tensorlayer中的实现方式，分享在不同后端提供相关组件的灵活调用方法，使用组件有助于降低语言模型编写重复工作量，提高开发效率。
更多技术讲座和课件下载，请访问EngineClub项目地址