首页 > 选课中心 > 人工智能 > 【快班】Transformer从自然语言到计算机视觉的跨界之旅
【快班】Transformer从自然语言到计算机视...
此课程所属 【人工智能职业方向】专业,报名专业套餐,可享受0元学习特惠!点击了解详情
随报随学 共6课 ★☆☆
开课时间 课程周期 难易度
招生中

立即报名
课程介绍
ChatGPT掀起的AGI革命如火如荼。但可能鲜有人知GPT背后的基石模型transformer。这项集各种神经网络大成的结构,里面包含了MLP前馈层,残差网络,自注意力机制(可以认为是卷积网络的一种推广),本身就是一种变体的循环神经网络。这种设计使其能学习极其复杂的数据逻辑,无论在自然语言处理,计算机视觉,金融数据分析,游戏AI设计,基因序列分析,音频生成和合成等各个领域都取得了匪夷所思的跃进。一位能手撕transformer的技术人员,必定成为团队中众星捧月般的核心存在,面试官也不得不对你流露出滔滔不绝的敬仰之情。


你是否想要深入解拆、实现当下最火热的深度学习模型——Transformer?你是否想要了解它是如何在自然语言处理和计算机视觉等领域创造奇迹的?你是否想要使用它来完成你的项目和任务,甚至创造出你自己的场景模型?


如果你的答案是肯定的,那么这门课程就是为你量身定制的!本课程将带你从零开始,一步一步地学习和实现Transformer模型,让你不仅能够理解它的原理和工作机制,还能够熟练地使用它来解决实际问题。


本课程将采用理论+实践的方式,通过代码示例和案例分析,让你深入掌握Transformer模型的内部结构和核心组件,如自注意力机制、多头注意力、位置编码、编码器-解码器架构等。本课程还将教你如何使用Hugging Face的Transformers包,这是一个功能强大的Python库,它可以让你快速地调用、训练、应用和分享各种预训练的Transformer模型,如BERT、GPT、XLNet等,以及它们的中文版本,如BERT-wwm、GPT-3-zh等。你将学习如何使用Transformers包来完成各种自然语言处理任务,如文本分类、文本生成、命名实体识别、情感分析等,以及如何对Transformer模型进行微调和优化,以适应不同的数据集和任务需求,提高模型的性能和泛化能力。本课程还将介绍ViT模型,这是一种将Transformer应用于计算机视觉的创新模型,它可以在图像分类等任务上达到与卷积神经网络相媲美甚至超越的效果。


本课程适合有一定的Python编程基础和深度学习基础的学习者,希望进一步学习和掌握Transformer模型的原理和应用的学习者,以及对Transformer模型在计算机视觉领域的应用感兴趣的学习者。
课程大纲
第一章节:Transformer基础
1、Transformer模型的前世今生,Transformer与LLM的密切关系
2、代码级详细解析Encoder和Decoder的结构和工作原理
3、实战:使用PyTorch实现一个简单的Transformer模型


第二章节:Hugging Face的Transformers包介绍
4、了解和使用Transformers库,探索Hugging Face社区的资源和贡献
5、掌握Transformers库的基本用法:pipeline,model等;使用Transformer库调用本地LLM
6、利用Transformers库快速搭建和运行机器翻译、文本分类等任务的模型和代码介绍
7、实战:基于Transformers库使用不同模型完成评论情感分析


第三章节:Transformer模型训练与调用1
8、介绍Hugging Face的数据集库和常见的数据集:GLUE、SQuAD、CNN/Daily Mail等
9、介绍Hugging Face的训练器和训练参数
10、使用Hugging Face的Transformers包训练和微调模型的方法和步骤掌握
11、BERT的下游任务介绍
12、实践:利用BERT系列模型进行下游任务的迁移学习和微调:文本分类


第四章节:Transformer模型训练与调用2
13、BERT模型与LLM的异同分析
14、实践:利用BERT系列模型进行下游任务的迁移学习和微调:机器翻译、文本摘要、抽取式问答等
15、实践:使用LLM完成BERT下游任务:文本分类、机器翻译、文本摘要、抽取式问答等


第五章节:Transformer模型分享与部署
16、如何将训练好的模型上传到Hugging Face平台进行分享
17、利用Hugging Face平台进行模型部署和推理
18、探讨如何将Transformer模型集成到Web应用程序中,构建自己的LLM应用


第六章节:Transformer在计算机视觉中的应用 - ViT模型解析
19、ViT模型的背景和动机:将Transformer模型从自然语言处理扩展到计算机视觉领域
20、ViT模型的原理和实现:将图像切分为多个块,将每个块视为一个标记,使用Transformer模型进行编码和分类
21、ViT在计算机视觉领域的应用场景
22、实战:使用PyTorch实现ViT模型并进行简单的图像分类任务。
23、探讨:ViT模型与多模态大模型密不可分的关系
授课讲师
Tracy
资深人工智能科学家, 多年数据分析与人工智能算法开发的行业经验,在计算机视觉、语音处理、自然语言处理和强化学习等领域上都有着丰富的项目实战经验。曾主导开发众多项目与产品,包括公安室内定位系统、公安声纹鉴定系统、内镜医学图像增强系统、中国移动客户满意度分析、广州地铁客流分析、语音风格迁移、垃圾智能分类综合系统等等。
课程环境

Python 3.8+

PyTorch 1.8+

Transformers 4.6+

Jupyter Notebook Google Colab

授课对象

具有编程基础,对自然语言处理、计算机视觉、大语言模型、多模态大语言模型感兴趣的同学

想深入理解Transformer模型的原理和应用的同学

希望使用HuggingFaceTransformers包进行模型训练和调优的同学

收获预期

通过本课程的学习,学习者可以:

理解Transformer模型的原理和实现,掌握自注意力机制、多头注意力、位置编码、编码器-解码器架构等核心概念。

熟练使用PyTorch实现Transformer模型的基本组件、编码器、解码器和完整结构,以及训练和测试Transformer模型的过程,还能够使用PyTorch实现Transformer模型的可视化和分析。

熟练使用Hugging FaceTransformers包,调用、训练、应用和分享各种Transformer模型,完成各种自然语言处理任务,以及对Transformer模型进行微调和优化,以适应不同的数据集和任务需求,提高模型的性能和泛化能力。

了解ViT模型的原理和实现,以及它的优点和局限性,能够使用Transformers包调用ViT模型,以及在自己的图像数据上训练和测试ViT模型,体验Transformer模型在计算机视觉领域的强大能力。

熟练掌握基于Transformers库的AI应用开发流程,快速上手大语言模型的应用

课程学费
学费:400元(固定学费:300元 + 逆向学费:100元)
新颖的课程收费形式:“逆向收费”约等于免费学习,课程收取300元固定收费 + 100元逆向学费,学习圆满则全额奖励返还给学员!
特别说明如下
本门课程本来打算完全免费,某位大神曾经说过“成功就是正确的方向再加上适度的压力”。考虑到讲师本身要付出巨大的劳动,为了防止一些朋友在学习途中半途而废,浪费了讲师的付出,为此我们计划模仿某些健身课程,使用“逆向收费”的方法。 在 报名时每位报名者收取400元,其中300元为固定 收费,另外100元是暂存学费,即如果学员能完成全部课程要求,包括完成全部的书面作业,则100元全款退回。如果学员未能坚持到完全所有的学习计划任务,则会被扣款。期望这种方式可以转化为大家强烈的学习愿望和驱动力!
课程授课方式

1、 学习方式:老师发布教学资料、教材,幻灯片和视频,学员通过网络下载学习。同时通过论坛互动中老师对学员进行指导及学员之间相互交流。

2、 学习作业:每课均有布置课后作业,学员完成书面作业后则可进入下一课学习。

3、 老师辅导:通过论坛站内信及邮件等多种方式与老师进行一对一互动。

4、 完成课程:最后一课作业交纳后,老师完成作业批改,即可完成课程并取回相应剩余的逆向学费。

联系我们
咨询Email :edu01@dataguru.cnedu02@dataguru.cn
课程入门讨论咨询QQ群:303917420(群内有培训公开课视频供大家免费观看)
咨询QQ: 点击这里给我发消息 点击这里给我发消息
您是否对此课程还有疑问,那么请 点击进入FAQ,您的问题将基本得到解答
全国统一咨询热线: 4008-010-006
最新技术热点、 最新行业资讯,最新培训课程信息,尽在炼数成金官方微信,低成本传递高端知识!技术成就梦想!欢迎关注!
打开微信,使用扫一扫功能,即刻关注炼数成金官方微信账户,不容错过的精彩,期待您的体验!!!

授课老师

其他快班课程

【快班】大语言模型部署
【快班】基于大语言模型的AI Agent
【快班】怎样制作令人惊叹的视频-Manim科学动画篇
【快班】人工智能与药物研发基础
【快班】跟Py sir一起学Excel
【快班】从零入门金融业信贷风控算法
【快班】并行化计算与CUDA编程
【快班】Python数据处理实战:基于真实场景的数据
【快班】量化投资基础计算与模型
【快班】Architecting on AWS架构与实践
【快班】Node.js Web开发实战
【快班】漫步华尔街
【快班】目标检测模型YOLOV3原理及实战
【快班】Cloudera Hadoop管理认证实战
【快班】【强化学习系列】强化视觉导航技术导引
【快班】PostgreSQL初识与提高
【快班】区块链新时代:技术原理与实操
【快班】Python全栈学习——Python基础及Web开发
【快班】端到端(End TO End)--由传统方法到深度学习
【快班】【百万年薪系列】宽度学习实战及算法解析
【快班】敏捷Agile快速入门
【快班】安全渗透测试工具之Burp Suite使用精讲
【快班】Python全栈学习——Python自动化测试
【快班】系统运维之基础服务进阶实战
【快班】Elastic Stack实战
【快班】测试架构师核心技术
【快班】python网络爬虫应用实战
【快班】locust性能测试实战
【快班】大话流式处理系统 Flink 核心原理
【快班】PyTorch – 深度学习全栈工程师进阶案例实战
【快班】MySQL高可用原理、架构与实战
【快班】快速成为深度学习全栈工程师
【快班】Python数据可视化实战
【快班】股票投资高手武器系列之缠论系统
【快班】基于R的Kaggle实战案例详解
【快班】计算机视觉:从入门到精通,极限剖析图像识别学习算法
【快班】黄金Quant工——量化金融分析师入门
【快班】DL4CV实战——构建基于深度学习的智能图像识别系统
【快班】Web全栈开发理论与实践
【快班】Oracle DB Performance Tuning(DSI系列Ⅳ)
【快班】精准安防场景理解及语义分割
【快班】【免费公开课】Python 的安装与部署
【快班】计算机视觉算法详解与实战开发
【快班】Python金融业数据化运营实战
【快班】人脸识别精准安防讲习班
【快班】Oracle SQL Tuning(DSI系列Ⅲ)
【快班】人脸识别90天速成特训班
【快班】Python3入门到精通实战特训
【快班】基于软件学习数据挖掘算法与案例
【快班】股票投资基础之技术分析
【快班】股票投资基础之基本面分析
【快班】Python机器学习
【快班】python3接口自动化测试开发实战
【快班】【免费公开课】《Hadoop入门手册》——CDH集群安装
【快班】Datastage基础及开发实践
【快班】Tensorflow工程师职场实战技
【快班】互联网金融中的交易反欺诈模型
【快班】机器学习及其matlab实现—从基础到实践
【快班】OpenAI强化学习实战
【快班】Node.js项目实战:从编写代码到服务器部署
【快班】Java Web开发精讲
【快班】JavaScript从入门到精通
【快班】让服务飞起来:实时计算及其应用
【快班】突击pyspark:数据挖掘的力量倍增器
【快班】赢在大数据-人工智能的应用实践
【快班】【免费公开课】《数据科学入门手册》——DSX架构与部署
【快班】【免费公开课】数据科学无难事
【快班】【免费公开课】《Hadoop入门手册》之 虚拟机的安装和使用
【快班】【免费公开课】玩转数据艺术-数据展示技巧应用实战
【快班】【免费公开课】玩转数据科学——IBM DSX
【快班】【免费公开课】《Hadoop入门手册》——Apache Hadoop集群安装
【快班】【免费公开课】赢在大数据-数据化运营落地实战
【快班】大数据管理
【快班】Streams流计算引航公开课
【快班】抽样调查
【快班】LATEX公式排版系统引航
【快班】Watson Analytics数据分析应用实战公开课
【快班】数据陷阱解读
【快班】R七种武器之文本挖掘包tm
【快班】R七种武器之可视化JS库HTMLWidgets包
【快班】R七种武器之数据加工厂plyr
【快班】R七种武器之交互化展示包shiny
【快班】R七种武器之网络爬虫RCurl
【快班】R七种武器之数据可视化包ggplot2
【快班】R七种武器之金融数据分析quantmod
【快班】Java经验谈
【快班】Go语言实战编程
【快班】DB2 V11新特性全解析
【快班】DB2数据库引航公开课
【快班】STATA统计分析入门
【快班】初识正则表达式
【快班】perl语言入门
【快班】Scala语言入门
【快班】Spark企业级大数据项目实战
【快班】数据库引擎与SQL优化器开发
【快班】知识图谱实战
【快班】【百万年薪系列】视觉的盛宴:深度玩转人脸识别
【快班】深入浅出设计模式
【快班】Oracle特殊恢复原理与实战(DSI系列)
【快班】Puppet 运维自动化
【快班】ROS机器人操作系统实战
【快班】开启智慧眼-深度玩转计算机视觉与机器认知
【快班】 深度学习框架Keras学习与应用
【快班】zabbix企业级实践
【快班】Qt编程快速入门
【快班】python web框架企业实战详解
【快班】python魔鬼训练营
【快班】数据治理及数据仓库模型设计
【快班】金融的人工智能革命
【快班】软件架构必备基础
【快班】MySQL性能优化最佳实践
【快班】Spark源码导读
【快班】Spark大数据平台应用实战
【快班】金融时间序列分析
【快班】左飞的机器学习十八般算法武艺详解
【快班】计算机视觉与深度学习实战
【快班】Hadoop集群原理与运维实践
【快班】OpenCV计算机视觉产品实战
【快班】黄美灵的Spark ML机器学习实战
【快班】DevSecOps安全交付应用实战
【快班】JavaScript突击-从精通到项目实战
【快班】R语言魔鬼训练营
【快班】基于案例学习bash脚本编程
【快班】量化投资基础计算与模型
【快班】老板说服术之玩转数据展示
【快班】区块链技术从入门到精通
【快班】Python机器学习Kaggle案例实战
【快班】深入浅出Git
【快班】Oracle高可用
【快班】数据库系统实现技术内幕
【快班】Goldengate从入门到精通
【快班】PL/SQL实战魔鬼训练营
【快班】Oracle 12c特性解读-容器数据库和灾备
【快班】Oracle DBA从小白到入职实战应用
【快班】MySQL DBA从小白到大神实战
【快班】深入浅出Oracle
【快班】深度学习PostgreSQL
【快班】Oracle 12C RAC集群原理与管理实战
【快班】Mycat从入门到精通
【快班】基于案例学SQL优化
【快班】ELKStack及Solr企业级搜索引擎实战
【快班】大型电商分布式系统实践
【快班】深入理解Storm与大数据实战
【快班】深入浅出Spring
【快班】Java魔鬼训练营
【快班】面试突击-数据结构与算法速成
【快班】JAVA极客特训
【快班】深入JVM内核—原理、诊断与优化
【快班】Excel数据分析师突击—从入门到精通到项目实战
【快班】人工智能前沿系列之生成式对抗网络
【快班】基于案例学习时间序列分析
【快班】自己动手实践神经网络
【快班】 深度学习框架Tensorflow学习与应用
【快班】自然语言处理软件实验
【快班】Redis技术实战
【快班】推荐系统
【快班】Zookeeper分布式系统开发实战
【快班】Python数据分析案例实战
【快班】Python金融投资分析实践
【快班】Kafka原理剖析及实战演练
【快班】实战Java高并发程序设计
【快班】MongoDB实战
【快班】应用系统架构优化方法与案例实战
【快班】金融市场基础
【快班】Python自然语言分析
【快班】Python突击—从入门到精通到项目实战
【快班】HBase从入门到精通
【快班】Hive数据仓库实践
【快班】Hadoop数据分析平台
【快班】数据分析与SAS
【快班】比特币
【快班】机器读心术之文本挖掘与自然语言处理
【快班】机器读心术之神经网络与深度学习
【快班】快速上手Jmeter性能测试工具
【快班】软件性能测试
【快班】软件自动化测试Selenium2
【快班】大数据必知的java基础
【快班】快速数据挖掘平台RapidMiner
【快班】R语言编程技巧
【快班】深入BI之Kettle篇
【快班】基于案例学Java服务器端程序设计
【快班】Scala从基础到开发实战
【快班】供应链物流—电商发展的“核”动力
【快班】详解SQL与PL/SQL
【快班】Oracle职业直通车
【快班】深度玩转Excel
【快班】Hadoop应用开发实战案例
【快班】大数据的Linux基础
【快班】机器学习
【快班】量化投资
【快班】SPSS数据分析入门与提高
【快班】Python数据分析
【快班】NoSQL与NewSQL数据库引航
【快班】大数据算法导论
【快班】大数据的矩阵计算基础
【快班】R语言数据分析、展现与实例
【快班】大数据的统计学基础

热招课程

◆ 黄美灵的Spark ML机器学习实战(第18期)
◆ Lua探秘:开启编程奇妙之旅(第二期)
◆ 面试突击-数据结构与算法速成(第14期)
◆ Python金融业数据化运营实战(第24期)
◆ locust性能测试实战(第14期)
◆ Qt编程快速入门(第17期)
◆ Python3入门到精通实战特训(第26期)
◆ 基于OpenCV的专用图像处理算法 的设计和实现(第11期)
◆ MySQL性能优化最佳实践(第25期)
◆ 目标检测模型YOLOV3原理及实战(第21期)
◆ 系统运维之基础服务进阶实战(第17期)
◆ AI技术前瞻:Mamba(第一期)
◆ AI4ERP:RPA与大语言模型应用(第五期)
◆ 快速搭建AIGC应用:Gradio快速入门与实战(第一期)
◆ Oracle 12c特性解读-容器数据库和灾备(第20期)
◆ Python机器学习Kaggle案例实战(第31期)
◆ 大语言模型部署(第六期)
◆ PyTorch – 深度学习全栈工程师进阶案例实战(第19期)
◆ 用AIOps打造你的智能工作伙伴(第1期)
◆ 金融市场基础(第31期)
◆ Python数据可视化实战(第24期)
◆ Transformer从自然语言到计算机视觉的跨界之旅(第四期)
◆ Kafka原理剖析及实战演练(第15期)
◆ python网络爬虫应用实战(第28期)
◆ 突击pyspark:数据挖掘的力量倍增器(第23期)
◆ 深度学习框架Keras学习与应用(第21期)
◆ DevSecOps安全交付应用实战(第九期)
◆ 自然语言处理软件实验(第六期)
◆ 敏捷Agile快速入门(第15期)
◆ 计算机视觉与深度学习实战(第12期)
◆ 区块链技术从入门到精通(第18期)
◆ 知识图谱实战(第30期)
◆ MySQL高可用原理、架构与实战(第17期)
◆ 基于R的Kaggle实战案例详解(第24期)
◆ 新一代高效率编程语言rust入门(第四期)
◆ 计算机视觉:从入门到精通,极限剖析图像识别学习算法(第24期)
◆ 基于大语言模型的AI Agent(第五期)
◆ 并行化计算与CUDA编程(第18期)
◆ Tensorflow工程师职场实战技术(第26期)
◆ Elastic Stack实战(第23期)

GMT+8, 2024-11-6 03:07 , Processed in 0.073471 second(s), 28 queries .