LLM属于深度学习吗?

85 浏览次数
大型语言模型 (LLM) 属于深度学习范畴。 LLM 是经过海量数据训练的超大型深度学习模型。 深度学习是 LLM 实现强大自然语言处理 (NLP) 能力的关键技术。 LLM 通过深度学习学习复杂的语言模式并生成文本。
意见反馈 0 喜欢次数

问题?

哎呦,大型语言模型啊,那可不是深度学习嘛!想想我去年(2023年)年底,为了赶一份报告,专门研究过这玩意儿。

它们就像一群超级学霸,被喂了海量课本(数据),然后硬生生学会了“说话”! 这背后,深度学习就是它们的“秘籍”。没有深度学习,哪来的那么强的语言理解和生成能力? 就像我,不啃书,哪来的灵感写报告呢?(虽然最后还是熬夜了...)。

深度学习有哪些分类?

唉,深夜了,又睡不着… 在想深度学习的事… 这东西,说简单也简单,说复杂… 嗯,复杂得要命。

深度学习的分类,我理解的,其实没那么清晰的界限,总是互相交叉,有点像… 一团乱麻。但勉强分分,能说清楚点。

  • 卷积神经网络 (CNN) 这玩意儿,我用过,处理图像的。 记得去年做项目,用它识别猫狗,效果还不错,就是调参调得我头发都掉光了。 它擅长处理具有空间结构的数据,比如图片、视频。

  • 循环神经网络 (RNN) 这个… 处理序列数据,时间序列,文本什么的。 我前年做自然语言处理的时候,用过LSTM, 那叫一个痛苦,梯度消失问题,折磨死我了。 它处理语言,比CNN好用很多。

  • Transformer 模型 这是最近几年特别火的东西吧。 注意力机制,很神奇… 我今年才开始真正接触, 还在学习中。 听说处理长序列数据比RNN强很多, 效率也高,现在很多自然语言模型都用这个了。 比如什么BERT啊,GPT啊, 都是这个家族的。

其实还有很多其他的,比如自编码器,生成对抗网络GAN… 但感觉这三个是最主要的, 其他的很多都是基于这三个发展出来的。 这玩意儿,越学越觉得知识的海洋太广阔了,我这种水平,才算刚入门吧。

哎… 又是一个不眠夜。 明天还要继续… 真烦人。

GPT是深度学习吗?

深夜,对着屏幕发呆…GPT吗?是深度学习…

  • GPT,全称是Generative Pre-trained Transformer。 记住这个名字挺重要的,以后和人聊天,不会显得太外行。

  • 它是深度学习模型,这个没错。我记得几年前刚出来的时候,就有人说是深度学习的又一次突破。那时候,我还只是个写代码的小透明,现在…也还是。

  • 虽然常说是Google的DeepMind开发的,但具体是谁…我也并不认识。

  • 重要的是,它理解自然语言的能力真的很强。 这意味着,你可以和它用人话交流,它能听懂你想说什么,甚至能猜到你下一步想干什么。就像…一个永远在线,永远不会疲惫的倾听者。想想有点可怕,又有点吸引人。

  • 想想,几年前的AI还是傻乎乎的,现在已经可以写文章、画画,甚至和你聊人生了。科技的发展真快,快到让人有点害怕被时代抛下。

  • 深度学习…感觉它就像一个黑盒子,我们只知道输入什么,输出什么,中间发生了什么,却不太清楚。

  • GPT是一个大模型, 很多参数,很多层,需要大量的数据来训练。这就意味着,只有像Google这样的大公司,才能玩得起这种技术。

  • 夜深了,也不知道自己在想什么…也许只是对未来感到迷茫吧。深度学习、GPT…这些东西,会把我们带向何方呢?

深度学习有哪些算法?

啊,深度学习算法啊,这个我之前啃过一阵子。

卷积神经网络(CNN),这个我印象最深。去年暑假,为了参加一个图像识别比赛,我恶补了这玩意。记得当时天天泡在图书馆,啃那本花书(《深度学习》),头都大了。CNN主要就是图像处理嘛,图像分类、目标检测、图像生成,感觉现在好多AI相关的图像处理都离不开它。

  • 当时还用TensorFlow搭了一个简单的猫狗分类器,准确率蹭蹭往上涨,成就感满满!

然后是循环神经网络(RNN),这个我接触得相对少一点,不过知道它很擅长处理序列数据,比如文本、语音啥的。好像很多自然语言处理的模型都用到了RNN或者它的变种,像LSTM、GRU。

  • 之前用Keras试着写了一个简单的诗歌生成器,虽然生成的诗歌读起来有点奇怪,但还是挺有意思的。

生成对抗网络(GAN),这个听起来就很酷炫。我记得19年的时候,GAN生成假照片的技术特别火,简直以假乱真。GAN包含两个网络,一个生成器,一个判别器,互相博弈,最后生成器就能生成非常逼真的数据。

  • 我朋友搞AI绘画的,就经常用GAN来生成各种风格的画作,简直是艺术家的福音!

自动编码器(Autoencoder),这个我用得不多,但知道它主要用来降维、特征提取,或者生成一些新的数据。

  • 好像一些无监督学习的任务会用到它。

最后是强化学习算法,这个我只是了解皮毛,知道AlphaGo就是用的强化学习。

  • 强化学习好像主要应用于机器人控制、游戏AI之类的领域。

总的来说,深度学习的算法真是五花八门,不过感觉都挺有用的。关键是要根据实际的应用场景选择合适的算法。