【精校版】Andrej Karpathy微软Build大会精彩演讲: GPT状态和原理 - 解密OpenAI模型训练

清晰度 360P 流畅 高清请在 B站打开 · 嵌入播放器由 B站提供
视频简介 · 展开更多
OpenAI大牛Andrej Karpathy刚在微软BUILD2023大会上做了这个主题演讲 “State of GPT”,详细讲述了如何从一个基础模型训练成ChatGPT的过程。通俗易懂,内容精彩至极!全文整理见 https://mp.weixin.qq.com/s?__biz=MzIxODUzNTg2MA==&mid=2247485342&idx=1&sn=770152ca8a00f2e3d87ed2a09e131e11 Andrej实在有当一个好老师的潜力,把特别技术的内容讲得引人入胜,非技术同学也能听懂。不曾记得网上有过类似内容,这或许是第一次OpenAI官方详细讲述模型训练的细节,
来自社区的 5 条推荐
推荐以短摘录展示,点击原文阅读完整内容。
在问题「导师让我搞gpt方向,我该怎么去学?」下
Andrej Karpathy 前一段时间在微软 Build 大会上的演讲是一个挺不错: ▶这个视频
在问题「导师让我搞gpt方向,我该怎么去学?」下
微软出品的适合初学者的AI教程文字教程 [) OpenAI Andrej 的模型训练介绍 40分钟的视频,讲的非常清晰。 地址: ▶这个视频
在问题「为什么 AI 写代码写错后,再改来改去也还是错的?」下
可以看 ▶这个视频 来了解一些技巧,Andrej Karpathy讲的。我的大部分技巧以及整体背后自洽一个原理,最开始基本都来自这个。
在问题「如何对GPT-3.5、GPT-4、Bard、文心一言、通义千问的水平进行排序?」下
准备好释放您的创造力,探索未知,将梦想变为现实。 你的旅程从今天开始。”。 在线观看地址: ▶这个视频
在问题「初学者怎么入门大语言模型(LLM)?」下
- 2020 年 5 月 - 训练数据量570GB文本,Trained on 300B tokens - ▶这个视频