第10章 忽悠傻了
皓玉真仙小说推荐阅读：娇软美人在末世封神了、世界末日之毒液、大佬的小人鱼揣崽跑路了、特案三组、腐烂国度之活下去、末日聚集地、一价氢氯钾钠银、御鬼者传奇、暗影熊提伯斯的位面之旅、这个文字冒险游戏绝对有毒、末世满级大佬有异能空间、从黑科技到超级工程、快穿之养老攻略
“你被忽悠傻了吧？”
赵立明是江城人，因为担任腾讯云高管的缘故，所以常年在鹏城打拼。
今年春节早，他回来的也早。
一回来就听到自己女儿在给自己讲神话故事。
说了一大堆自己认识的朋友多么神奇，什么推特开高薪挖人，什么靠一份邮件折服了伊戈尔·巴布什金。
然后还掏出手机打开推特界面给他证明。
这些赵立明都信，他本来以为自己女儿要为对方寻求一份实习。
腾讯给ai岗开的实习，价格也不低，一千一天，比不上后来给姚班开的三千一天那么夸张。
但也是很夸张的数字了。
有伊戈尔·巴布什金的背书，有推特的offer作为佐证，给个实习很合理。
结果自己女儿在那接着说的话实在让他绷不住了：
“我想的是能不能在腾讯云调一些卡给他用，让他训练一个大模型出来。”
赵立明感觉自己的家庭教育出了大问题，之前没看出对方是恋爱脑啊。
作为小有家产外加独生女的家庭，最怕的就是女儿是恋爱脑。
“依据呢？你知道现在国内英伟达的算力卡有多紧俏吗？什么叫拨点卡给他用，让他训练个大模型？大一学生就想主导大模型的研发？
他是乔布斯还是比尔盖茨？
他在开源社区有备受推崇的项目吗？
他是什么明星科学家吗？
他靠的是背书。
靠背书，我就要给他调卡？
现在就没有什么闲卡，要么使用权卖出去了，要么就是腾讯内部的人工智能实验室在用。
哪里有什么闲卡啊。
他是伊戈尔·巴布什金还差不多。”
赵立明说完，只见自己女儿一脸不服气的样子。
“来来来，你给我说凭什么？我下属给我报项目的时候，也得给我把依据说出来。
光是给你们一个月时间一千张H100，最少也是5到6千万。
更别说现在国内市场上压根就没有合法合规渠道能买到H100，灰色市场上一张H100一个小时在10美元。
别说你是我女儿，就算你汤叔叔女儿，也没办法靠两句话就把卡给你空出来。”
H100非常紧张，这是英伟达在去年才发布的新一代旗舰。
因为阿美莉卡官方在去年10月发布的出口管制，加上ChatGPT的横空出世，导致整个华国，H100都格外少。
也就是腾讯云在海外也有数据中心，他们可以把卡买到海外，然后国内研发海外训练。
赵立明只觉得自己的女儿被忽悠瘸了。
赵佩璇开口道：“爸，第一，我也没说要H100啊，A100也行啊。
另外陈曦他给了一个非常具有可行性的方案。
直接拉GPT的数据来作为训练集，这是现成的数据，能够大大节约时间。
我觉得这是非常具备可行性的方案，给他一点机会未尝不可。
你也说过，大部分时候求稳，但当机会出现的时候，该赌就得赌。”
赵立明被气笑了：“我是让你该赌的时候就赌，但你看看他背景，唯一有可信度的背景是来自伊戈尔·巴布什金的背书，还只是远程聊过。
他没有去硅谷，没有在DeepMind工作，也没有在推特工作。
背书力度太弱了，你明白吗？
另外，你以为用GPT的数据来训练是什么很了不起的方案，是什么天才的灵光一闪。
那是因为你了解的太少，你没有从事这一行，你在江城科技大学学的是四十年前的数据结构和C语言。
你没有关注开源社区的前沿动态。
华盛顿大学和艾伦人工智能研究所在ChatGPT发布的第一时间就发表了论文，论文名字叫Self-Instruct。
你所谓的用GPT数据训练只是一句话，人家已经写成论文，并且进行了实验。
Self-Instruct的核心内容就是让大模型自己生成自己的训练数据。
他们把方法都公布了，一个迭代的过程。
先准备一小批人工写的指令，这些作为例子来引导模型生成新任务。
用当前模型提示它生成新的、更多样的指令。
比如给它几个种子例子，让它发明新任务。
为每个新指令生成输入和输出。
对生成的指令，再让模型生成对应的Input和 Output。
这样就得到一条完整的Instruction、Input和Output三元组。
过滤低质量数据，用启发式规则自动过滤无效的任务、与已有任务重复度太高的、输出质量差的。
把过滤后的高质量数据加回任务池，可以继续迭代生成更多数据。
最后用这些合成数据对原始基座模型进行监督微调。
你以为的灵光一闪，人家早就想到了并且实践落地了。
你以为自己发现了天才，殊不知人家可能只是比你懂得多一点呢！
你以为他有知识，可能他只是有知道呢？”
（PS：上述是Yizhong Wang在2022年12月20日挂在Arxiv上的论文，论文全称：Self-Instruct: Aligning Language Models with Self-Generated Instructions，也是蒸馏方法的开创者。
其中艾伦人工智能研究院是由微软联合创始人保罗·艾伦于2014年创立的一家专注于人工智能前沿研究的机构。）
在江城大学湖滨七舍被室友们吹上天的陈神，在江城富人区的别墅里，在赵立明这不过是个运气好有点能力的小子。
这样的反差陈曦本人不知道，但赵佩璇显然无法接受。
但父亲说的有理有据，完全找不到反驳的点。
这让赵佩璇内心郁郁寡欢，只是说了句：“知道了。”就回自己房间了。
赵立明看着自己女儿扬长而去的背影，心想真是女儿大了留不住，小时候赵佩璇还会给他拥抱，现在一不顺心就是往自己房间里钻。
“陈曦，抱歉，我没能说服我爹，找不到卡。”
“他太固执了，不相信年轻人也能创造奇迹。”
“看来还是得去硅谷了，我明天送你去领事馆。”
赵佩璇每间隔几分钟就发条微信给陈曦。
一直没人回。
她也习惯了对方压根不回微信。
想了想，赵佩璇收拾了一下，拿着车钥匙出门。
女儿走到门口后，赵立明问：“去哪里？”
“不用你管，我不回来吃饭。”赵佩璇摆了摆手，把赵立明气得够呛：“我不管你，但你吃完晚饭八点之前必须给我回来！”
http://www.haoyuzhenxian.com/yt134328/50174779.html
请记住本书首发域名：www.haoyuzhenxian.com。皓玉真仙手机版阅读网址：www.haoyuzhenxian.com
赵立明是江城人，因为担任腾讯云高管的缘故，所以常年在鹏城打拼。
今年春节早，他回来的也早。
一回来就听到自己女儿在给自己讲神话故事。
说了一大堆自己认识的朋友多么神奇，什么推特开高薪挖人，什么靠一份邮件折服了伊戈尔·巴布什金。
然后还掏出手机打开推特界面给他证明。
这些赵立明都信，他本来以为自己女儿要为对方寻求一份实习。
腾讯给ai岗开的实习，价格也不低，一千一天，比不上后来给姚班开的三千一天那么夸张。
但也是很夸张的数字了。
有伊戈尔·巴布什金的背书，有推特的offer作为佐证，给个实习很合理。
结果自己女儿在那接着说的话实在让他绷不住了：
“我想的是能不能在腾讯云调一些卡给他用，让他训练一个大模型出来。”
赵立明感觉自己的家庭教育出了大问题，之前没看出对方是恋爱脑啊。
作为小有家产外加独生女的家庭，最怕的就是女儿是恋爱脑。
“依据呢？你知道现在国内英伟达的算力卡有多紧俏吗？什么叫拨点卡给他用，让他训练个大模型？大一学生就想主导大模型的研发？
他是乔布斯还是比尔盖茨？
他在开源社区有备受推崇的项目吗？
他是什么明星科学家吗？
他靠的是背书。
靠背书，我就要给他调卡？
现在就没有什么闲卡，要么使用权卖出去了，要么就是腾讯内部的人工智能实验室在用。
哪里有什么闲卡啊。
他是伊戈尔·巴布什金还差不多。”
赵立明说完，只见自己女儿一脸不服气的样子。
“来来来，你给我说凭什么？我下属给我报项目的时候，也得给我把依据说出来。
光是给你们一个月时间一千张H100，最少也是5到6千万。
更别说现在国内市场上压根就没有合法合规渠道能买到H100，灰色市场上一张H100一个小时在10美元。
别说你是我女儿，就算你汤叔叔女儿，也没办法靠两句话就把卡给你空出来。”
H100非常紧张，这是英伟达在去年才发布的新一代旗舰。
因为阿美莉卡官方在去年10月发布的出口管制，加上ChatGPT的横空出世，导致整个华国，H100都格外少。
也就是腾讯云在海外也有数据中心，他们可以把卡买到海外，然后国内研发海外训练。
赵立明只觉得自己的女儿被忽悠瘸了。
赵佩璇开口道：“爸，第一，我也没说要H100啊，A100也行啊。
另外陈曦他给了一个非常具有可行性的方案。
直接拉GPT的数据来作为训练集，这是现成的数据，能够大大节约时间。
我觉得这是非常具备可行性的方案，给他一点机会未尝不可。
你也说过，大部分时候求稳，但当机会出现的时候，该赌就得赌。”
赵立明被气笑了：“我是让你该赌的时候就赌，但你看看他背景，唯一有可信度的背景是来自伊戈尔·巴布什金的背书，还只是远程聊过。
他没有去硅谷，没有在DeepMind工作，也没有在推特工作。
背书力度太弱了，你明白吗？
另外，你以为用GPT的数据来训练是什么很了不起的方案，是什么天才的灵光一闪。
那是因为你了解的太少，你没有从事这一行，你在江城科技大学学的是四十年前的数据结构和C语言。
你没有关注开源社区的前沿动态。
华盛顿大学和艾伦人工智能研究所在ChatGPT发布的第一时间就发表了论文，论文名字叫Self-Instruct。
你所谓的用GPT数据训练只是一句话，人家已经写成论文，并且进行了实验。
Self-Instruct的核心内容就是让大模型自己生成自己的训练数据。
他们把方法都公布了，一个迭代的过程。
先准备一小批人工写的指令，这些作为例子来引导模型生成新任务。
用当前模型提示它生成新的、更多样的指令。
比如给它几个种子例子，让它发明新任务。
为每个新指令生成输入和输出。
对生成的指令，再让模型生成对应的Input和 Output。
这样就得到一条完整的Instruction、Input和Output三元组。
过滤低质量数据，用启发式规则自动过滤无效的任务、与已有任务重复度太高的、输出质量差的。
把过滤后的高质量数据加回任务池，可以继续迭代生成更多数据。
最后用这些合成数据对原始基座模型进行监督微调。
你以为的灵光一闪，人家早就想到了并且实践落地了。
你以为自己发现了天才，殊不知人家可能只是比你懂得多一点呢！
你以为他有知识，可能他只是有知道呢？”
（PS：上述是Yizhong Wang在2022年12月20日挂在Arxiv上的论文，论文全称：Self-Instruct: Aligning Language Models with Self-Generated Instructions，也是蒸馏方法的开创者。
其中艾伦人工智能研究院是由微软联合创始人保罗·艾伦于2014年创立的一家专注于人工智能前沿研究的机构。）
在江城大学湖滨七舍被室友们吹上天的陈神，在江城富人区的别墅里，在赵立明这不过是个运气好有点能力的小子。
这样的反差陈曦本人不知道，但赵佩璇显然无法接受。
但父亲说的有理有据，完全找不到反驳的点。
这让赵佩璇内心郁郁寡欢，只是说了句：“知道了。”就回自己房间了。
赵立明看着自己女儿扬长而去的背影，心想真是女儿大了留不住，小时候赵佩璇还会给他拥抱，现在一不顺心就是往自己房间里钻。
“陈曦，抱歉，我没能说服我爹，找不到卡。”
“他太固执了，不相信年轻人也能创造奇迹。”
“看来还是得去硅谷了，我明天送你去领事馆。”
赵佩璇每间隔几分钟就发条微信给陈曦。
一直没人回。
她也习惯了对方压根不回微信。
想了想，赵佩璇收拾了一下，拿着车钥匙出门。
女儿走到门口后，赵立明问：“去哪里？”
“不用你管，我不回来吃饭。”赵佩璇摆了摆手，把赵立明气得够呛：“我不管你，但你吃完晚饭八点之前必须给我回来！”
http://www.haoyuzhenxian.com/yt134328/50174779.html
请记住本书首发域名：www.haoyuzhenxian.com。皓玉真仙手机版阅读网址：www.haoyuzhenxian.com