你所谓的用GPT数据训练只是一句话，人家已经写成论文，并且进行了实验。
Self-Instruct的核心内容就是让大模型自己生成自己的训练数据。
他们把方法都公布了，一个迭代的过程。
先准备一小批人工写的指令，这些作为例子来引导模型生成新任务。
用当前模型提示它生成新的、更多样的指令。
比如给它几个种子例子，让它发明新任务。
为每个新指令生成输入和输出。
对生成的指令，再让模型生成对应的Input和 Output。
这样就得到一条完整的Instruction、Input和Output三元组。
过滤低质量数据，用启发式规则自动过滤无效的任务、与已有任务重复度太高的、输出质量差的。
把过滤后的高质量数据加回任务池，可以继续迭代生成更多数据。
最后用这些合成数据对原始基座模型进行监督微调。
你以为的灵光一闪，人家早就想到了并且实践落地了。
你以为自己发现了天才，殊不知人家可能只是比你懂得多一点呢！
你以为他有知识，可能他只是有知道呢？”
（PS：上述是Yizhong Wang在2022年12月20日挂在Arxiv上的论文，论文全称：Self-Instruct: Aligning Language Models with Self-Generated Instructions，也是蒸馏方法的开创者。
其中艾伦人工智能研究院是由微软联合创始人保罗·艾伦于2014年创立的一家专注于人工智能前沿研究的机构。）
在江城大学湖滨七舍被室友们吹上天的陈神，在江城富人区的别墅里，在赵立明这不过是个运气好有点能力的小子。
这样的反差陈
本章未完，请点击"下一页"继续阅读！ 第3页 / 共4页