GPT-3.5 Turbo推出微调功能:支持用自己的数据训练模型,打造专属GPT

闪电发卡2年前ChatGPT1347

OpenAI前几天推出了GPT-3.5 Turbo的微调功能(fine-tuning for GPT-3.5 Turbo),用户可以用自己的数据训练模型并大规模运行它,打造专属GPT,并且早期测试显示,经过微调的GPT-3.5 Turbo在特定任务上可以达到或超过GPT-4的表现!下面ChatGPT中文网就分享下这个资讯信息。

一、GPT-3.5 Turbo微调功能介绍

所谓的GPT微调功能就是用我们自己的数据去训练已有的GPT模型,以达到增强GPT在某一方面的能力,得到我们自己的专属GPT模型。例如我们用自己的医学数据来训练GPT模型,以增强GPT在处理医学相关问题的能力,得到一个“医学版GPT”。

结合微调功能,GPT的能力可以在以下实例中得到增强:

  • 改进的可控性:微调允许企业使模型更好地遵循指令,例如使输出简洁或始终以指定语言回应。例如,开发者可以利用微调确保模型在被提示使用该语言时总是用德语回应。

  • 可靠的输出格式:微调提高了模型一致格式化响应的能力——这对于要求特定响应格式的应用至关重要,如代码补全或组成API调用。开发者可以使用微调更可靠地将用户提示转换为可用于他们自己系统的高质量JSON片段。

  • 定制的语调:微调是优化模型输出的质量感觉的绝佳方式,如其语调,使其更适合企业的品牌声音。拥有可识别品牌声音的企业可以使用微调使模型的语调更一致。

目前OpenAI推出了GPT-3.5 Turbo的微调功能,而GPT-4和gpt-3.5-turbo-16k的微调功能也将在这个秋天上线!

二、GPT-3.5 Turbo微调功能步骤

根据OpenAI官方说明,GPT微调的步骤有4步。

1、准备数据

{
  "messages": [
    { "role": "system", "content": "You are an assistant that occasionally misspells words" },
    { "role": "user", "content": "Tell me a story." },
    { "role": "assistant", "content": "One day a student went to schoool." }
  ]}

2、上传文件

curl https://api.openai.com/v1/files \
  -H "Authorization: Bearer $OPENAI_API_KEY" \  -F "purpose=fine-tune" \  -F "file=@path_to_your_file"

3、创建微调作业

curl https://api.openai.com/v1/fine_tuning/jobs \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "training_file": "TRAINING_FILE_ID",
  "model": "gpt-3.5-turbo-0613"
}'

4、使用微调后的模型

curl https://api.openai.com/v1/chat/completions \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "model": "ft:gpt-3.5-turbo:org_id",
  "messages": [
    {
      "role": "system",
      "content": "You are an assistant that occasionally misspells words"
    },
    {
      "role": "user",
      "content": "Hello! What is fine-tuning?"
    }
  ]
}'


相关文章

反击ChatGPT,谷歌正式推出Bard!结果...

反击ChatGPT,谷歌正式推出Bard!结果...

1、谷歌发大招这段时间,一直在看大神相互打架。OpenAI 宣布发布 GPT-4,百度发布了文心一言,微软深夜放了一个炸弹发布 Copilot。紧接着到昨天晚上,谷歌终于发大招发布了 Bar...

ChatGPT全宇宙大爆炸!开启联网解除封印,无敌插件彻底改变世界

ChatGPT全宇宙大爆炸!开启联网解除封印,无敌插件彻底改变世界

【导读】OpenAI冷不丁又宣布了惊爆全球的消息:ChatGPT可以集成第三方插件了!唯一的封印解除后,ChatGPT俨然已经迎来了属于自己的「全知全能」宇宙。网友直呼:AI的APP Store时刻已...

Transformer教程之输入嵌入(Input Embeddings)

闪电发卡ChatGPT产品推荐: ChatGPT独享账号:https://www.chatgptzh.com/post/86.html ChatGPT Plus独享共享账号购买代充:https:/...

怎样申请注册属于自己的ChatGPT账号

怎样申请注册属于自己的ChatGPT账号

如果只是想使用 ChatGPT,那么完全可以不申请账号。有🪜的话可以使用 ChatGPT 的镜像网站,比原 ChatGPT 地址还稳定,我没充 plus 之前用的是https://aichat.sha...

美国有50%企业在用ChatGPT了!一半人表示员工已被AI取代

美国有50%企业在用ChatGPT了!一半人表示员工已被AI取代

【导读】美国最新调查显示,50%企业已经在用ChatGPT了,一半人表示,ChatGPT已经替代了员工。这一天终于来了?ChatGPT果然开始取代人类了!美国《财富》杂志网站近日报道,工作建议平台Re...

ChatGPT Plus 4.0账号购买与使用:一步步教程

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://www.chatgptzh.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://www...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。