GPT-3.5 Turbo推出微调功能:支持用自己的数据训练模型,打造专属GPT

闪电发卡3年前ChatGPT1873

OpenAI前几天推出了GPT-3.5 Turbo的微调功能(fine-tuning for GPT-3.5 Turbo),用户可以用自己的数据训练模型并大规模运行它,打造专属GPT,并且早期测试显示,经过微调的GPT-3.5 Turbo在特定任务上可以达到或超过GPT-4的表现!下面ChatGPT中文网就分享下这个资讯信息。

一、GPT-3.5 Turbo微调功能介绍

所谓的GPT微调功能就是用我们自己的数据去训练已有的GPT模型,以达到增强GPT在某一方面的能力,得到我们自己的专属GPT模型。例如我们用自己的医学数据来训练GPT模型,以增强GPT在处理医学相关问题的能力,得到一个“医学版GPT”。

结合微调功能,GPT的能力可以在以下实例中得到增强:

  • 改进的可控性:微调允许企业使模型更好地遵循指令,例如使输出简洁或始终以指定语言回应。例如,开发者可以利用微调确保模型在被提示使用该语言时总是用德语回应。

  • 可靠的输出格式:微调提高了模型一致格式化响应的能力——这对于要求特定响应格式的应用至关重要,如代码补全或组成API调用。开发者可以使用微调更可靠地将用户提示转换为可用于他们自己系统的高质量JSON片段。

  • 定制的语调:微调是优化模型输出的质量感觉的绝佳方式,如其语调,使其更适合企业的品牌声音。拥有可识别品牌声音的企业可以使用微调使模型的语调更一致。

目前OpenAI推出了GPT-3.5 Turbo的微调功能,而GPT-4和gpt-3.5-turbo-16k的微调功能也将在这个秋天上线!

二、GPT-3.5 Turbo微调功能步骤

根据OpenAI官方说明,GPT微调的步骤有4步。

1、准备数据

{
  "messages": [
    { "role": "system", "content": "You are an assistant that occasionally misspells words" },
    { "role": "user", "content": "Tell me a story." },
    { "role": "assistant", "content": "One day a student went to schoool." }
  ]}

2、上传文件

curl https://api.openai.com/v1/files \
  -H "Authorization: Bearer $OPENAI_API_KEY" \  -F "purpose=fine-tune" \  -F "file=@path_to_your_file"

3、创建微调作业

curl https://api.openai.com/v1/fine_tuning/jobs \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "training_file": "TRAINING_FILE_ID",
  "model": "gpt-3.5-turbo-0613"
}'

4、使用微调后的模型

curl https://api.openai.com/v1/chat/completions \-H "Content-Type: application/json" \-H "Authorization: Bearer $OPENAI_API_KEY" \-d '{
  "model": "ft:gpt-3.5-turbo:org_id",
  "messages": [
    {
      "role": "system",
      "content": "You are an assistant that occasionally misspells words"
    },
    {
      "role": "user",
      "content": "Hello! What is fine-tuning?"
    }
  ]
}'


相关文章

使用docker部署自己的网页版chatgpt

使用docker部署自己的网页版chatgpt

如果你有了一个Chat GPT账号想分享给多个人使用,最好还不用禾斗学上网别人就能访问,那么chatgpt-web这个项目可能刚好满足你的需求。少点命令行,多点可视化,这里采用更直观的方式来搭建cha...

国内设计师必看:Midjourney 6.1直登方案与镜像服务优劣对比

闪电发卡ChatGPT和Claude产品推荐: Claude Pro独享账号 Claude Pro & ChatGPT Plus & Midjourney国内镜像不限次数...

体验了一下火爆全球的 ChatGPT,我震惊了

体验了一下火爆全球的 ChatGPT,我震惊了

这几天,要说编程圈最热的话题,莫过于OpenAI的ChatGPT,写小说,写代码,找BUG,写论文,画漫画,谱曲……简直没有它干不了的事。趁着下班时间,我也光速注册体验了一下,作为AI从业者来说,都觉...

我也谈谈 ChatGPT:ChatGPT用后感分析感悟

我也谈谈 ChatGPT:ChatGPT用后感分析感悟

最近 ChatGPT 从 AI 走向多个领域与大众视野,引起热议。了解了一下,作为一个科技产品,ChatGPT 的出现,其实背后有着比较清晰的演化路线,包括 GPT、GPT2、GPT3、Instruc...

《精通ChatGPT:从入门到大师的Prompt指南》附录B:推荐阅读资源

作者:斯图尔特·拉塞尔 (Stuart Russell) 和 彼得·诺维格 (Peter Norvig) 简介:这本书被誉为人工智能领域的经典教材,内容涵盖了AI的基本原理、算法及其应用。无论是入门...

ChatGPT API技术教程OpenAI APIKey在线对接-Chat Completion对象

闪电发卡ChatGPT产品推荐:ChatGPT独享账号:https://www.chatgptzh.com/post/86.htmlChatGPT Plus独享共享账号购买代充:https://www...