GPT-3.5 Turboのfine-tuningが開発者向けに提供が開始

記事全体の概要

米国時間2023年8月22日、GPT-3.5 Turboのfine-tuningが開発者向けに提供が開始されました。更に、今秋にはGPT-4のfine-tuningのリリース予定とのことです。

今回PROMPTYでは、fine-tuningの特長、課題点、実際の活用方法、料金体系、そして今後の展望について解説いたします。

fine-tuningで何ができるのか

GPT-3.5 Turboのfine-tuningを行うことで、指示に対する操作性が強化され、日本語の応答が一段とスムーズになりました。

また、特定の応答形式への高品質な変換が信頼性をもって実施できるようになりました。ブランドの声としてのトーンを独自に調整することも容易になりました。

現状のGPTにおけるfine-tuningのデメリット

fine-tuningの面では、トレーニング、プロンプト入力、結果出力に関するコストが高めという課題が存在します。また、現行のfine-tuningが可能なモデルはGPT-3.5のみとなっており、これが精度の制限となるケースも考えられます。

fine-tuningの活用事例

例えば、オリジナルのチャットボットの開発において、GPT-3.5を用いても十分な回答精度が確保できますが、fine-tuningを施すことでさらなる精度向上が見込めます。プロンプトの節約が可能となるため、実質的なコストはGPT-4に比べて3〜4倍程度に抑えることもできると期待されています。

GPT-3.5のfine-tuningの使用料金

fine-tuningの費用は訓練費用と入力費用・出力費用の3つに分けられます。具体的には、1,000トークンあたり、訓練が$0.008、入力が$0.012、出力が$0.016と設定されています。

GPT-3.5のfine-tuningの使い方

今回はOpenAI公式で紹介されているfine-tuningの機能の使用方法についてご紹介します。

参考：OpenAI

まずはデータを用意します。

{
  "messages": [
    { "role": "system", "content": "You are an assistant that occasionally misspells words" },
    { "role": "user", "content": "Tell me a story." },
    { "role": "assistant", "content": "One day a student went to schoool." }
  ]
}

次にデータ（ファイル）をアップロードします。

curl -https://api.openai.com/v1/files \
  -H "Authorization: Bearer $OPENAI_API_KEY" \
  -F "purpose=fine-tune" \
  -F "file=@path_to_your_file" 

fine-tuning ジョブの作成を行います。

curl https://api.openai.com/v1/fine_tuning/jobs \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
  "training_file": "TRAINING_FILE_ID",
  "model": "gpt-3.5-turbo-0613",
}'

fine-tuningモデルを使用します。

curl https://api.openai.com/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $OPENAI_API_KEY" \
-d '{
  "model": "ft:gpt-3.5-turbo:org_id",
  "messages": [
    {
      "role": "system",
      "content": "You are an assistant that occasionally misspells words"
    },
    {
      "role": "user",
      "content": "Hello! What is fine-tuning?"
    }
  ]
}'

今後の予定

近い将来、GPT-3.5-turbo-16kのfine-tuningサポートが始まることが予告されています。GPT-4のモデレーションシステムによる不適切なデータの検出機能の強化や、fine-tuningジョブの進捗確認のためのUIの改善も計画されています。