Azure OpenAI ServiceとOpenAI のAPI、どちらを使うべき？

Hiroyuki Kikuchi

2023.09.14

Technology

Technology部の菊池です。

「GPT」や「DALL-E」などOpenAIの各種モデルは、OpenAI社が提供しているAPIだけでなく、「Azure OpenAI Service」を経由して使用することもできます。

2023年9月現在は、以下のとおり同様のモデルを利用可能です。

Azure OpenAI	GPT-4 GPT-3.5 DALL-E Embeddings
OpenAI	GPT-4 GPT-3.5 GPT base GPT-3 DALL-E Whisper Embeddings Moderation

よって当記事では、Azure OpenAI Serviceを経由してOpenAIの各種モデルを使うようにするべきか、それともOpenAI社が提供している各種モデルのAPIを利用するべきか、この2つをどのように使い分けるべきかをまとめました。

Azure OpenAI Serviceを使ったほうがいい場合
OpenAIのAPIを使ったほうがいい場合
- 1.フィジビリないしはプロトタイプとして組み込みたい場合
- 2.Azure OpenAI Serviceにはない最新モデルを使いたい場合
まとめ
- 最新情報をメルマガでお届けします！

Azure OpenAI Serviceを使ったほうがいい場合

Azure OpenAI Serviceを使ったほうがいい場合は4パターン考えられます。

1.独自のプロンプトやコンプリーションを追加したい場合

Azure OpenAI Serviceにはカスタムモデルという機能が存在しており、GPT-3.5やGPT-4に対して独自のプロンプトやコンプリーション（プロンプトに対するAIの応答）を追加することが可能です。これは「社内独自の業務知識をもったチャットボットを顧客に用意するとき」などに役立ちます。

プロンプトやコンプリーションは以下のようにJSON形式で追加でき、特に数学の知識がなくてもカスタマイズ可能です。

json
{"prompt": "地球は太陽の周りを何日で一周しますか？", "completion": "約365.25日"}
{"prompt": "地球は太陽の周りを何時間で一周しますか？", "completion": "約8765時間51分26秒"}
{"prompt": "地球は太陽の周りを何秒で一周しますか？", "completion": "約31536000秒"}

2.入力した質問や回答内容を外部へ送信したくない場合

OpenAIのAPIプライバシーポリシーには「OpenAIで入力されたプロンプトは、API経由の場合学習はされない」と明記されています。

同様に、Azure OpenAI Serviceのプライバシーポリシーにも「入力した内容はAzure OpenAI Serviceのモデル改善には使われない」と記載があります。

しかしながら、会社のプライバシーポリシーによっては社内の機密情報を外部に送信できない場合があるでしょう。

Azure OpenAI ServiceであればAzure内に独自のGPTサーバーをフルマネージドで構築可能なため、社内の従業員が入力したプロンプトを内部だけに送信できます。また、GPTサーバー自体も外部公開しないようVNET経由のみでアクセス可能としたり、クライアントアプリケーションについてはAzure Active Directoryによってアクセス制御することも可能です。