IT

【無料で構築】Difyをローカルホストして、OpenRouterの無料モデルで利用する

やること

DifyをローカルのDockerでホスティングして、OpenRouterの無料のAPIを利用してタダのりAI環境を作ります。

読み方

  • Dify
    ->ディファイ
  • OpenRouter
    ->オープンルーター

利用する環境

  • M2 Mac mem24GB
  • MacOS Sequoia 15.3.1
  • Docker Desktop v4.38.0

参考ドキュメント

ドキュメントの手順に沿えば、10分程度で環境が立ち上がります。
ちょいちょいコマンドが変わるようで、他サイトで転記されているものはもう利用できなくなったりして、詰んだので公式のものを参照することをお勧めします。

  • Dify Community

https://docs.dify.ai/getting-started/install-self-hosted/docker-compose

システム情報

・初回ログインURL(管理者アカウント作成)
http://localhost/install

入力する管理者情報(メールアドレス,パスワード,ユーザー名)は適当なものでOK。

ログインすると、以下のURLに遷移します。
http://localhost/apps

OpenRouter関連

Googleアカウントでサインイン

  1. https://openrouter.aiにアクセスし、「Sign in」 をクリック
  2. Sign in to OpenRouter > 「Google」をクリック
  3. Legal consentのページで、チェックを入れて「Continue」をクリック
  4. 表示されるページで、「Create API Key」> 「Create Key」をクリック
  5. APIKey用の値を入力
    Name : 適当な値
    Credit Limit : null
    無料枠利用想定なので、値を入れていませんが、本番だと入れておいた方がいいです。ちなみに上記の値自体は後から編集可能です。
  6. 発行されたKey情報をコピー
    以下にある通り以降ではこの情報には触れられないそうです。
Please copy it now and write it down somewhere safe. You will not be able to see it again.
You can use it with OpenAI-compatible apps, or your own code

Keyの発行自体はこれで終了です。

Keyの設定

① Difyの右上メニュー > 設定> モデルプロバイダーを選択

②「OpenRouter」のセットアップをクリック

③先ほどの取得したKeyを入力し、「保存」をクリック

④これでAPIが利用できるようになり、モデルプロバイダーの上部に設定されているものが表示されます。

⑤システムモデル設定 > システム推論モデルに利用したいモデルを設定
今回は「deepSeek-r1」を選択します。

これで準備はOKです。

無料で使えるAIモデルの探し方

https://openrouter.ai/modelsの検索ボックスに「free」と入力すると探しやすいです。

{プロバイダー名}:{モデル名}(free)となっているものが無料で利用できるものになります。
※無料な分、速度はとても遅いです。

ここで使いたいものを探して、Dify側でモデルを指定する形式になります。

Difyの利用テスト

アプリケーションの作成

1.スタジオタブを開き、「最初から作成する」をクリック
2.アプリの種類を選択 > 「テキストジェネレーター」をクリック
3.アプリのアイコンと名前に適当な値を入力して、「作成する」をクリック
4.手順に以下を入力し、変数をinputのみにします。
 ※変数セクションのqueryは削除し、inputにします。

## 指示
- プロのライターとして、{{input}}についてブログ記事を執筆してください。
## 要件
- 文章量は2000文字程度
- 記述する際にはSEOを意識した構成とする
- メタキーワードとディスクリプションを120文字程度

5.「公開する」> 「アプリを実行」をクリックでアプリケーションの利用ができます。

  • 完成イメージ

アプリケーションのお試し

inputの項目に単語を入れて、「Execute」をクリックするとテキスト生成が始まります。
無料のモデルだと、途中で生成が止まることがありますが今回は大体5分程度で、画像のようなものが生成されました。

  • 動作イメージ

まとめ

これにて、今回の環境構築は完了です。
お疲れ様でした。

どんどん簡単にアプリの実行環境が手に入りますね。
Difyは中国製のアプリケーションですが、デフォルトで日本語対応してくれているところもありがたいですね。

Difyに読み込ませる情報(ナレッジ)の集め方が固まれば自分だけのRAGが用意できるようなので、夢が広がりますね。

おまけ:DifyでGeminiが使えないエラーについて

2025/02/26 現在、Google AI Studioから出力したGeminiのAPIKeyを利用しようとするとエラーになります。

404 models/gemini-pro is not found for API version v1beta, or is not supported for generateContent. Call ListModels to see the list of available models and their supported methods.
  • 日本語版
404 models/gemini-pro は、API バージョン v1beta では見つからないか、generateContent ではサポートされていません。使用可能なモデルとサポートされているメソッドのリストを表示するには、ListModels を呼び出します。

これはGitHubのIssueに上がっており、以降で修正されるそうです。

https://github.com/langgenius/dify/issues/14352

以上、どなたかのお役に立てば幸いです。

  • この記事を書いた人

緑川縁

ニートからシステムエンジニアになった人
クラウド案件をメインにやっています。
保持資格:CCNA,AWS SAA&SAP,秘書検定2級
趣味でボカロ曲作り始めました。

-IT
-,