Menghubungkan GPT4Free dengan n8n di NAT VPS

NATVPS.id – Setelah membahas mengenai instalasi n8n dan GPT4Free di artikel sebelumnya, kita dapat mengintegrasikan keduanya untuk proses otomatisasi dengan bantuan AI. Sebagai contoh, jika ingin membuat chatbot WhatsApp berbasis webhook, kita dapat menggunakan n8n untuk melakukan trigger otomatis kemudian mengakses AI melalui GPT4Free.

Namun, dikarenakan tujuan awalnya sebagai penghubung ke berbagai provider, GPT4Free tidak dapat langsung digunakan sebagai endpoint untuk AI client. Oleh karena itu, kita perlu menggunakan proxy seperti LLM-proxy untuk dapat menggunakan sebuah provider beserta model yang spesifik. Untuk GPT4Free, terdapat sebuah proxy yang dapat kita gunakan, yaitu n8n-g4f-proxy (https://github.com/korotovsky/n8n-g4f-proxy).

Cek Provider Yang Tersedia

Sebelum dapat menggunakan proxy, kita perlu memilih provider yang akan kita gunakan. Provider ini nantinya akan menentukan daftar LLM model yang dapat kita gunakan di n8n.

Untuk mengeceknya, buka http://<domain GPT4Free Anda>/v1/providers. Contoh, jika domain GPT4Free Anda adalah ai.tutorial.mdinata.my.id, maka alamatnya menjadi http://ai.tutorial.mdinata.my.id/v1/providers.

ini adalah daftar provider yang tersedia di GPT4Free, dalam bentuk JSON. Jika kesulitan membacanya, silahkan gunakan tool seperti JSON Formatter.

id adalah nama provider yang dapat kita gunakan. Silahkan pilih salah satu dari provider yang tersedia. Sebagai contoh, PollinationsAI.

Tip: Cari provider yang gratis!

Simpan ID dari provider ini, karena akan digunakan nanti.

Update Docker Compose GPT4Free

Kita perlu menambahkan proxy ini sebagai service baru ke konfigurasi Docker Compose GPT4Free.

Jika Anda mengikuti artikel sebelumnya mengenai instalasi GPT4Free di NAT VPS, maka file Docker Compose terletak di gpt4free/docker-compose.yml. Sesuaikan jika menggunakan lokasi yang berbeda.

Buka file Docker Compose menggunakan text editor seperti nano:

cd gpt4free/
nano docker-compose.yml

  llm-proxy-openai:
    image: ghcr.io/korotovsky/n8n-g4f-proxy:latest
    ports:
      - "12434:3000" # port 12434 become accessible on host via host.docker.internal:12434 in the credentials popup
    environment:
      - LLM_PROXY_PROVIDER=PollinationsAI # choose the provider from /v1/providers
      - LLM_UPSTREAM=http://g4f:8080

Ganti PollinationsAI sesuai dengan provider pilihan Anda sebelumnya.

Simpan file tersebut dengan Ctrl-X,y, dan Enter.

Restart Docker Compose:

docker compose down
docker compose up -d

Setting Port Forwarding

Untuk mempermudah instalasi, kita dapat menggunakan port alih-alih menggunakan domain melalui reverse-proxy. Namun Anda bebas jika tetap ingin menggunakan domain.

Buat port forwarding baru yang mengarah ke port 12434 pada VPS. Contoh:

Coba akses port forward tersebut untuk menguji apakah proxy bekerja. Contoh: http://195.154.94.231:19013.

Jika muncul seperti di atas, maka proxy telah berjalan.

Integrasi dengan n8n

Proxy LLM sekarang dapat digunakan sebagai API endpoint untuk OpenAI di n8n.

Isi Kredensial

Pada tab Parameters, bagian Credentials, klik Create new credential untuk menambahkan kredensial proxy.

• API key: isi dengan ketentuan:
  • Jika menggunakan provider berbayar seperti OpenAI: isi dengan API key Anda
  • Jika menggunakan provider gratis seperti PollinationsAI: isi dengan apa saja karena tidak memerlukan API key.
• Base URL: Isi dengan alamat port forward Anda + “/v1”. Contoh: http://195.154.94.231:19013/v1.

Pilih Models

Jika pilihan Model pada n8n kosong seperti ini, maka Anda perlu memasukkan nama model secara manual.

Buka alamat port forward Anda + “/v1/models”. Contoh: http://195.154.94.231:19013/v1/models.

Sebagai contoh, gpt-4o-mini.

pada n8n, kolom Model, pindahkan ke By ID, kemudian isikan dengan ID dari model yang diinginkan.

Ubah konfigurasi lain sesuai kebutuhan otomatisasi, kemudian lakukan uji coba step untuk mengetes apakah respon AI berhasil didapatkan.