การแปลด้วย LLM แบบโฮสต์เอง

นำ LLM แบบโฮสต์เอง (เช่น ผ่าน Ollama) มาใช้เป็นผู้ให้บริการแปลภาษาในไดเรกทีฟ @strTranslate เพื่อแปลค่าของฟิลด์ไปยังภาษาที่ต้องการ

คำอธิบาย

ทำให้ LLM แบบโฮสต์เองพร้อมใช้งานเป็นผู้ให้บริการแปลภาษาในไดเรกทีฟ @strTranslate

เพิ่มไดเรกทีฟ @strTranslate ในฟิลด์ใดก็ได้ที่มีประเภท String เพื่อแปลฟิลด์นั้นไปยังภาษาที่ต้องการ

ตัวอย่างเช่น queries นี้แปลฟิลด์ title และ content ของโพสต์จากภาษาอังกฤษเป็นภาษาฝรั่งเศสโดยใช้ LLM แบบโฮสต์เอง:

{
  posts {
    title @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
    
    content @strTranslate(
      from: "en",
      to: "fr",
      provider: self_hosted_llm
    )
  }
}

การตรวจสอบสิทธิ์

หากคุณโฮสต์ LLM บนเซิร์ฟเวอร์ของคุณเอง คุณไม่จำเป็นต้องใช้ API key

หากคุณใช้ LLM แบบโฮสต์เองบนคลาวด์ (เช่น เมื่อใช้ Ollama Cloud) คุณอาจต้องระบุ API key ผ่านแท็บ Plugin Management > Self-Hosted LLM Translation ในหน้า Settings

จากนั้นเลือกวิธีใดวิธีหนึ่งด้านล่างเพื่อป้อนค่า

ผ่าน Settings

ป้อน API key ในช่องที่เกี่ยวข้องในหน้า Settings แล้วคลิก "Save Changes (All)":

ใน `wp-config.php`

เพิ่มค่าคงที่ GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY ใน wp-config.php:

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY', '{your API key}' );

ผ่านตัวแปรสภาพแวดล้อม

กำหนดตัวแปรสภาพแวดล้อม SELF_HOSTED_LLM_TRANSLATION_SERVICES_API_KEY

การกำหนดค่า LLM

คุณต้องกำหนดค่าต่อไปนี้:

Endpoint URL: URL ของ HTTP endpoint สำหรับโมเดล LLM แบบโฮสต์เองของคุณ เช่น:
- http://localhost:11434/v1/chat/completions เมื่อใช้รูปแบบ ChatGPT และโฮสต์โมเดล LLM บนเซิร์ฟเวอร์ของคุณโดยใช้ Ollama
- http://localhost:11434/v1/messages เมื่อใช้รูปแบบ Claude และโฮสต์โมเดล LLM บนเซิร์ฟเวอร์ของคุณโดยใช้ Ollama
- https://ollama.com/v1/chat/completions เมื่อใช้รูปแบบ ChatGPT และ Ollama Cloud
- https://ollama.com/v1/messages เมื่อใช้รูปแบบ Claude และ Ollama Cloud
Compatible with API endpoint from: ผู้ให้บริการ AI ที่ endpoint แบบกำหนดเองของคุณเข้ากันได้ด้วย โดยมีตัวเลือก ChatGPT และ Claude
Model: ชื่อของโมเดล LLM แบบโฮสต์เองที่จะใช้เมื่อแปลเนื้อหา
Max tokens: จำนวน token สูงสุดที่โมเดลสามารถสร้างในการตอบสนอง เว้นว่างไว้เพื่อไม่กำหนดขีดจำกัดสำหรับ ChatGPT หรือใช้ค่าเริ่มต้นสำหรับ Claude

เลือกวิธีใดวิธีหนึ่งด้านล่างเพื่อป้อนค่า

ผ่าน Settings

ป้อนโมเดลในช่องที่เกี่ยวข้องในหน้า Settings แล้วคลิก "Save Changes (All)":

ใน `wp-config.php`

เพิ่มค่าคงที่ใน wp-config.php:

GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL', 'http://localhost:11434/v1/chat/completions' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER', 'chatgpt' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL', 'translategemma' );
define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS', '128000' );

ผ่านตัวแปรสภาพแวดล้อม

กำหนดตัวแปรสภาพแวดล้อม:

SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_URL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_ENDPOINT_FORMAT_PROVIDER
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MODEL
SELF_HOSTED_LLM_TRANSLATION_SERVICES_MAX_TOKENS

define( 'GATOGRAPHQL_SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE', 'Please translate strings from {$sourceLang} to {$targetLang}' );

ผ่านตัวแปรสภาพแวดล้อม

กำหนดตัวแปรสภาพแวดล้อม SELF_HOSTED_LLM_TRANSLATION_SERVICES_PROMPT_TEMPLATE