GPT4ALL API Server Abfrage mit Curl

Question

Ich habe GPT4All installiert und Orca Mini heruntergeladen. In GPT4All habe ich den API Server aktiviert. Wie kann ich mit Curl oder etwas anderem Abfragen an den API Server senden?

Answer 1

curl --location --header "Content-Type: application/json" --data "{\"temperature\": 0.7,\"max_tokens\": 150,\"model\": \"gpt4all-falcon-newbpe-q4_0.gguf\",\"messages\": [{\"role\": \"user\", \"content\": \"Was ist KI?\"}]}" http://localhost:4891/v1/chat/completions