大模型相关

curl http://localhost:33899/api/generate -d '{  "model": "gemma2:2b",  "prompt": "Why is the sky blue?",  "stream": false  }'


#version: '3'

services:
  ollama-webui:
    image: ghcr.io/open-webui/open-webui:main
    container_name: ollama-webui
    restart: unless-stopped
    ports:
      - 8090:8080
    volumes:
      - ./data:/app/backend/data
    environment:
      - OLLAMA_API_BASE_URL=http://36.133.28.230:33899/api
      - WEBUI_SECRET_KEY=TkjGEiQ@5K^j
      

curl http://localhost:11434/api/generate -d "{\"model\": \"qwen2\",\"prompt\": \"who are you?\",\"stream\":false}"

curl http://36.133.28.230:33899/api/generate -d "{\"model\": \"gemma2\",\"prompt\":\"hello ?\",\"stream\":false}"

curl http://36.133.28.230:33899/api/chat  -d "{ \"model":\"gemma2", \"messages\": [{\"role\":\"user\",\"content\":\"why is the sky blue?\"}]}"


curl http://0.0.0.0:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer soulteary" \
  -d '{
     "model": "gpt-4",
     "messages": [{"role": "user", "content": "Hello."}],
     "temperature": 0.2,
     "stream": true
   }'
   

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值