云服务器信息IP相关命令

确认云服务器信息

  1. 获取云服务器公网 IP
    在服务器上运行:

    curl ifconfig.me

    或查看云服务商控制台(如 AWS 的 Elastic IP、阿里云的 EIP)。

  2. 检查防火墙/安全组

    • 确保服务器的安全组放行 9999 端口(TCP)。

    • 本地测试连通性:

      curl http://<云服务器IP>:9999/v1/models

步骤 2:在 Dify 中填写 API Endpoint

  1. 格式

    http://<云服务器IP或域名>:9999/v1
    • 示例:

      http://123.123.123.123:9999/v1

      http://your-domain.com:9999/v1
  2. Dify 插件配置位置

    • 进入 Dify 的 应用 > 插件 > OpenAI-API-compatible

    • 在 API Endpoint URL 字段填写上述地址。


步骤 3:验证配置

  1. 测试模型列表
    在 Dify 中点击插件的 “测试连接”(如果有),或手动调用:

     

    应返回:

    {"object":"list","data":[{"id":"Qwen/Qwen2.5-1.5B-Instruct",...}]}
  2. 检查 Dify 日志
    如果请求失败,查看 Dify 的 服务日志 或云服务器的 vllm serve 日志,排查:

    • 连接超时 → 检查网络/防火墙。

    • 404 错误 → 检查端点路径是否为 /v1

你可能感兴趣的:(服务器,tcp/ip,运维)