llm-red-team / glm-free-api Goto Github PK

部署在huggingface上的结果报错了

当输入提示词“你有多少种绘画风格”时，API应该返回一个关于绘画风格种类的信息，但实际上API却错误地将其解释为一个绘画指令，并尝试根据这个指令绘制一幅图像。

glm-free-api：

官网：

和之前一样传，一直生成失败

在宝塔面板上怎么设置反代，绑定个域名使用

智谱现在是不是token很快就会过期啊?

有一些软件会对API的格式进行限制。
本代理直接从在某个本地文件中读取获得的token，然后软件那边使用格式和openai兼容的伪API来调用。

请问有没有可能也将天工ai搜索给API化
www.tiangong.cn

已解决

token统计建议可以采用开源的token计算器，比如openai的tiktoken：https://github.com/openai/tiktoken
或者设置一个固定的比例，比如中文字数/1.6。会比现在写一个固定数值好一些。

话说有没有可能也把秘塔AI搜索给API化？

这是一个没用的未解决issue，只是为了吸引你点进来。

我docker部署后，接入one-api。在one-api测速的话，每次都是15秒以上。请问为什么？

如题^_^

大佬有没有可能把CICI也搞出来？

1. 不能自动清理会话信息
2. 触发执行代码时，代码和画的图都看不到 （比如“用Python画一朵花”）

https://www.modelscope.cn/studios/qwen/Qwen2-72B-Instruct-demo/summary

模型预计会长期开放此接口，请求增加接口

感谢glm-free-api做出的贡献，给espanso快速调用脚本添加了不少功能

rt

希望增加兼容openai调用dalle3的/v1/images/generations接口

https://www.bilibili.com/video/BV12m421n7w4
https://www.bilibili.com/video/BV1Rm421J7jf
https://www.bilibili.com/video/BV1dr42187VJ
https://www.bilibili.com/video/BV1XC411V7uh

glm-free-api除了获取refresh_token不一样外其余都和kimi-free-api使用方法一致。

示例里通过网络地址发送了文档，使用时可以通过什么方式使其读取本地文档，图片之类的文件吗？

1|glm-free-api | [2024-05-14 23:41:51.415][error][chat.ts<327,14>] Invalid response Content-Type: application/json
1|glm-free-api | [2024-05-14 23:41:51.416][info][server.ts<66,36>] <- POST /v1/chat/completions 131ms
1|glm-free-api | [2024-05-14 23:41:51.417][error][chat.ts<331,47>] {"message":"当前还有其他请求正在进行","result":[],"status":10006}
1|glm-free-api |
1|glm-free-api | [2024-05-14 23:41:51.541][error][chat.ts<327,14>] Invalid response Content-Type: application/json
1|glm-free-api | [2024-05-14 23:41:51.542][info][server.ts<66,36>] <- POST /v1/chat/completions 175ms
1|glm-free-api | [2024-05-14 23:41:51.543][error][chat.ts<331,47>] {"message":"当前还有其他请求正在进行","result":[],"status":10006}
1|glm-free-api |
1|glm-free-api | [2024-05-14 23:42:16.377][success][chat.ts<358,14>] Stream has completed transfer 25378ms

像gpt_academic有些任务会同时申请多个请求，能不能通过某些机制延迟响应，而不至于终止请求？

# coding=utf-8
import pyperclip
import requests, json, sys

token = "xxxxxxxxxxxxxxx"
third_party_url = "http://localhost:8000/v1/chat/completions"
headers = {
    "Authorization": f"Bearer {token }"
}


def get_translation(content_text):
    prompt_text = {
    "model": "glm4",
    "messages": [
        {
            "role": "user",
            "content": "你叫什么？"
        }
    ],
    "stream": False
}
    response = requests.post(third_party_url, headers=headers, json=prompt_text)
    if response.status_code == 200:
        response_data = json.loads(response.text)
        print(response_data)
    else:
        print(f"请求失败\n{response.text}")


clipboard_string = pyperclip.paste()
if isinstance(clipboard_string, str):
    sys.stdout.reconfigure(encoding='utf-8')
    get_translation(clipboard_string)

收到回复：

C:\ProgramData\anaconda3\envs\python311\python.exe C:\Users\Administrator\Personal_scripts\pythonProject\temp.py 
{'code': -2001, 'message': '[请求glm失败]: bad request', 'data': None}

进程已结束，退出代码为 0

能否给个详细的请求例子？

0|glm-free-api | [2024-05-01 14:40:40.300][warning][server.ts<79,20>] [请求有误]: 正确请求为 POST -> /v1/chat/completions，当前请求为 GET -> /v1/chat/completions/models 请纠正

使用cursor 编辑器，它会在url后面加上models，这样就出现上面的问题

想把大佬的多个项目部署在本地，但是几个项目均是使用8000的端口号，请大佬怎么修改端口号呢？

binary-husky/gpt_academic#1783
urllib3.exceptions.MaxRetryError: HTTPSConnectionPool(host='192.168.101.5', port=8006): Max retries exceeded with url: /v1/chat/completions (Caused by SSLError(SSLError(1, '[SSL: WRONG_VERSION_NUMBER] wrong version number (_ssl.c:1006)')))