官网上，从pypi上安装的zhipu sdk已经是2.0.1版本了，源代码安装还是1.0.8版本，好几个模型不支持

+1。2.x设计上貌似更接近openai v2的设计了， stream=True 和<code class="

官网和github开源的sdk版本差距有点大 about zhipuai-sdk-python HOT 5 OPEN

zhipuai commented on August 28, 2024

官网和github开源的sdk版本差距有点大

from zhipuai-sdk-python.

Comments (5)

upbit commented on August 28, 2024 1

+1。2.x设计上貌似更接近openai v2的设计了，stream=True和choices/delta。目前有什么简单方式可以复用的吗？
比如LangChain的ChatZhipuAI就不能用了，还得自己从ChatOpenAI复制一份

另外，2.x的zhipuai依赖 pydantic==2.5.3，这个和大多数库（比如langchain）需求的1.x不兼容，遇到会非常难搞。。

from zhipuai-sdk-python.

upbit commented on August 28, 2024

+1。2.x设计上貌似更接近openai v2的设计了，stream=True和choices/delta。目前有什么简单方式可以复用的吗？比如LangChain的ChatZhipuAI就不能用了，还得自己从ChatOpenAI复制一份

另外，2.x的zhipuai依赖 pydantic==2.5.3，这个和大多数库（比如langchain）需求的1.x不兼容，遇到会非常难搞。。

周末改了个支持 zhipuai v2.0.1 的 langchain 版本，目前流程是能通了（需要chat_zhipuai.py可以自取）。
希望能解决 pydantic v2 的依赖问题，不然都得学langchain去fork一份v1的代码放库里。

demo.mp4

from zhipuai-sdk-python.

shinjiyu commented on August 28, 2024

官方文档的chatglm demo 还是基于1.X的。
我现在是pip install zhipuai==1.0.7 强制安装上一个版本。

from zhipuai-sdk-python.

luoling1993 commented on August 28, 2024

其实好像修改下header的方式，用openai可以兼容了，不需要这个包了，将他的generate_token函数copy下就行了

    def _init_client(self) -> None:
        """init internal client"""

        if self._api_base == "https://open.bigmodel.cn/api/paas/v4":
            # ZhipuAI兼容
            from ._jwt_token import generate_token

            client = OpenAI(
                api_key=self.api_key,
                base_url=self._api_base,
                http_client=httpx.Client(proxies=self._proxy),
                default_headers={"Authorization": generate_token(api_key=self._api_key)},
            )
        else:
            client = OpenAI(
                api_key=self._api_key,
                base_url=self._api_base,
                http_client=httpx.Client(proxies=self._proxy),
            )
        self._client = client