OpenAI新版本,怎么指定上下文呢?

45次阅读

共计 661 个字符,预计需要花费 2 分钟才能阅读完成。

https://platform.openai.com/docs/guides/chat/introduction

看官网的教程,需要自己指定上下文,把所有消息都丢进来,这也太麻烦了吧?不能直接指定 parentMessageID 吗?还有怎么获取历史消息呢?

网友回复:

注册 那你看到 context 这个词还会笑吗?

ansheng 我看到上下文这个词就想笑

js 攻城狮 笑从何来

HOH 根据官网文档来吧 … 现在已经不认 ID 字段了

ansheng 官方文档也有给示例,就是把之前的所有消息都传递过去,但是这样如果消息很多也很耗费 tokens。。。

小白鸡 可以按照自己的需求携带少部分

ansheng 现在 token 很便宜,全塞进去

malaohu 貌似只能如此吧,没办法 … 估计官方也想通过这种方式赚钱

CapitalTeemo 确实,不赚钱也不行,不过还是建议推出企业版,贵点但是用的省心

注册 官网首页就说了,用 GPT3 的 CML 来做,https://github.com/openai/openai-python/blob/main/chatml.md

注册 上下文是 promt 的作用了····对大型模型蛮管用的,下图就是原论文的插图 其实并没有赚钱···ta 的确要加上上下文从头开始 infer·· 在用缓存存储上下文或许更好··· 如果不是关联性很强的对话,可以把上下文定义为空也是一种省 token 方式··

apachego 貌似只能这样 https://platform.openai.com/docs/guides/chat/introduction

正文完
 0