将向量数据库中内容传递给OpenAI的接口进行搜索和总结，但是返回内容长度只有【几百个】字符，请问是为啥？没有超出长度

xgysigned · 2023 年6 月 14 日 03:03

admin · 2023 年6 月 14 日 07:09

是说返回的数据不完整么？

xgysigned · 2023 年8 月 6 日 02:36

是的，返回不完整

kiraraty · 2023 年8 月 8 日 08:20

是的我也遇到了，返回的代码不完整

kiraraty · 2023 年8 月 8 日 08:24

github.com/hwchase17/langchainjs

Failed to calculate number of tokens, falling back to approximate count

opened 10:06PM - 07 Aug 23 UTC

john930d

auto:bug auto:question

Hi guys, I wanted to ask you does anyone know where is the problem with this bec…ause Im getting an error on my Express Js backend: (Failed to calculate number of tokens, falling back to approximate count) after trying to make a request to open ai by using langchain and sql database connection. On the request I can see that there is a property with max_tokens: 256, is there a problem with the api key or pricing plan or anything related to the database size? The version of langchain library that Im using is "langchain": "0.0.110",

kiraraty · 2023 年8 月 8 日 08:31

在共享的新上下文中，文件OpenAI 中的类openai.ts 具有maxTokens 默认设置为 256 的属性。该属性在方法中用于invocationParams 设置max_tokens OpenAI API 请求的参数。如果该maxTokens 属性设置的值小于输入字符串中的标记数量，OpenAI API 将返回错误。您可以尝试增加该maxTokens 属性或减小输入字符串的大小来解决该错误。

kiraraty · 2023 年8 月 30 日 08:14

在 new OpenAI时候传入maxTokens 配置不是256就行大一些就好 1024