-
Notifications
You must be signed in to change notification settings - Fork 59.7k
New issue
Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.
By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.
Already on GitHub? Sign in to your account
默认prompt“有什么可以帮你的吗”会影响ChatGPT输出 #330
Comments
这个确实挺离谱的,我之后 Fix 一下。 |
看起来 assistant role 的权重比 user 还高,导致这个问题的原因很可能是 LLM 根据 “有什么可以帮你的吗” 这个 prompt 把自己定义为通用 AI 助手了 |
是的,真是哭笑不得,调久了 ChatGPT 发现 prompt 确实很微妙。system的设定、提交时喂多少轮messages、prompt换个字眼表达,结果都不一样。 所以我的建议是,首次对话只有 根据OpenAI的文档和我的测试,结论有:
|
之后会增加单个 chat 的深度自定义功能,允许用户使用预设的多轮对话来作为提问开头 #138 |
明天会优先搞这个功能。 |
赞! @realskyrin 和我的理解是一致的,定好system角色+预设一轮标准问答(user、assistant),后面的输出就非常稳定。 另外发现现在上下文记忆提交是在system,建议放到第一个assistant,system除非用户自定义,否则留空就好。 |
另外说一句,这也是删除某条消息功能的意义。#267 有时候某条回答不及预期,换个问法。如果不删除继续提问,很可能被之前不及预期的提问回复记录带偏。 |
现在默认又会发送一个 system ,会影响输出。面具能不能完全自定义啊
|
你可以手动在代码里删了 |
另外请问下,新建对话时默认会提示 |
@cwyalpha 可以自行把这行代码给删了 |
使用场景:用 ChatGPT 审核内容,输出json审核结果
我在程序实现中可以正确输出想要的json结果,但用 ChatGPT-Next-Web 无论如何他都说自己只是个AI模型,不能审核。
最后发现是新建聊天都会带上prompt “有什么可以帮你的吗” 的原因,实测经过:
带
{"role": "assistant","content": "有什么可以帮你的吗"}
,不行。带
{"role": "assistant","content": "You are Chinese content censor"}
,可以。首轮对话只喂用户问题,哪怕不带
"role": "assistant"
,也可以。The text was updated successfully, but these errors were encountered: