Deepseek 對話前綴續(xù)寫（Beta）

對話前綴續(xù)寫沿用 Chat Completion API，用戶提供 assistant 開頭的消息，來讓模型補全其余的消息。

注意事項?

1. 使用對話前綴續(xù)寫時，用戶需確保 messages 列表里最后一條消息的 role 為 assistant，并設(shè)置最后一條消息的 prefix 參數(shù)為 True。
2. 用戶需要設(shè)置 base_url="https://api.deepseek.com/beta" 來開啟 Beta 功能。

樣例代碼?

下面給出了對話前綴續(xù)寫的完整 Python 代碼樣例。在這個例子中，我們設(shè)置 assistant 開頭的消息為 "```python\n" 來強制模型輸出 python 代碼，并設(shè)置 stop 參數(shù)為 ['```'] 來避免模型的額外解釋。

from openai import OpenAI

client = OpenAI(
    api_key="<your api key>",
    base_url="https://api.deepseek.com/beta",
)

messages = [
    {"role": "user", "content": "Please write quick sort code"},
    {"role": "assistant", "content": "```python\n", "prefix": True}
]
response = client.chat.completions.create(
    model="deepseek-chat",
    messages=messages,
    stop=["```"],
)
print(response.choices[0].message.content)