蚁人论坛 (iYenn.com)

本文是一篇大模型的入门文章, 通过一个案例来理解大模型是如何使用的。

一、从一句话敲开大模型的大门

你向大模型提问 “你是谁？”，然后大模型理解了你说的话，并给出对应的回答。

接下来，使用 API 模拟这个场景。

二、大模型 API 实现问答

选用月之暗面的 API 来实现问答。

如图所示，通过一个 API ，完成了智能回复。

如果将这个 API 套一个壳（图形界面），就是我们常见的大模型助手。

于是很多 App、Agent、智能助手，都可以通过这样一个形式的 API 进行套壳落地。

通过上面的介绍，至少对于大模型的使用有了一定的体感。

和大模型的交付形式，抽象成程序，就一个参数，不同的参数，输出的结果是不同的。

三、“不同的输入给出不同的输出”

列举有哪些大模型，但是输出的形式不同。一个表格，一个markdwon，如下所示：

大模型最终的展现形式，显然和我们的输入表达是紧密相关的。输入表达，在大模型中叫做 prompt。

月之暗面这么定义 Prompt：

对模型的输入也被称为“Prompt”。通常我们建议您提供明确的指令以及给出一些范例，来让模型能够完成既定的任务，设计 Prompt 本质上就是学会如何“训练”模型。moonshot-v1模型可以用于各种任务，包括内容或代码生成、摘要、对话、创意写作等。

市面上诞生了很多 Prompt 工程师。 Prompt 对大模型十分重要。很多场景的优化，常常是通过 Prompt 的优化来提升效果的。

四、Prompt 优化策略

简单提供入门的两个优化策略。

五、代码案例

搭建一个简单的代码案例

第一步：到月之暗面开发平台申请一个 key

platform.moonshot.cn/console/api…

有了这个 key ，就可以调用 API 。（学习阶段，申请一个免费的）

第二步：编写代码

如果熟悉 python ，那么将 key 替换成自己的，一个大模型语义能力通过几行就完成了。（月之暗面提官方提供的代码示例）


Python
 代码解读
复制代码
from openai import OpenAI
 
client = OpenAI(
    api_key = "$MOONSHOT_API_KEY",
    base_url = "https://api.moonshot.cn/v1",
)
 
completion = client.chat.completions.create(
    model = "moonshot-v1-8k",
    messages = [
        {"role": "system", "content": "你是 Kimi，由 Moonshot AI 提供的人工智能助手，你更擅长中文和英文的对话。你会为用户提供安全，有帮助，准确的回答。同时，你会拒绝一切涉及恐怖主义，种族歧视，黄色暴力等问题的回答。Moonshot AI 为专有名词，不可翻译成其他语言。"},
        {"role": "user", "content": "你好，我叫李雷，1+1等于多少？"}
    ],
    temperature = 0.3,
)
 
print(completion.choices[0].message.content)

如果使用 Java 代码，则封装一个 httpclient 就可以，或者使用 curl 命令也能实现访问


curl
 代码解读
复制代码
curl https://api.moonshot.cn/v1/chat/completions \
    -H "Content-Type: application/json" \
    -H "Authorization: Bearer $MOONSHOT_API_KEY" \
    -d '{
        "model": "moonshot-v1-8k",
        "messages": [
            {"role": "system", "content": "你是 Kimi，由 Moonshot AI 提供的人工智能助手，你更擅长中文和英文的对话。你会为用户提供安全，有帮助，准确的回答。同时，你会拒绝一切涉及恐怖主义，种族歧视，黄色暴力等问题的回答。Moonshot AI 为专有名词，不可翻译成其他语言。"},
            {"role": "user", "content": "你好，我叫李雷，1+1等于多少？"}
        ],
        "temperature": 0.3
   }'

代码实例就到此结束，感兴趣的自己可以进一步封装。

六、最后小结

本从一句话出发，然后引到大模型，算是一个简单的入门。并以月之暗面为例子进行说明。市面上有很多的大模型，都提供了open API，使用方式都相似。

后续会继续输出更多关于大模型相关的文章，本文到此结束，感谢阅读。