AI原生应用开发:提示工程原理与实战
上QQ阅读APP看书,第一时间看更新

1.3 案例演示的准备工作

为了顺利演示书中的所有案例,首先需要做一些准备工作。我们可以通过大语言模型的官方网站或开放API来体验这些模型的功能。请注意,随着不同厂商模型版本的更新,本书中部分案例的演示效果可能会与实际操作得到的效果有所不同。不过,请放心,这些细微的差异不会影响你对技术实现思路和方法的理解。

1.3.1 使用官网接入大语言模型

使用官方网站无疑是接入大语言模型最直观且便捷的途径之一,只需轻松注册一个账号,便可即刻沉浸在丰富的体验之中。在本书的写作过程中,作者使用并参考了诸多大语言模型的官方产品,如文心一言(“文心一言”APP已更名为“文小言”)、通义千问、ChatGPT等。

以百度的文心一言为例,其用户界面如图1-4所示。用户可以在这个界面上直接创建新的对话,并输入想要探讨的内容,文心一言会立即生成相应的回复。

图1-4 百度文心一言的用户界面

1.3.2 使用API接入大语言模型

若你计划在项目开发中使用大语言模型的功能,申请使用这些模型服务商提供的API无疑是最为高效的方法之一,具体过程请参考这些模型服务商提供的开发文档。目前大部分厂商的大语言模型软件开发工具包(software development kit,SDK)都兼容OpenAI的风格,接下来将以这种主流风格为例,展示如何在项目中接入大语言模型。

首先,安装新版本的OpenAI客户端库。

pip install openai

然后,使用如下代码来发送请求并接收大语言模型的响应。

from openai import OpenAI
client = OpenAI()
 
completion = client.chat.completions.create(
  model = "gpt-3.5-turbo",
  messages = [
    {"role": "user", "content": "<此处编写你的输入文本>" }
  ],
  temperature = 0.001
)
 
print(completion.choices[0].message.content)

最后,可以通过调整各种参数来优化大语言模型的输出,例如调整温度(temperature)参数可以控制生成文本的随机性。有关这些参数的更多信息,请参考模型服务商的官方文档。

1.3.3 初次体验

完成准备工作后,就可以调用大语言模型了。输入以下提示。

故人西辞黄鹤楼,下一句是什么?

输出如下。

故人西辞黄鹤楼,下一句是:烟花三月下扬州。这是出自唐代诗人李白的《黄鹤楼送孟浩然之广陵》的著名诗句,描述了李白在黄鹤楼与友人孟浩然依依惜别的动人场景。

尝试完成一个更具挑战性的任务:从给定的文本中提取信息,并将其按照JSON结构输出。

# 任务描述
从给定的文本中提取信息,按照以下JSON结构输出,其中{}表示需要填充的内容:
``` json
{ "gender": "{}", "age": {}, "job": "{}" }
```
# 输入
大家好,我是一个羞涩的小男孩,今年十二岁,还是个学生,在北京一零一中学读书。
# 输出
->

输出如下。

{"gender": "男","age": 12,"job": "学生" }

恭喜!你已经成功调用大语言模型。可以看到,使用大语言模型完成各种任务的基本思路是:给定一段文本输入,让大语言模型根据输入的文本生成你想要的结果,并可以根据不同的任务和模型调整输入文本的形式和内容,以达到最佳效果。