openAI 的浪潮从今年 2 月份到现在已经 7 个月了。在这期间,我们开发上线了面向企业的 openAI 垂直行业应用服务,并完成了整个产品端到端的闭关,目前在国内外市场积极营销。
今天给大家介绍一下,怎么用微软 Azure,开启你的 openAI 之旅。
国内的企业和创业者可以考虑使用微软 Azure 服务,下图为微软创业 Hubs 的宣传海报,扫描下图二维码,可以免费领取微软云服务 250 credits,也可以直接联系微软销售团队获取详细信息。
选择模型
- 开始 openAI 实验:访问 Azure AI 实验室,在此界面你可以体验不同的AI模型和其效果。
- 选择模型:不同的项目需求不同,选择合适的模型至关重要。以下是微软提供的模型和详细介绍:
深入实践
1. 了解费用
了解不同模型特点后,你需要了解不同模型的费用。微软提供了清晰的计费界面,从而避免意外开销。
其中 Prompt 指的是向模型输入的 token 数量;Completion 指的是模型输出的 token 数量。token 数量多少在 Azure 上会列出,所以不用担心不知道怎么计算 token。
你可以先选择一个 Context 量少的模型进行实验,不够的话再调整。
2. 参数调整与实验
3. 设置Prompt
Prompt 是决定 AI 输出的关键。合适的 Prompt 能够得到更准确的结果。此处建议的格式是:你希望 ChatGPT 扮演什么角色 + 输出格式是什么。
System message:你现在是一个数据科学家,你需要基于提供的内容进行总结。 如果信息种没有提供,则用 “N/A” 代替。
Example:
- User: 你的输入
- Assistant: 你的输出, 如:{”ID”:xxx;”Name”:xxx; “Address:”xxxx },
当然你也可以尝试使用英文来写 Prompt, OpenAI 对英文更加友好。
4. 调整参数
温度、Top P 等参数可细致调整,使模型输出更加符合需求。
温度: 控制随机性。降低温度意味着模型将产生更多重复性和确定性的回复。提高温度则会产生更多意想不到或创造性的反应。请尝试调整温度或 Top P,但不要同时调整两者。
Top P:与温度类似,它也可以控制随机性,但使用的方法不同。降低 Top P 会将模型的标记选择范围缩小到更可能的标记。提高 Top P 会让模型从可能性大和可能性小中进行选择。请尝试调整温度或 Top P,但不要同时调整两者。
停止序列: 让模型在所需时间点结束响应。模型响应将在指定序列之前结束,因此不会包含停止序列文本。
对话实验:在 Chat 模块,输入你的问题或指令,测试对话效果。
把你的输入内容放到对话框中,然后就能看到右侧的 Input tokens 也发生了变化。鼠标 hover 上去,能够看到 token 的详情。
发送对话,即可获得回应和答案。 这个时候如果不满意,你就需要调整 Prompt。若当前聊天窗口的 token 已经超出上限,会报错,无法再进行对话。此时你只需要点击 Chat session 里面的 Clear chat 即可。
微软 openAI 优势
- 国内唯一可以用的 openAI 大模型
- 价格和 ChatGPT 一样。如果有教育优惠,或者上图的创业优惠,还能更便宜
- 开发说明文档完善,基本看文档就能明白原理,说明,使用方法和定价
微软 OpenAI 更新状态
可以查看此文档:https://learn.microsoft.com/zh-cn/azure/ai-services/openai/whats-new
目前微软还没有多模态发布的计划: