tongchenkeji 发表于：2023-10-30 22:32:270次点击 已关注取消关注 关注 私信 在阿里函数计算中，部署成功llm api后如何从客户端调用？[阿里云Serverless] 暂停朗读为您朗读 在阿里函数计算中，部署成功llm api后如何从客户端调用？ 「点点赞赏，手留余香」 赞赏 还没有人赞赏，快来当第一个赞赏的人吧！ 海报 Serverless 应用引擎# API1163# Serverless2886# 函数计算2686
ZzzzAM 2023-11-28 2:50:42 1 在阿里函数计算中，部署成功API后，您可以通过两种方式从客户端进行调用。一种是通过阿里云CLI命令方式调用函数计算API，另一种是利用API网关将函数计算返回的内容映射到statusCode、header、body等位置返回给客户端。 如果选择使用阿里云CLI，首先需要安装并配置阿里云CLI，然后了解使用阿里云CLI调用RESTful API的命令结构。具体的操作步骤包括创建服务，然后通过命令行工具执行请求函数的操作。 如果选择通过API网关的方式，当以函数计算作为API网关的后端服务时，API网关会把请求参数通过一个固定的Map结构传给函数计算的入参event。这种方式的优点是可以支持更多的请求和响应格式，并且可以方便地进行权限控制和流量控制。 总的来说，无论选择哪种方式，都需要对函数计算的工作原理有一定的理解。函数计算是一个事件驱动的服务，用户无需管理服务器等运行情况，只需编写代码并上传。函数计算准备计算资源，并以弹性伸缩的方式运行用户代码。
小周sirAM 2023-11-28 2:50:42 2 部署成功LLM API后，可以从客户端调用它。以下是调用 LLAMA 的步骤： 客户端准备好请求参数：包含需要调用的 LLM API 的方法名、所需参数等信息，并形成请求字符串。 构造请求对象：使用阿里云提供的API调用类库来构造请求对象，如Java SDK、Python SDK等。 发送请求：调用方法，发送请求到 LLM API。 处理响应：解析返回的数据并处理响应结果。
sun20AM 2023-11-28 2:50:42 3 在阿里函数计算中，部署LLM API后，可以从客户端调用的方式有以下几种： HTTP调用：LLM API通常支持HTTP调用，你可以使用任何支持HTTP调用的编程语言（如Python、Java、JavaScript等）或者工具（如curl、Postman等）来进行调用。你需要在调用中指明API的URL、方法（GET、POST、PUT、DELETE等）、请求头和请求体等信息。 SDK调用：阿里云提供了多种语言的SDK，如Python SDK、Java SDK、JavaScript SDK等，你可以使用这些SDK来进行调用。SDK通常会封装底层的HTTP调用，使得调用更加方便和高效。 CLI调用：阿里云也提供了命令行工具（CLI），你可以使用CLI来进行调用。CLI通常支持多种命令，可以方便地进行各种操作，如创建函数、调用函数、查看日志等。
在阿里函数计算中，部署成功API后，您可以通过两种方式从客户端进行调用。一种是通过阿里云CLI命令方式调用函数计算API，另一种是利用API网关将函数计算返回的内容映射到statusCode、header、body等位置返回给客户端。
如果选择使用阿里云CLI，首先需要安装并配置阿里云CLI，然后了解使用阿里云CLI调用RESTful API的命令结构。具体的操作步骤包括创建服务，然后通过命令行工具执行请求函数的操作。
如果选择通过API网关的方式，当以函数计算作为API网关的后端服务时，API网关会把请求参数通过一个固定的Map结构传给函数计算的入参event。这种方式的优点是可以支持更多的请求和响应格式，并且可以方便地进行权限控制和流量控制。
总的来说，无论选择哪种方式，都需要对函数计算的工作原理有一定的理解。函数计算是一个事件驱动的服务，用户无需管理服务器等运行情况，只需编写代码并上传。函数计算准备计算资源，并以弹性伸缩的方式运行用户代码。
部署成功LLM API后，可以从客户端调用它。以下是调用 LLAMA 的步骤：
在阿里函数计算中，部署LLM API后，可以从客户端调用的方式有以下几种：
HTTP调用：LLM API通常支持HTTP调用，你可以使用任何支持HTTP调用的编程语言（如Python、Java、JavaScript等）或者工具（如curl、Postman等）来进行调用。你需要在调用中指明API的URL、方法（GET、POST、PUT、DELETE等）、请求头和请求体等信息。
SDK调用：阿里云提供了多种语言的SDK，如Python SDK、Java SDK、JavaScript SDK等，你可以使用这些SDK来进行调用。SDK通常会封装底层的HTTP调用，使得调用更加方便和高效。
CLI调用：阿里云也提供了命令行工具（CLI），你可以使用CLI来进行调用。CLI通常支持多种命令，可以方便地进行各种操作，如创建函数、调用函数、查看日志等。