logo
65

调用 LLM API

⏱️ 40分钟

LLM API 入门:把模型能力接进应用

你现在可能会困惑什么

“会写 prompt 还不够吗?”

产品里需要代码自动调用模型,并处理失败、重试与日志。

一句话定义

LLM API 调用是鉴权、请求、解析、异常处理与重试的完整工程流程。

生活类比

点外卖不只选菜,还要支付、等待、催单和异常处理。

最小可运行例子

import os
API_KEY = os.getenv("API_KEY")
if not API_KEY:
    raise ValueError("missing key")

课堂小测(5 分钟)

  1. 实现 ask_llm(prompt)
  2. 加 timeout 与 try/except。
  3. 失败重试 2 次并记录日志。

课堂小测参考答案与判分点

  • 参考答案方向:能写出可运行代码,并覆盖题目中的核心条件与边界输入。
  • 判分点 1(正确性):主流程结果正确,关键分支可执行。
  • 判分点 2(可读性):变量命名清晰,结构不过度嵌套。
  • 判分点 3(健壮性):对空值、类型错误或异常输入有基础保护。

迁移任务(课后)

实现“问答接口封装层”,统一错误码和响应格式。

本节验收标准

你能独立做到:

  • 跑通最小 API 调用链路
  • 处理超时/鉴权/空响应
  • 做基础可观测性日志

常见报错与调试步骤(新手版)

  • 报错看不懂:先读最后一行错误类型(如 TypeErrorNameError),再回到对应代码行定位。
  • 不确定变量值:在关键位置临时 print(变量, type(变量)),先确认数据是否符合预期。
  • 改了代码却没生效:确认文件已保存、运行的是当前文件、终端环境(venv)是否正确。

常见误区

  • 误区:有返回就算成功。
  • 正解:要校验内容与稳定性。