用fastapi和sse创建流式输出接口

示例为调用huggingface的大模型，使其流式输出 from fastapi import FastAPI, Request import requests import json import os from pydantic import BaseModel from transformer
posted @ 2024-06-13 09:49  Mrterrific  阅读(36)  评论(0)  编辑  收藏  举报