Fireworks AI API 完全指南

【AI&游戏】专栏-直达

Fireworks AI是一家专注于高性能AI推理的云服务平台，通过其专有的FireAttention引擎提供业界领先的大语言模型推理速度。Fireworks AI汇集了200+开源模型，为开发者提供了简单、高效、可扩展的AI API服务。本篇文章将全面介绍Fireworks AI API的核心功能、模型支持、开发指南以及在游戏开发中的应用场景。

一、平台概述

1.1 Fireworks AI简介

Fireworks AI成立于2022年，是一家专注于AI推理加速的云服务公司。公司的核心优势在于其专有的推理引擎FireAttention，该引擎针对Transformer架构进行了深度优化，能够提供4倍低于传统方案的推理延迟。

Fireworks AI的愿景是让开发者能够轻松访问和使用最新的开源AI模型，无需关心底层基础设施的复杂性。

1.2 核心优势

• FireAttention引擎：专有的推理加速技术，4倍低延迟
• 丰富模型库：200+开源模型，涵盖LLM、视觉、多模态等
• 高可用性：99.9% SLA保障
• 企业级安全：HIPAA和SOC2合规
• 简单部署：一键部署，无需复杂配置

二、模型支持

2.1 LLM模型

Llama系列：Llama 3.1 405B、70B、8B等多个版本

Mistral系列：Mistral Large 2、Mixtral等

Qwen系列：Qwen 2.5 72B、Qwen 2.5 Coder等

DeepSeek系列：DeepSeek V3、DeepSeek Coder等

GLM系列：智谱的GLM-4、GLM-4V等

2.2 视觉模型

LLaVA：开源多模态模型

InternVL：大规模视觉语言模型

Qwen VL：阿里的视觉语言模型

2.3 Embedding模型

BGE系列、Embedding-1等高质量embedding模型

三、API核心功能

3.1 基础调用

from openai import OpenAI

client = OpenAI(
    api_key="your-fireworks-api-key",
    base_url="https://api.fireworks.ai/inference/v1"
)

response = client.chat.completions.create(
    model="accounts/fireworks/models/llama-v3p1-8b-instruct",
    messages=[
        {"role": "system", "content": "你是一个有用的助手。"},
        {"role": "user", "content": "你好"}
    ]
)

print(response.choices[0].message.content)

注意Fireworks使用accounts/fireworks/models/前缀的模型标识符。

3.2 模型命名规范

# 常用模型标识符示例
models = {
    "llama_3_1_8b": "accounts/fireworks/models/llama-v3p1-8b-instruct",
    "llama_3_1_70b": "accounts/fireworks/models/llama-v3p1-70b-instruct",
    "llama_3_3_70b": "accounts/fireworks/models/llama-3.3-70b-instruct",
    "mistral_large": "accounts/fireworks/models/mistral-large-2-24b",
    "qwen_2_5_72b": "accounts/fireworks/models/qwen2p5-72b-instruct",
    "deepseek_v3": "accounts/fireworks/models/deepseek-v3"
}

3.3 流式输出

stream = client.chat.completions.create(
    model="accounts/fireworks/models/llama-v3p1-8b-instruct",
    messages=[
        {"role": "user", "content": "解释什么是强化学习"}
    ],
    stream=True
)

for chunk in stream:
    if chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

3.4 函数调用

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_quest_info",
            "description": "获取任务详细信息",
            "parameters": {
                "type": "object",
                "properties": {
                    "quest_id": {"type": "string"}
                }
            }
        }
    }
]

response = client.chat.completions.create(
    model="accounts/fireworks/models/llama-v3p1-70b-instruct",
    messages=[
        {"role": "user", "content": "告诉我当前任务的要求"}
    ],
    tools=tools
)

四、定价策略

4.1 按模型定价

Fireworks AI根据不同模型分别定价：

模型类别	输入价格	输出价格
8B左右模型	$0.2/M	$0.2/M
70B模型	$0.5-0.9/M	$0.5-0.9/M
405B模型	$3-6/M	$3-6/M
视觉模型	较高	较高

4.2 免费额度

新用户自动获得免费积分，可用于测试和开发。

五、在游戏开发中的应用

5.1 高性能NPC对话

def create_high_performance_npc(model_size="8b"):
    """
    创建高性能NPC对话
    
    Args:
        model_size: 模型大小，'8b'快速响应，'70b'高质量
    """
    
    models = {
        "8b": "accounts/fireworks/models/llama-v3p1-8b-instruct",
        "70b": "accounts/fireworks/models/llama-v3p1-70b-instruct"
    }
    
    def chat(npc_profile, message):
        response = client.chat.completions.create(
            model=models[model_size],
            messages=[
                {"role": "system", "content": f"你是：{npc_profile}"},
                {"role": "user", "content": message}
            ],
            temperature=0.8,
            max_tokens=300
        )
        return response.choices[0].message.content
    
    return chat

5.2 视觉内容理解

def analyze_game_image(image_data):
    """
    使用视觉模型分析游戏图像
    """
    
    response = client.chat.completions.create(
        model="accounts/fireworks/models/llava-v1.5-7b",
        messages=[
            {
                "role": "user",
                "content": [
                    {"type": "text", "text": "分析这张游戏截图，描述场景和玩法"},
                    {"type": "image_url", "image_url": {"url": f"data:image/png;base64,{image_data}"}}
                ]
            }
        ]
    )
    
    return response.choices[0].message.content

5.3 代码生成优化

def generate_optimized_code(requirement):
    """
    使用大型模型生成优化代码
    """
    
    response = client.chat.completions.create(
        model="accounts/fireworks/models/qwen2p5-72b-instruct",
        messages=[
            {"role": "system", "content": "你是一个专业的游戏开发者，生成高质量代码。"},
            {"role": "user", "content": requirement}
        ],
        max_tokens=2048
    )
    
    return response.choices[0].message.content

六、总结

Fireworks AI以其FireAttention引擎和丰富的开源模型库，为开发者提供了高性能、高可用的AI推理服务。200+模型的选择和99.9%的SLA保障使其成为生产环境的理想选择。对于游戏开发者而言，Fireworks AI提供了从轻量到重量级的模型选择，可以根据不同场景灵活配置AI能力。

---

（欢迎点赞留言探讨，更多人加入进来能更加完善这个探索的过程，🙏）