Modal

Modal

概述

Modal是一个用于无服务器运行Python代码的云平台，专注于AI/ML工作负载。核心能力：

• GPU计算 按需（T4、L4、A10、L40S、A100、H100、H200、B200）
• 无服务器函数 自动扩展从零到数千个容器
• 自定义容器镜像 完全用Python代码构建
• 持久化存储 通过Volumes存储模型权重和数据集
• Web端点 用于提供模型和API服务
• 调度作业 通过cron或固定间隔
• 亚秒级冷启动 用于低延迟推理

Modal中的一切都通过代码定义——不需要YAML，不需要Dockerfile（尽管两者都支持）。

何时使用此技能

在以下情况下使用此技能：

• 在云端部署或提供AI/ML模型服务
• 运行GPU加速计算（训练、推理、微调）
• 创建无服务器Web API或端点
• 并行扩展批处理作业
• 调度重复任务（数据管道、重新训练、抓取）
• 需要用于模型权重或数据集的持久云存储
• 希望在自定义容器环境中运行代码
• 构建作业队列或异步任务处理系统

安装和认证

安装

uv pip install modal

认证

优先使用现有凭据，然后再创建新凭据：

1. 检查当前环境中是否已存在 MODAL_TOKEN_ID 和 MODAL_TOKEN_SECRET。
2. 如果不存在，检查本地 .env 文件中的这些值，并在适合工作流的情况下加载它们。
3. 只有在这两个来源都未提供凭据的情况下，才回退到交互式 modal setup 或生成新令牌。

modal setup

这会打开浏览器进行认证。对于CI/CD或无头环境，使用环境变量：

export MODAL_TOKEN_ID=<your-token-id>
export MODAL_TOKEN_SECRET=<your-token-secret>

如果环境或 .env 中没有可用的令牌，请在 https://modal.com/settings 生成。

Modal提供免费套餐，每月30美元的 credits。

参考：有关详细设置和第一个应用程序的演练，请参阅 references/getting-started.md。

核心概念

App 和函数

Modal App 对相关函数进行分组。使用 @app.function() 装饰的函数在云端远程运行：

import modal

app = modal.App("my-app")

@app.function()
def square(x):
    return x ** 2

@app.local_entrypoint()
def main():
    # .remote() 在云端运行
    print(square.remote(42))

使用 modal run script.py 运行。使用 modal deploy script.py 部署。

参考：有关生命周期钩子、类、.map()、.spawn() 等，请参阅 references/functions.md。

容器镜像

Modal 从Python代码构建容器镜像。推荐的包安装程序是 uv：

image = (
    modal.Image.debian_slim(python_version="3.11")
    .uv_pip_install("torch==2.8.0", "transformers", "accelerate")
    .apt_install("git")
)

@app.function(image=image)
def inference(prompt):
    from transformers import pipeline
    pipe = pipeline("text-generation", model="meta-llama/Llama-3-8B")
    return pipe(prompt)

关键镜像方法：

• .uv_pip_install() — 使用uv安装Python包（推荐）
• .pip_install() — 使用pip安装（备选）
• .apt_install() — 安装系统包
• .run_commands() — 在构建期间运行shell命令
• .run_function() — 在构建期间运行Python（例如，下载模型权重）
• .add_local_python_source() — 添加本地模块
• .env() — 设置环境变量

参考：有关Dockerfile、micromamba、缓存、GPU构建步骤，请参阅 references/images.md。

GPU计算

通过 gpu 参数请求GPU：

@app.function(gpu="H100")
def train_model():
    import torch
    device = torch.device("cuda")
    # GPU训练代码

# 多个GPU
@app.function(gpu="H100:4")
def distributed_training():
    ...

# GPU回退链
@app.function(gpu=["H100", "A100-80GB", "A100-40GB"])
def flexible_inference():
    ...

可用GPU：T4、L4、A10、L40S、A100-40GB、A100-80GB、H100、H200、B200、B200+

• 每个容器最多8个GPU（A10除外：最多4个）
• L40S推荐用于推理（成本/性能平衡，48 GB VRAM）
• H100/A100可以自动升级到H200/A100-80GB，无需额外费用
• 使用 gpu="H100!" 防止自动升级

参考：有关GPU选择指南和多GPU训练，请参阅 references/gpu.md。

Volumes（持久化存储）

Volumes提供分布式、持久的文件存储：

vol = modal.Volume.from_name("model-weights", create_if_missing=True)

@app.function(volumes={"/data": vol})
def save_model():
    # 写入挂载路径
    with open("/data/model.pt", "wb") as f:
        torch.save(model.state_dict(), f)

@app.function(volumes={"/data": vol})
def load_model():
    model.load_state_dict(torch.load("/data/model.pt"))

• 针对写入一次、读取多次的工作负载进行优化（模型权重、数据集）
• CLI访问：modal volume ls、modal volume put、modal volume get
• 每几秒自动后台提交

参考：有关v2卷、并发写入和最佳实践，请参阅 references/volumes.md。

密钥

安全地将凭据传递给函数：

@app.function(secrets=[modal.Secret.from_name("my-api-keys")])
def call_api():
    import os
    api_key = os.environ["API_KEY"]
    # 使用密钥

通过CLI创建密钥：modal secret create my-api-keys API_KEY=sk-xxx

或从 .env 文件：modal.Secret.from_dotenv()

参考：有关仪表板设置、多个密钥和模板，请参阅 references/secrets.md。

Web端点

将模型和API作为Web端点提供：

@app.function()
@modal.fastapi_endpoint()
def predict(text: str):
    return {"result": model.predict(text)}

• modal serve script.py — 开发模式，热重载和临时URL
• modal deploy script.py — 生产部署，永久URL
• 支持FastAPI、ASGI（Starlette、FastHTML）、WSGI（Flask、Django）、WebSockets
• 请求体最大4 GiB，响应大小无限制

参考：有关ASGI/WSGI应用、流式传输、认证和WebSockets，请参阅 references/web-endpoints.md。

调度作业

按计划运行函数：

@app.function(schedule=modal.Cron("0 9 * * *"))  # 每天UTC时间上午9点

def daily_pipeline():
    # ETL、重新训练、抓取等
    ...

@app.function(schedule=modal.Period(hours=6))
def periodic_check():
    ...

使用 modal deploy script.py 部署以激活计划。

• modal.Cron("...") — 标准cron语法，在部署之间稳定
• modal.Period(hours=N) — 固定间隔，在重新部署时重置
• 在Modal仪表板中监控运行

参考：有关cron语法和管理，请参阅 references/scheduled-jobs.md。

扩展和并发

Modal自动扩展容器。配置限制：

@app.function(
    max_containers=100,    # 上限
    min_containers=2,      # 保持温暖以实现低延迟
    buffer_containers=5,   # 预留容量
    scaledown_window=300,  # 空闲秒数后关闭
)
def process(data):
    ...

使用 .map() 并行处理输入：

results = list(process.map([item1, item2, item3, ...]))

启用每个容器的并发请求处理：

@app.function()
@modal.concurrent(max_inputs=10)
async def handle_request(req):
    ...

参考：有关 .map()、.starmap()、.spawn() 和限制，请参阅 references/scaling.md。

资源配置

@app.function(
    cpu=4.0,              # 物理核心（不是vCPU）
    memory=16384,         # MiB
    ephemeral_disk=51200, # MiB（最多3 TiB）
    timeout=3600,         # 秒
)
def heavy_computation():
    ...

默认值：0.125 CPU核心，128 MiB内存。按最大值（请求，使用）计费。

参考：有关限制和计费详情，请参阅 references/resources.md。

带有生命周期钩子的类

对于有状态工作负载（例如，加载模型一次并提供许多请求）：

@app.cls(gpu="L40S", image=image)
class Predictor:
    @modal.enter()
    def load_model(self):
        self.model = load_heavy_model()  # 在容器启动时运行一次

    @modal.method()
    def predict(self, text: str):
        return self.model(text)

    @modal.exit()
    def cleanup(self):
        ...  # 在容器关闭时运行

调用方式：Predictor().predict.remote("hello")

常见工作流模式

GPU模型推理服务

import modal

app = modal.App("llm-service")

image = (
    modal.Image.debian_slim(python_version="3.11")
    .uv_pip_install("vllm")
)

@app.cls(gpu="H100", image=image, min_containers=1)
class LLMService:
    @modal.enter()
    def load(self):
        from vllm import LLM
        self.llm = LLM(model="meta-llama/Llama-3-70B")

    @modal.method()
    @modal.fastapi_endpoint(method="POST")
    def generate(self, prompt: str, max_tokens: int = 256):
        outputs = self.llm.generate([prompt], max_tokens=max_tokens)
        return {"text": outputs[0].outputs[0].text}

批处理管道

app = modal.App("batch-pipeline")
vol = modal.Volume.from_name("pipeline-data", create_if_missing=True)

@app.function(volumes={"/data": vol}, cpu=4.0, memory=8192)
def process_chunk(chunk_id: int):
    import pandas as pd
    df = pd.read_parquet(f"/data/input/chunk_{chunk_id}.parquet")
    result = heavy_transform(df)
    result.to_parquet(f"/data/output/chunk_{chunk_id}.parquet")
    return len(result)

@app.local_entrypoint()
def main():
    chunk_ids = list(range(100))
    results = list(process_chunk.map(chunk_ids))
    print(f"处理了 {sum(results)} 总行数")

调度数据管道

app = modal.App("etl-pipeline")

@app.function(
    schedule=modal.Cron("0 */6 * * *"),  # 每6小时
    secrets=[modal.Secret.from_name("db-credentials")],
)
def etl_job():
    import os
    db_url = os.environ["DATABASE_URL"]
    # 提取、转换、加载
    ...

安全注意事项

1. 密钥管理：使用 Modal 密钥功能存储敏感信息，不要在代码中硬编码

   modal.Secret.from_dict({
       "API_KEY": "your_key_here"
   })

1. 网络隔离：使用私有端点和 VPC 连接确保网络安全

1. 容器安全：保持容器镜像更新，避免使用不安全的基础镜像

1. 访问控制：使用适当的权限级别，遵循最小权限原则

1. 日志安全：避免在日志中记录敏感信息

CLI参考

| 命令 | 描述 |

|---------|-------------|

| modal setup | 向Modal认证 |

| modal run script.py | 运行脚本的本地入口点 |

| modal serve script.py | 开发服务器，热重载 |

| modal deploy script.py | 部署到生产环境 |

| modal volume ls <name> | 列出卷中的文件 |

| modal volume put <name> <file> | 上传文件到卷 |

| modal volume get <name> <file> | 从卷下载文件 |

| modal secret create <name> K=V | 创建密钥 |

| modal secret list | 列出密钥 |

| modal app list | 列出已部署的应用 |

| modal app stop <name> | 停止已部署的应用 |

参考文件

每个主题的详细文档：

• references/getting-started.md — 安装、认证、第一个应用
• references/functions.md — 函数、类、生命周期钩子、远程执行
• references/images.md — 容器镜像、包安装、缓存
• references/gpu.md — GPU类型、选择、多GPU、训练
• references/volumes.md — 持久化存储、文件管理、v2卷
• references/secrets.md — 凭据、环境变量、dotenv
• references/web-endpoints.md — FastAPI、ASGI/WSGI、流式传输、认证、WebSockets
• references/scheduled-jobs.md — Cron、定期计划、管理
• references/scaling.md — 自动扩展、并发、.map()、限制
• references/resources.md — CPU、内存、磁盘、超时配置
• references/examples.md — 常见用例和模式
• references/api_reference.md — 关键API类和方法

当需要超出本概述的详细信息时，请阅读这些文件。