docker 部署 AI 网关及 PII 配置

找了好久一直想找个带 PII 配置的 docker compose 部署的网关，第一个找到的是 LiteLLM，试用了一堆其他类型的网关后，兜兜转转又回到了 LiteLLM。。。

我想，虽然“大数据下无隐私”这句话的含金量还在不断升高，也知道最好的 PII 脱敏就是本地部署，只能说目前现状对我来说是最优解了，或许后续我也可以自己写一个，毕竟有 AI~

网关不少，但带有基本 PII 的真的不多（或许我没有搜全），一方面对个人用户而言， vibe coding 本身一些敏感信息可以通过设置排除在外；另一方面，真的有 PII 需求的，那也是企业级用户，用的企业级路由，完全可以自己花钱搞一个。🤣一来二去开源类的网关基本也是奔着定制收费和企业用户去的了。。。

今天说的仅仅是 LiteLLM 的部署，顺便带上自带的过滤，也就是脱敏功能，至于 LiteLLM + Presidio 的部署，有点太过臃肿了，后面有机会再看吧！首先用官方的 docker-compose.yaml 就可以跑起来，这里我稍微改了一下（带了数据库，不带的话，就没有数据统计功能了）：

services:
  litellm:
    image: docker.litellm.ai/berriai/litellm:main-stable
    container_name: litellm
    environment:
      DATABASE_URL: "postgresql://llmproxy:dbpassword9090@litellm_db:5432/litellm"
      STORE_MODEL_IN_DB: "True" # 需要通过 WEB UI 实时编辑的话，这项默认设置为 TRUE
      LITELLM_MASTER_KEY: "sk-1234" # 改成你需要的管理员密码
    depends_on:
      - litellm_db
    healthcheck:  # Defines the health check configuration for the container
      test:
        - CMD-SHELL
        - python3 -c "import urllib.request; urllib.request.urlopen('http://localhost:4000/health/liveliness')"  # Command to execute for health check
      interval: 30s  # Perform health check every 30 seconds
      timeout: 10s   # Health check command times out after 10 seconds
      retries: 3     # Retry up to 3 times if health check fails
      start_period: 40s  # Wait 40 seconds after container start before beginning health checks
    ports:
      - 4000:4000
    restart: unless-stopped
    networks:
      - mynet


  litellm_db:
    image: postgres:16
    restart: unless-stopped
    container_name: litellm_db
    environment:
      - POSTGRES_DB=litellm
      - POSTGRES_USER=llmproxy
      - POSTGRES_PASSWORD=dbpassword9090
    ports:
      - "5432:5432"
    volumes:
      - ./litellm_postgres_data:/var/lib/postgresql/data # Persists Postgres data across container restarts
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -d litellm -U llmproxy"]
      interval: 1s
      timeout: 5s
      retries: 10
    networks:
      - mynet

networks:
  mynet:
    external: true

docker compose up -d 起来后，直接访问 4000 端口就行了。