Google Colab×​Ollama×​Cloudflareで構築する「完全無料・URL固定型」AIフェイルオーバー環境

# ============================================================
# Google Colab: Ollama + Qwen3.5 9B + Cloudflare Named Tunnel
#
# 事前準備 (Cloudflare Dashboard):
# 1. ネットワーク -> Tunnels で Tunnel を作成
# 2. Public Hostname 設定 (例: ai.example.com -> http://127.0.0.1:11434)
# 3. Tunnel Token をコピー
# ============================================================

# 0. 設定 (※ご自身のドメイン・使いたいモデルに変更してください)
MODEL = "qwen3.5:9b"
OLLAMA_HOST = "0.0.0.0:11434"
OLLAMA_LOCAL_URL = "http://127.0.0.1:11434"
PUBLIC_URL = "https://ai.example.com"  # ご自身のドメインURLに書き換え

# 1. GPU確認
print("=" * 70 + "\n1. GPU確認\n" + "=" * 70)
!nvidia-smi

# 2. 必要なパッケージ・ツールのインストール
print("\n" + "=" * 70 + "\n2. 必要なツールをインストール\n" + "=" * 70)
!apt-get update -qq && apt-get install -y -qq zstd > /dev/null
print("Ollamaをインストール中...")
!curl -fsSL https://ollama.com/install.sh | sh
print("\ncloudflaredをインストール中...")
!curl -L -s https://github.com/cloudflare/cloudflared/releases/latest/download/cloudflared-linux-amd64 -o /usr/local/bin/cloudflared
!chmod +x /usr/local/bin/cloudflared
print("[OK] インストール完了")

# 3. バージョン確認
print("\n" + "=" * 70 + "\n3. バージョン確認\n" + "=" * 70)
!ollama --version
print()
!cloudflared --version

# 4. 既存プロセス整理
print("\n" + "=" * 70 + "\n4. 既存プロセスを整理\n" + "=" * 70)
import subprocess, time, requests, json, os, getpass
subprocess.run(["pkill", "-f", "ollama serve"], capture_output=True)
subprocess.run(["pkill", "-f", "cloudflared"], capture_output=True)
time.sleep(2)
print("[OK] 既存プロセス整理完了")

# 5. Ollama起動
print("\n" + "=" * 70 + "\n5. Ollama起動\n" + "=" * 70)
ollama_env = os.environ.copy()
ollama_env["OLLAMA_HOST"] = OLLAMA_HOST
ollama_env["OLLAMA_ORIGINS"] = "*"
ollama_process = subprocess.Popen(["ollama", "serve"], env=ollama_env, stdout=subprocess.PIPE, stderr=subprocess.STDOUT, text=True)

print("Ollama API起動を待っています...")
ollama_ready = False
for i in range(60):
    try:
        if requests.get(f"{OLLAMA_LOCAL_URL}/api/tags", timeout=2).status_code == 200:
            ollama_ready = True
            print("[OK] Ollama API起動成功")
            break
    except Exception:
        pass
    time.sleep(1)

if not ollama_ready:
    raise RuntimeError("Ollama APIを起動できませんでした")

# 6. モデル確認・ダウンロード
print("\n" + "=" * 70 + f"\n6. モデル確認・ダウンロード\n" + "=" * 70)
print(f"使用モデル: {MODEL}")
res = requests.get(f"{OLLAMA_LOCAL_URL}/api/tags", timeout=10)
existing_models = [m["name"] for m in res.json().get("models", [])]
if any(m == MODEL for m in existing_models):
    print(f"[OK] {MODEL} は既に存在します")
else:
    print(f"[ダウンロード] {MODEL} をダウンロードします (初回は数分かかります)...")
    res_pull = subprocess.run(["ollama", "pull", MODEL], capture_output=False)
    if res_pull.returncode != 0:
        raise RuntimeError(f"{MODEL} のダウンロードに失敗しました")
    print(f"[OK] {MODEL} ダウンロード完了")

# 7. モデル一覧
print("\n" + "=" * 70 + "\n7. モデル一覧\n" + "=" * 70)
res = requests.get(f"{OLLAMA_LOCAL_URL}/api/tags", timeout=10)
available_models = [m["name"] for m in res.json().get("models", [])]
for m in available_models:
    print(" -", m)
if MODEL not in available_models:
    raise RuntimeError(f"モデル {MODEL} が見つかりません")
print(f"\n[OK] 使用モデル確認: {MODEL}")

# 8. ローカル推論テスト (ウォームアップ & タイムアウト5分)
print("\n" + "=" * 70 + "\n8. ローカル推論テスト\n" + "=" * 70)
print("モデルをGPUへロードしています...")
def test_local_model():
    try:
        payload = {"model": MODEL, "messages": [{"role": "user", "content": "こんにちは。日本語で短く自己紹介してください。"}], "stream": False}
        res = requests.post(f"{OLLAMA_LOCAL_URL}/api/chat", json=payload, timeout=300)
        print("HTTP Status:", res.status_code)
        if res.status_code != 200:
            print(res.text[:2000])
            return False
        msg = res.json().get("message", {}).get("content", "")
        print("\n[モデル応答]\n" + "-" * 50 + f"\n{msg}\n" + "-" * 50)
        return True
    except Exception as e:
        print("[エラー]:", e)
        return False

if not test_local_model():
    raise RuntimeError("ローカルモデル推論に失敗しました")
print("\n[OK] ローカル推論成功")

# 9. Cloudflare Tunnel Token入力
print("\n" + "=" * 70 + "\n9. Cloudflare Named Tunnel設定\n" + "=" * 70)
TUNNEL_TOKEN = None
try:
    from google.colab import userdata
    TUNNEL_TOKEN = userdata.get('CLOUDFLARE_TUNNEL_TOKEN')
    if TUNNEL_TOKEN:
        print("[OK] ColabシークレットからTunnel Tokenを自動読み込みしました")
except Exception:
    pass

if not TUNNEL_TOKEN:
    print("""
Cloudflare Dashboardで作成した Named Tunnel の Token を入力してください。
※Tokenは入力時に非表示になります。
""")
    TUNNEL_TOKEN = getpass.getpass("Cloudflare Tunnel Token: ")

if not TUNNEL_TOKEN:
    raise ValueError("Cloudflare Tunnel Tokenが入力されていません")
print("\n[OK] Tunnel Token取得完了")

# 10. Cloudflare Named Tunnel起動
print("\n" + "=" * 70 + "\n10. Cloudflare Named Tunnel起動\n" + "=" * 70)
print("Cloudflare Tunnelを起動しています...")
tunnel_process = subprocess.Popen(["cloudflared", "tunnel", "run", "--token", TUNNEL_TOKEN], stdout=subprocess.PIPE, stderr=subprocess.STDOUT, text=True)
time.sleep(10)
if tunnel_process.poll() is not None:
    print("[エラー] Cloudflare Tunnelが終了しました")
    raise RuntimeError("Cloudflare Named Tunnelの起動に失敗しました")
print("[OK] Cloudflare Named Tunnelプロセス起動")

# 11. 外部API接続診断
print("\n" + "=" * 70 + "\n11. 外部API接続診断\n" + "=" * 70)
print("接続先:", PUBLIC_URL)

def check_endpoint(name, method, endpoint, **kwargs):
    print(f"\n[{name}]")
    try:
        if method == "GET":
            res = requests.get(endpoint, timeout=60, **kwargs)
        else:
            res = requests.post(endpoint, timeout=300, **kwargs)
        print("HTTP Status:", res.status_code)
        print("Server:", res.headers.get("server"))
        if res.status_code != 200:
            print("Response:", res.text[:1000])
            return False
        print(f"[OK] {name}")
        return True
    except Exception as e:
        print(f"[エラー] {name}:", e)
        return False

local_ok = check_endpoint("1. Colab内 Ollama API", "GET", f"{OLLAMA_LOCAL_URL}/api/tags")
local_v1_ok = check_endpoint("2. Colab内 OpenAI互換API", "GET", f"{OLLAMA_LOCAL_URL}/v1/models")
external_models_ok = check_endpoint("3. Cloudflare経由 OpenAI /v1/models", "GET", f"{PUBLIC_URL}/v1/models")
external_chat_ok = check_endpoint("4. Cloudflare経由 Chat Completion", "POST", f"{PUBLIC_URL}/v1/chat/completions", json={"model": MODEL, "messages": [{"role": "user", "content": "こんにちは。日本語で一言だけ返してください。"}], "stream": False})

# 12. 最終結果
print("\n" + "=" * 70 + "\n■ 最終診断結果\n" + "=" * 70)
print("Local Ollama API:", "OK" if local_ok else "FAIL")
print("Local OpenAI API:", "OK" if local_v1_ok else "FAIL")
print("Cloudflare /v1/models:", "OK" if external_models_ok else "FAIL")
print("Cloudflare Chat API:", "OK" if external_chat_ok else "FAIL")

# 13. 接続情報
if local_ok and local_v1_ok and external_models_ok and external_chat_ok:
    print("\n" + "=" * 70 + "\n[成功] 全ての診断に成功しました\n" + "=" * 70)
    print(f"\n【OpenAI互換API】\nBase URL: {PUBLIC_URL}/v1\nModel: {MODEL}\nAPI Key: ollama")
    print(f"\n【Ollama API】\nBase URL: {PUBLIC_URL}")
    print(f"\n【Claude Code / Anthropic互換】\nBase URL: {PUBLIC_URL}\nAuth Token: ollama")
else:
    print("\n" + "=" * 70 + "\n[注意] 一部の診断に失敗しました\n" + "=" * 70)
    print("""
確認項目：
1. Cloudflare Named TunnelがRunningになっているか
2. Public Hostnameが設定されているか (Service: http://127.0.0.1:11434)
3. PUBLIC_URLが正しいドメインになっているか
4. Cloudflare Tunnel Tokenが正しいか
""")

# 14. Colab終了防止用メッセージ
print("\n" + "=" * 70 + "\n[重要]\n" + "=" * 70)
print("""
このColabセッションを終了すると、Ollama -> Qwen3.5 9B -> Cloudflare Tunnel の全てが停止します。
バックアップAIとして使用中は、このColabセッションを実行したままにしてください。
""")