4. Bí Quyết Tối Ưu Prompt Caching Của Anthropic: Tiết Kiệm 75-90% Chi Phí Kho Tri Thức

import anthropic

client = anthropic.Anthropic()

# Đặt Cache Breakpoint tại khối tài liệu dài 100,000 token
response = client.messages.create(
    model="claude-3-7-sonnet-20250219",
    max_tokens=2048,
    system=[
        {
            "type": "text",
            "text": "Bạn là Chuyên gia Cố vấn Pháp lý Doanh nghiệp của AI Tinh Gọn."
        },
        {
            "type": "text",
            "text": "[NỘI DUNG 200 TRANG VĂN BẢN PHÁP LUẬT VÀ QUY CHẾ ĐẤU THẦU DOANH NGHIỆP...]",
            "cache_control": {"type": "ephemeral"} # CACHE TOÀN BỘ KHỐI NÀY
        }
    ],
    messages=[
        {"role": "user", "content": "Tóm tắt 3 điều khoản về phạt vi phạm hợp đồng trong văn bản trên."}
    ]
)

print(f"Tokens được đọc từ Cache: {response.usage.cache_read_input_tokens}")
print(f"Tokens được ghi mới vào Cache: {response.usage.cache_creation_input_tokens}")