api_cost/api_cost.yaml

# OpenAI
# https://openai.com/pricing

GPT_4_32K:
  in: 0.06
  out: 0.12
GPT_4:
  in: 0.03
  out: 0.06
GPT_4_TURBO:
  in: 0.01
  out: 0.03
GPT_3_5_INSTRUCT:
  in: 0.0015
  out: 0.0020
GPT_3_5:
  in: 0.0010
  out: 0.0020

# Azure
AZURE_GPT_4_32K:
  in: 0.06
  out: 0.12
AZURE_GPT_4:
  in: 0.03
  out: 0.06
AZURE_GPT_4_TURBO:
  in: 0.01
  out: 0.03
AZURE_GPT_3_5_INSTRUCT:
  in: 0.0015
  out: 0.0020
AZURE_GPT_3_5:
  in: 0.0010
  out: 0.0020


# Google Gemini
# https://ai.google.dev/pricing
GEMINI_PRO:
  in: 0.00025
  out: 0.0005


# Google PaLM 2 (text-bison, text-unicorn)
# https://cloud.google.com/vertex-ai/docs/generative-ai/pricing
PALM2_TU_1:
  in: 0.00025
  out: 0.00020
PALM2_TB_1:
  in: 0.00025
  out: 0.0005
PALM2_TB_2:
  in: 0.00025
  out: 0.0005


# Mistral AI 
# https://docs.mistral.ai/platform/pricing/
MISTRAL_MEDIUM:
  in: 0.00250
  out: 0.00750
MISTRAL_SMALL:
  in: 0.00060
  out: 0.00180
MISTRAL_TINY:
  in: 0.00014
  out: 0.00042


################
# Local Models
################
LOCAL_MIXTRAL_8X7B_INSTRUCT_V01:
  in: 0.0
  out: 0.0
LOCAL_MISTRAL_7B_INSTRUCT_V02: 
  in: 0.0
  out: 0.0
LOCAL_CPU_MISTRAL_7B_INSTRUCT_V02_GGUF:
  in: 0.0
  out: 0.0