Simon (Yu Ma)
Posts Categories Books Links
Simon (Yu Ma)

使用Vercel反向代理Google PaLM(Gemini) API

 收录于  类别 杂技浅尝
     约 550 字   预计阅读 3 分钟    次阅读     条评论  

Google 这些天开放了Gemini Pro的 API Token申请通道， 并且免费开放给开发者使用。根据谷歌官网价格显示，免费版本每分钟最多可支持60次API访问，足以满足个人学习使用。

但是Google PaLM API仅允许美国使用，我国境内是无法直接使用的。 因此解决方案与OpenAI类似，使用Vercel Edge进行反向代理。 如果你在调用API后返回异常User location is not supported for the API use.，说明你需要此项目

Google AI Studio: https://makersuite.google.com/app/apikey

Gemini首页: https://ai.google.dev

具体的申请步骤这里不敖述，如果大家不太会，可以留言，专门开个文章来写。

警告
此项目可能会被Vercel官方禁止部署或封禁账号，根据个人情况酌情使用。当前PaLM On Netlify Proxy已经可用!
https://simonmy.com/posts/使用netlify反向代理google-palm-api.html

开源地址：antergone/palm-proxy

点击 Vercel 按钮即可一键部署

Google原生API：

shell


curl https://generativelanguage.googleapis.com/v1/models/gemini-pro:generateContent?key={YOUR_KEY} \
   -H 'Content-Type: application/json' \
   -X POST \
   -d '{ "contents":[
   { "parts":[{"text": "Hi"}]}
   ]
}'

curl https://https://generativelanguage.googleapis.com/v1/models/gemini-pro:streamGenerateContent?key={YOUR_KEY}&alt=sse \
   -H 'Content-Type: application/json' \
   --no-buffer \
   -d '{ "contents":[
         {"role": "user",
            "parts":[{"text": "Hi"}]
         }
         ]
      }' > response.json

替换Vercel域名或自定义域名:

shell

curl https://{YOUR_DOMAIN}/v1/models/gemini-pro:generateContent?key={YOUR_KEY} \
   -H 'Content-Type: application/json' \
   -X POST \
   -d '{ "contents":[
   { "parts":[{"text": "Hi"}]}
   ]
}'

curl https://{YOUR_DOMAIN}/v1/models/gemini-pro:streamGenerateContent?key={YOUR_KEY}&alt=sse \
   -H 'Content-Type: application/json' \
   --no-buffer \
   -d '{ "contents":[
         {"role": "user",
            "parts":[{"text": "Hi"}]
         }
         ]
      }' > response.json

Google Gemini API Doc: https://ai.google.dev/docs
Google Gemini API Price: https://ai.google.dev/pricing
Vercel Edge Functions API: https://vercel.com/docs/functions/edge-functions/edge-functions-api
OpenAI Proxy: https://github.com/egoist/openai-proxy

更新于 2023-12-18 12:20
 | 主页