ఓపెన్‌కోడ్ AI గేట్‌వే: ఒక API ద్వారా అనేక LLMలను కనెక్ట్ చేయండి

ఓపెన్‌కోడ్ AI గేట్‌వే మీ టెర్మినల్ వర్క్‌ఫ్లో మరియు మీరు వాడాలనుకుంటున్న మోడల్స్ మధ్య ఒక స్థిరమైన API లేయర్‌ను అందిస్తుంది. మీరు వేర్వేరు ప్రొవైడర్ కీలు, వేర్వేరు బిల్లింగ్ పేజీలు, మరియు వేర్వేరు అందుబాటు ప్రమాదాలను నిర్వహిస్తుంటే, ఆ అదనపు లేయర్ ఓపెన్‌కోడ్‌ను రోజువారీగా నిర్వహించడం చాలా సులభం చేస్తుంది.

ShareAI ఆ పాత్రను బాగా సరిపోతుంది ఎందుకంటే ఇది 150+ మోడల్స్ కోసం ఒక APIని అందిస్తుంది, అలాగే స్మార్ట్ రౌటింగ్, ఫెయిలోవర్, మరియు మార్కెట్‌ప్లేస్ విజిబిలిటీని అందిస్తుంది. ఓపెన్‌కోడ్ ఇప్పటికే కస్టమ్ OpenAI-కంపాటిబుల్ ప్రొవైడర్లను మద్దతు ఇస్తుంది, కాబట్టి సెటప్ ఎక్కువగా ఓపెన్‌కోడ్‌ను సరైన బేస్ URL వద్ద చూపించడం మరియు మీరు వాడాలనుకుంటున్న మోడల్‌ను జోడించడం గురించి ఉంటుంది.

ఈ గైడ్ మా భాగం డెవలపర్లు AI రౌటింగ్, మోడల్ యాక్సెస్, మరియు ప్రొడక్షన్-రెడీ ఇంటిగ్రేషన్స్ పై వ్యాసాలు.

మొదట ఓపెన్‌కోడ్ AI గేట్‌వేను ఎందుకు ఉపయోగించాలి?

ఓపెన్‌కోడ్ అనేక ప్రొవైడర్లతో పని చేయడానికి రూపొందించబడింది, మరియు దాని పబ్లిక్ డాక్స్ కస్టమ్ ప్రొవైడర్ కాన్ఫిగరేషన్, కస్టమ్ baseURL విలువలు, మరియు OpenAI-కంపాటిబుల్ ఎండ్‌పాయింట్లకు మద్దతు చూపుతాయి. ఆ సౌలభ్యం శక్తివంతమైనది, కానీ ఇది మీరు నిజంగా కోరుకునేది ఒక శుభ్రమైన కోడింగ్ వర్క్‌ఫ్లో మాత్రమే ఉన్నప్పుడు ప్రతి ప్రొవైడర్‌ను వేర్వేరు నిర్వహించడంలో ముగుస్తుంది.

• ప్రతి మోడల్ వెండర్‌కు ఒక కీ బదులుగా ఒక API కీ.
• అనేక డాష్‌బోర్డ్‌ల బదులుగా ఒక బిల్లింగ్ సర్ఫేస్.
• వేగవంతమైన ఎడిట్లు, దీర్ఘ-కాంటెక్స్ట్ పనులు, లేదా భారీ రిఫాక్టర్ల కోసం మోడల్స్ మధ్య శుభ్రమైన మార్పు.
• ఒక ప్రొవైడర్ నెమ్మదిగా ఉన్నప్పుడు, అందుబాటులో లేకపోయినప్పుడు, లేదా పని కోసం ఉత్తమమైనది ఇకపై కాకపోయినప్పుడు సహాయపడగల రౌటింగ్ లేయర్.

వేర్వేరు ప్రొవైడర్ ప్లంబింగ్‌ను నిర్వహించకుండా సౌలభ్యాన్ని కోరుకునే డెవలపర్లకు, సాధారణంగా AI గేట్‌వే స్వయంగా చెల్లించుకునే స్థాయికి చేరుకుంటుంది.

ఈ సెటప్‌ను ఓపెన్‌కోడ్ ఎలా మద్దతు ఇస్తుంది

అధికారిక ప్రకారం ఓపెన్‌కోడ్ ప్రొవైడర్ డాక్యుమెంటేషన్, మీరు ప్రొవైడర్ సెట్టింగులను అనుకూలీకరించవచ్చు opencode.json, అనుకూలమైనది సెట్ చేయండి baseURL, మరియు ఉపయోగించండి @ai-sdk/openai-compatible OpenAI-సరిపోలే ప్రొవైడర్ల కోసం. పబ్లిక్ ఓపెన్‌కోడ్ GitHub రిపోజిటరీ దాని కాన్ఫిగరేషన్ మార్గాలను డాక్యుమెంట్ చేస్తుంది మరియు ఈ సాధనం ప్రొవైడర్-స్థాయి అనుకూలత కోసం నిర్మించబడిందని నిర్ధారిస్తుంది.

అంటే మీరు ప్రారంభించడానికి ప్రత్యేకమైన ShareAI ఇంటిగ్రేషన్ ప్యాకేజీ అవసరం లేదు. మీరు ShareAIని అనుకూల ప్రొవైడర్‌గా జోడించవచ్చు, మీ API కీని ఎన్విరాన్‌మెంట్ వేరియబుల్‌లో ఉంచవచ్చు, మరియు ఓపెన్‌కోడ్ కాల్ చేయాలనుకునే ఖచ్చితమైన మోడల్‌ను ఎంచుకోవచ్చు.

దశ 1: మీ ShareAI API కీని సృష్టించండి మరియు ఒక మోడల్‌ను ఎంచుకోండి

ప్రారంభించండి API కీని సృష్టించండి. లో క్రెడెన్షియల్స్‌ను జనరేట్ చేయడం ద్వారా. తరువాత ShareAI మోడల్ మార్కెట్‌ప్లేస్ బ్రౌజ్ చేయండి.

ఓపెన్‌కోడ్ వర్క్‌ఫ్లోకు మద్దతు ఇవ్వడానికి ఏ మోడల్ ఉండాలో నిర్ణయించడానికి.

దశ 2: ShareAIని opencode.jsonలో కస్టమ్ ప్రొవైడర్‌గా జోడించండి

OpenCode మీకు OpenAI-సరిపోలే ఎండ్‌పాయింట్‌తో కస్టమ్ ప్రొవైడర్‌ను నిర్వచించడానికి అనుమతిస్తుంది. ఒక సరళమైన ప్రారంభ టెంప్లేట్ ఇలా ఉంటుంది:

{
  "$schema": "https://opencode.ai/config.json",
  "provider": {
    "shareai": {
      "npm": "@ai-sdk/openai-compatible",
      "name": "ShareAI",
      "options": {
        "baseURL": "https://api.shareai.now/v1",
        "apiKey": "{env:SHAREAI_API_KEY}"
      },
      "models": {
        "your-shareai-model": {
          "name": "Choose a ShareAI model"
        }
      }
    }
  }
}

మార్చండి మీ-షేర్‌ఏఐ-మోడల్ మీరు ఉపయోగించదలచిన ShareAI మోడల్ క్యాటలాగ్ నుండి ఖచ్చితమైన మోడల్ గుర్తింపును ఉపయోగించండి. API కీని ఫైల్‌లో ఉంచకుండా, దానిని పర్యావరణ వేరియబుల్ ద్వారా లోడ్ చేయండి.

export SHAREAI_API_KEY="your_api_key_here"

మీరు విస్తృతమైన అభ్యర్థన ఫార్మాట్ మరియు ధృవీకరణ వివరాలను కోరుకుంటే, API రిఫరెన్స్ ShareAI API యొక్క ప్రధాన ప్రవాహాన్ని కవర్ చేస్తుంది.

దశ 3: మీ సెటప్‌ను తిరిగి నిర్మించకుండా మోడల్స్‌ను మార్చండి

ShareAI ప్రొవైడర్ లేయర్‌గా ఉన్నప్పుడు, మోడల్ మార్పులు చాలా తేలికగా మారతాయి. మీరు వేండర్ ఆథ్‌ను ప్రతి సారి కొత్త మోడల్‌ను పరీక్షించాలనుకుంటే తిరిగి పని చేయడం అవసరం లేదు. బదులుగా, మీరు అదే API ఉపరితలాన్ని ఉంచి OpenCodeను మీరు సూచించే మోడల్‌ను మార్చండి.

ఇది ముఖ్యంగా మీ కోడింగ్ వర్క్‌ఫ్లో టాస్క్ ద్వారా మారినప్పుడు ఉపయోగకరంగా ఉంటుంది. మీరు త్వరిత ఎడిట్ల కోసం ఒక మోడల్, పెద్ద రిపో రీజనింగ్ కోసం మరొకటి, మరియు ఖర్చు లేదా లేటెన్సీ పీక సామర్థ్యానికి కంటే ఎక్కువ ప్రాముఖ్యత కలిగినప్పుడు మూడవది కావాలనుకుంటారు. మీరు ఎంపికలను పోల్చవచ్చు మోడల్ మార్కెట్‌ప్లేస్ మరియు ప్రవర్తనను సానిటీ-చెక్ చేయవచ్చు ప్లేగ్రౌండ్ మీరు డిఫాల్ట్‌ను లాక్ చేయడానికి ముందు.

నేరుగా ప్రొవైడర్ కీలు ఇంకా అర్థవంతంగా ఉన్నప్పుడు

నేరుగా వెళ్లడం సమంజసమైన కొన్ని సందర్భాలు ఇంకా ఉన్నాయి. మీరు ప్రొవైడర్-స్పెసిఫిక్ బీటా ఫీచర్, ప్రైవేట్ ఎంటర్‌ప్రైజ్ ఒప్పందం, లేదా కఠినమైన ఇన్-ప్రొవైడర్ గవర్నెన్స్ సెటప్‌పై ఆధారపడితే, మీరు ఆ మార్గాన్ని వేరు ఉంచుకోవాలనుకోవచ్చు.

కానీ OpenCode ను అనువుగా, పోర్టబుల్ గా మరియు సులభంగా నిర్వహించగలిగేలా ఉంచాలని ప్రధానంగా కోరుకునే టీమ్‌ల కోసం, OpenCode AI గేట్‌వేను ఉపయోగించడం తరచుగా శుభ్రమైన డిఫాల్ట్. ఇది ఖాతా వ్యాప్తిని తగ్గిస్తుంది మరియు మీరు చివరిసారిగా ఏ విక్రేత లాగిన్‌ను కాన్ఫిగర్ చేసారో కాకుండా పనితీరు మరియు సరిపోలింపు పై మోడల్స్‌ను అంచనా వేయడానికి అనుమతిస్తుంది.

తుది సారాంశం

OpenCode AI గేట్‌వే అనేది అదనపు టూలింగ్‌ను జోడించడం గురించి కాదు. ఇది ఒక కోడింగ్ వర్క్‌ఫ్లోను కొనసాగించడంపై మరియు మోడల్స్‌ను మార్చడానికి, ప్రొవైడర్లను సరిపోల్చడానికి మరియు ఆధారమైన మోడల్ ల్యాండ్‌స్కేప్ మారినప్పుడు ముందుకు సాగడానికి మీకు స్థలం ఇవ్వడం గురించి. OpenCode నుండి మీరు కోరుకునేది అదే అయితే, ShareAI మీకు ఒక API ద్వారా దీన్ని చేయడానికి ఒక ప్రాక్టికల్ మార్గాన్ని ఇస్తుంది.