ఈరోజు నిర్వహించబడే సరిహద్దు మోడల్లలో ఏజెంట్లను అమలు చేయండి-లేదా GPU సామర్థ్యాన్ని అద్దెకు తీసుకోండి, మీ స్వంత బరువులను అమర్చండి మరియు అదే వర్క్స్పేస్లోని ప్రైవేట్ ఎండ్ పాయింట్లకు డిజియో టాస్క్లను రూట్ చేయండి.
ప్రతి ఏజెంట్కు డిఫాల్ట్ మోడల్ను కేటాయించండి లేదా ప్రతి టాస్క్ను భర్తీ చేయండి. మీ ప్లాన్ బ్యాలెన్స్ నుండి డిజియో టోకెన్లలో వినియోగం గణించబడుతుంది—ఏజెంట్ Sonnet, GPT-4o లేదా Gemini Flashకి కాల్ చేసినా అదే వాలెట్.
Model list and token economics evolve with provider releases. Your workspace shows live options when you assign a model to an agent; Digio Tokens debit from the same balance as in pricing.
కోఆర్డినేటర్ టాస్క్ రకం ఆధారంగా సొనెట్ vs ఓపస్ vs చౌకైన ఫ్లాష్ మోడల్ని సిఫార్సు చేయవచ్చు. పవర్ యూజర్లు ప్రతి ఏజెంట్ పాత్రకు డిఫాల్ట్లను సెట్ చేస్తారు-సోనెట్లో పరిశోధన, ఓపస్లో తుది సమీక్ష, హైకు లేదా జెమినీ ఫ్లాష్లో బల్క్ ట్యాగింగ్.
Per agent — default model in agent settings; override in To do or chat when needed.
Metered fairly — input, output, and cached tokens map to Digio Token charges (see usage in your wallet).
Skills stay the same — tools and integrations work across models; only latency and cost profile change.
Plan limits — more agents and monthly Digio Tokens on higher tiers; top up anytime on the pricing page.
ఫైన్-ట్యూన్, ఎయిర్-గ్యాప్డ్ చెక్పాయింట్ లేదా ఊహించదగిన అనుమితి ధర కావాలా? మీ డిజియో వర్క్స్పేస్కు అంకితమైన GPU సామర్థ్యాన్ని జోడించండి, మీరు ఇష్టపడే సర్వింగ్ స్టాక్ను ఇన్స్టాల్ చేయండి మరియు మీ ప్రైవేట్ ఎండ్పాయింట్లో పాయింట్ ఏజెంట్లను జోడించండి.
మీ అద్దెదారుకు గంట లేదా నెలవారీ GPU నోడ్లు (A100, H100, L40S క్లాస్) జోడించబడ్డాయి—ఇతర కస్టమర్ల నుండి వేరుచేయబడి ఉంటాయి.
సేఫ్టెన్సర్లు, GGUF అప్లోడ్ చేయండి లేదా మీ రిజిస్ట్రీ నుండి లాగండి; లామా, మిస్ట్రాల్, క్వెన్ మరియు కస్టమ్ ఫైన్-ట్యూన్లను అమలు చేయండి.
vLLM, TGI, Ollama లేదా మీరు నిర్వహించే కంటైనర్ చిత్రాలు—Digio ఏజెంట్లు OpenAI-అనుకూల బేస్ URLని కాల్ చేస్తారు.
చేయడానికి, టీమ్ చాట్, నైపుణ్యాలు మరియు సహకారం మారదు-అనుమితి బ్యాకెండ్ మాత్రమే మీదే.
ప్రైవేట్ GPUకి సున్నితమైన దశలను పంపండి మరియు ఒక వర్క్ఫ్లో పబ్లిక్ పరిశోధన కోసం క్లాడ్ లేదా GPTని ఉపయోగించండి.
VPC పీరింగ్, స్టాటిక్ ఎగ్రెస్, ఆడిట్ లాగ్లు మరియు నియంత్రిత బృందాల కోసం మోడల్ అనుమతి జాబితాలు.
మీ ఎండ్పాయింట్కి కాల్ చేసే సున్నా నుండి ఏజెంట్ల వరకు సాధారణ సెటప్:
VRAM, ప్రాంతం మరియు సమయ సమయాన్ని ఎంచుకోండి (బర్స్ట్ vs ఎల్లప్పుడూ ఆన్లో ఉంటుంది). మీ బకెట్ను ఇన్స్టాన్స్తో లేదా మౌంట్తో బరువుల కోసం నిల్వ చేయండి.
లో సర్వింగ్ ఇమేజ్ లేదా SSH ప్రారంభించండి, CUDA డ్రైవర్లను ఇన్స్టాల్ చేయండి మరియు చెక్పాయింట్లను లోడ్ చేయండి. మోడల్ సిద్ధంగా ఉందని ఆరోగ్య తనిఖీలు నిర్ధారిస్తాయి.
వర్క్స్పేస్ సెట్టింగ్లలో బేస్ URL, API కీ మరియు మోడల్ ఐడిని జోడించండి. ప్రత్యక్ష ప్రసారం చేయడానికి ముందు డిజియో జాప్యం మరియు టోకెన్ ఆకృతిని ధృవీకరిస్తుంది.
ఎంచుకున్న ఏజెంట్ల కోసం మీ ప్రైవేట్ మోడల్ని డిఫాల్ట్గా ఎంచుకోండి; నిర్వహించబడే క్లాడ్/GPT మోడల్లు పక్కపక్కనే అందుబాటులో ఉంటాయి.
GPU అద్దె డిజియో ప్లాన్ సబ్స్క్రిప్షన్ల నుండి విడిగా బిల్ చేయబడుతుంది. ఇప్పటికే ఉన్న అనుమితి క్లస్టర్ నుండి కెపాసిటీ ప్లానింగ్, SLAలు మరియు మైగ్రేషన్ కోసం మమ్మల్ని సంప్రదించండి.
డిజియోలో నిర్వహించబడే APIలు vs స్వీయ-హోస్ట్ చేసిన అనుమితిని ఎంచుకోవడం.
మీ డిజియో సబ్స్క్రిప్షన్ ఇన్ఫ్రాస్ట్రక్చర్, ఏజెంట్లు మరియు డిజియో టోకెన్లను కవర్ చేస్తుంది. వాస్తవ ఇన్పుట్/అవుట్పుట్ టోకెన్ల ద్వారా టోకెన్ బ్యాలెన్స్ని నిర్వహించే మోడల్ యూసేజ్ డెబిట్లు. GPU రెంటల్ అనేది మీరు నియంత్రించే మెషీన్ల కోసం ఒక యాడ్-ఆన్.
అవును-ప్రతి ఏజెంట్ దాని స్వంత డిఫాల్ట్ని కలిగి ఉండవచ్చు. గ్లోబల్ డిఫాల్ట్ని మార్చకుండా టాస్క్లు మరియు చాట్లు ఒక్క పరుగు కోసం ఓవర్రైడ్ చేయగలవు.
ఓపస్ కఠినమైన తార్కికం మరియు పొడవైన పొందికైన ప్రణాళికల కోసం ట్యూన్ చేయబడింది; రోజువారీ ఏజెంట్ లూప్ల కోసం సొనెట్ వేగంగా మరియు చౌకగా ఉంటుంది. హైకూ మరియు ఫ్లాష్-క్లాస్ మోడల్లు వాల్యూమ్ సబ్టాస్క్లకు ఉత్తమమైనవి.
ఎంటర్ప్రైజ్ వర్క్స్పేస్లు అవుట్బౌండ్ మోడల్ ప్రొవైడర్లను నియంత్రిస్తాయి మరియు మీ GPU ఎండ్పాయింట్కు ఏజెంట్ ట్రాఫిక్ను మొత్తం రూట్ చేయగలవు. చాలా జట్లకు హైబ్రిడ్ మోడ్ డిఫాల్ట్.
ఆఫర్లు ప్రాంతం మరియు డిమాండ్పై ఆధారపడి ఉంటాయి-సాధారణంగా 7B–70B క్లాస్ మోడల్లకు 24–80 GB VRAM టైర్లు మరియు పెద్ద స్టాక్ల కోసం బహుళ-GPU నోడ్లు. మేము మీ పారామీటర్ కౌంట్ మరియు పరిమాణీకరణ నుండి పరిమాణం VRAMకి సహాయం చేస్తాము.
ఆర్కెస్ట్రేషన్ (ఏజెంట్లు, టాస్క్లు, నిల్వ) మీ ప్లాన్లో ఉంటుంది. మీ GPUపై అనుమానం GPU సమయంగా బిల్ చేయబడుతుంది; అంతర్గత ఛార్జ్బ్యాక్ కోసం మీరు ఐచ్ఛికంగా టోకెన్ ఆకారపు వినియోగాన్ని మీటర్ చేయవచ్చు.
ఏజెంట్లు, టాస్క్లు మరియు నైపుణ్యాలు—మీరు ఎంచుకున్న మోడల్ చుట్టూ ఉన్న కార్యస్థలం.
ఈరోజే క్లాడ్ మరియు GPTలో ప్రారంభించండి, ఆపై మీరు అనుకూల బరువులను హోస్ట్ చేయడానికి సిద్ధంగా ఉన్నప్పుడు అంకితమైన GPUని జోడించండి-అదే ఏజెంట్లు, అదే పనులు, మీ అనుమితి.
