Open WebUI ఇన్స్టాలేషన్ మరియు OmniProxy కాన్ఫిగరేషన్
ఒకే చాట్ విండోలో లోకల్ మరియు క్లౌడ్ మోడల్స్ను ఉపయోగించాలనుకుంటున్నారా, కానీ డిప్లాయ్మెంట్ మరియు కనెక్షన్ సెటప్ చాలా క్లిష్టంగా ఉంటుందని ఆందోళన చెందుతున్నారా? Open WebUI సుపరిచితమైన చాట్ ఇంటర్ఫేస్ను అందిస్తుంది. ఇన్స్టాల్ చేసిన తర్వాత, మీరు దశలవారీగా కనెక్షన్ వివరాలను నమోదు చేయడం ద్వారా దీన్ని ఉపయోగించడం ప్రారంభించవచ్చు.
Open WebUI అనేది సెల్ఫ్-హోస్టెడ్ చాట్ ఇంటర్ఫేస్, దీన్ని మీ స్వంత కంప్యూటర్ లేదా సర్వర్లో ఇన్స్టాల్ చేయవచ్చు మరియు పూర్తిగా ఆఫ్లైన్లో కూడా రన్ చేయవచ్చు. ఇది ఏ ఒక్క మోడల్ ప్రొవైడర్కు కట్టుబడి ఉండదు: ఇది మోడల్స్ను స్థానికంగా రన్ చేసే Ollama వంటి టూల్స్కు, అలాగే OpenAI-కంపాటబుల్ ఎండ్పాయింట్లకు—అదే అభ్యర్థన ఫార్మాట్ను ఉపయోగించి మోడల్ సర్వీస్లను అందించే చిరునామాలకు—కనెక్ట్ చేయగలదు. ఇది ఒకే విండోలో లోకల్ మరియు క్లౌడ్ మోడల్స్ మధ్య మారడానికి మిమ్మల్ని అనుమతిస్తుంది.
ఇది టీమ్లు మరియు సంస్థల దీర్ఘకాలిక ఉపయోగం కోసం అనుకూలంగా ఉంటుంది. వేగవంతమైన అప్డేట్లను పొందే సామర్థ్యాలు మొదట Computerలో కనిపిస్తాయి, ఇది కొత్త ఫీచర్లను ప్రయత్నించడానికి Open WebUI ఉపయోగించే ఉత్పత్తి.
ప్రారంభించే ముందు
Open WebUI macOS, Linux మరియు Windowsలలో అందుబాటులో ఉంది. మీరు దీన్ని Docker, Python, లేదా Kubernetes ఉపయోగించి ఇన్స్టాల్ చేయవచ్చు. Docker అప్లికేషన్ను మరియు దాని రన్టైమ్ ఎన్విరాన్మెంట్ను సాపేక్షంగా ఐసోలేటెడ్ కంటైనర్లో ప్యాక్ చేస్తుంది మరియు ఇది సిఫార్సు చేయబడిన పద్ధతి. Docker అందుబాటులో లేకపోతే, మీరు కింద పరీక్షించిన Python కమాండ్ను కూడా ఉపయోగించవచ్చు. Kubernetes అనేది కంటైనర్లను డిప్లాయ్ చేయడానికి మరియు నిర్వహించడానికి ఒక సిస్టమ్; సంబంధిత దశల కోసం ఈ గైడ్ చివరలో లింక్ చేయబడిన క్విక్ స్టార్ట్ను చూడండి.
అధికారికంగా సిఫార్సు చేయబడింది
Docker
- ఒక docker run కమాండ్
- బ్రౌజర్లో 3000ని తెరవండి
- డేటా వాల్యూమ్లో నిల్వ చేయబడుతుంది
కేవలం చాట్ చేయాలనుకుంటున్నాను
slim ఇమేజ్
- చిన్న డౌన్లోడ్ పరిమాణం
- ట్యాగ్ను :slimకి మార్చండి
- చాట్ ఫంక్షనాలిటీ అందుబాటులో ఉంటుంది
ఇక్కడ కవర్ చేయబడలేదు
మరో రెండు ఎంపికలు
- మాన్యువల్ Python ఇన్స్టాలేషన్
- Kubernetes డిప్లాయ్మెంట్
- అధికారిక క్విక్ స్టార్ట్ చూడండి
ప్రారంభించే ముందు, కింది వాటిని సిద్ధం చేసుకోండి:
- Docker ఇన్స్టాల్ చేయబడి రన్ అవుతోంది.
- మీ ద్వారా మాత్రమే ఉపయోగించబడే ఒక సీక్రెట్ స్ట్రింగ్. ఒకదాన్ని రూపొందించడానికి
openssl rand -hex 32ని రన్ చేయండి, ఆపై దాన్నిWEBUI_SECRET_KEYగా నమోదు చేయండి. ఈ విలువను శాశ్వతంగా సేవ్ చేయండి. కంటైనర్ను రీబిల్డ్ చేసేటప్పుడు మీరు దీన్ని మార్చితే, ఇప్పటికే సైన్ ఇన్ అయిన వినియోగదారులు సైన్ అవుట్ చేయబడతారు. - రన్ అవుతున్న OmniProxy ఇన్స్టాన్స్ మరియు దాని ప్రస్తుత మోడల్ జాబితా నుండి ఒక మోడల్ ID. మోడల్ ID అనేది ఒక నిర్దిష్ట మోడల్ను ఎంచుకోవడానికి ఉపయోగించే పూర్తి పేరు.
మొదటిసారి ఇన్స్టాల్ చేసి ప్రారంభించడం
టెర్మినల్ను తెరిచి క్విక్ స్టార్ట్ నుండి కమాండ్ను రన్ చేయండి. ముందుగా your-secret-keyని మీరు ఇప్పుడే రూపొందించిన సీక్రెట్తో భర్తీ చేయండి:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main
ఈ కమాండ్లోని కింది భాగాలు వేర్వేరు ప్రయోజనాలను కలిగి ఉంటాయి:
-p 3000:8080: ఈ కంప్యూటర్లో పోర్ట్ 3000 ద్వారా ఇంటర్ఫేస్ను తెరవడానికి మిమ్మల్ని అనుమతిస్తుంది. పోర్ట్ 3000 ఇప్పటికే వాడుకలో ఉంటే, ఎడమవైపు ఉన్న సంఖ్యను మార్చండి.-v open-webui:/app/backend/data: చాట్లు, వినియోగదారులు మరియు సెట్టింగ్లను డేటా వాల్యూమ్లో నిల్వ చేస్తుంది. డేటా వాల్యూమ్ అనేది కంటైనర్ వెలుపల ఉండే లొకేషన్, అక్కడ డేటా దీర్ఘకాలం నిల్వ ఉంటుంది, కాబట్టి కంటైనర్ అప్డేట్ అయిన తర్వాత కూడా దాని కంటెంట్ అలాగే ఉంటుంది. ఈ ఆప్షన్ను తొలగించవద్దు.--add-host=host.docker.internal:host-gateway: కంటైనర్ ఈ కంప్యూటర్లో రన్ అవుతున్న ఇతర సర్వీస్లను యాక్సెస్ చేయడానికి అనుమతిస్తుంది.--restart always: కంప్యూటర్ రీబూట్ అయిన తర్వాత కంటైనర్ను మళ్లీ ప్రారంభిస్తుంది.
కమాండ్ పూర్తయిన తర్వాత, బ్రౌజర్లో http://localhost:3000ని తెరిచి, మొదటి ఖాతాను సృష్టించడానికి స్క్రీన్పై ఉన్న సూచనలను అనుసరించండి.
మీకు కేవలం API ద్వారా చాట్ మాత్రమే అవసరమైతే, మీరు ఇమేజ్ ట్యాగ్ను :main నుండి :slimకి మార్చవచ్చు. slim అనేది చిన్న ఇమేజ్, ఇది కంటైనర్ లోపల లోకల్ స్పీచ్ మరియు ఎంబెడ్డింగ్ మోడల్స్ను కలిగి ఉండదు, కానీ చాట్ ఇంటర్ఫేస్ అందుబాటులో ఉంటుంది. మీకు ఆ లోకల్ సామర్థ్యాలు అవసరమైతే :mainని ఉపయోగించడం కొనసాగించండి.
మాన్యువల్ అప్డేట్ల కోసం, ముందుగా docker rm -f open-webuiని రన్ చేయండి, ఆపై docker pull ghcr.io/open-webui/open-webui:mainని రన్ చేయండి, మరియు అదే docker run కమాండ్తో దాన్ని రీస్టార్ట్ చేయండి. డేటా వాల్యూమ్ మరియు WEBUI_SECRET_KEY రెండింటినీ మార్చకుండా ఉంచండి.
Docker అందుబాటులో లేకపోతే
క్విక్ స్టార్ట్ Python ఇన్స్టాలేషన్ పద్ధతిని కూడా అందిస్తుంది. 2026-10-09న, Open WebUI v0.11.4ని ఇన్స్టాల్ చేయడానికి మరియు ఒక సంభాషణను పూర్తి చేయడానికి macOSలో కింది కమాండ్ ఉపయోగించబడింది. ఆ సమయంలో ఆ కంప్యూటర్లో Docker Desktop ఇన్స్టాల్ చేయబడలేదు.
DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve
ప్రారంభం తర్వాత, బ్రౌజర్లో http://localhost:8080ని తెరిచి చూడండి. ఇది Docker యొక్క పోర్ట్ 3000 కాదు, Python ఇన్స్టాలేషన్ ఉపయోగించే పోర్ట్.
మొదటి ప్రారంభ సమయంలో ఎంబెడ్డింగ్ మోడల్ డౌన్లోడ్ చేయబడుతుంది, దీనికి కొన్ని నిమిషాలు పట్టవచ్చు. ఎంబెడ్డింగ్ మోడల్ టెక్స్ట్ను వెతకడానికి మరియు మ్యాచ్ చేయడానికి సులభమైన డేటాగా మారుస్తుంది. కొనసాగే ముందు సైన్-ఇన్ పేజీ కనిపించే వరకు వేచి ఉండండి. మొదటి రిజిస్టర్డ్ ఖాతా అడ్మినిస్ట్రేటర్ అవుతుంది. ఇంటర్ఫేస్ భాష సిస్టమ్ భాషను అనుసరిస్తుంది; ఈ పరీక్ష సమయంలో సరళీకృత చైనీస్ ప్రదర్శించబడింది.
DATA_DIR అనేది దీర్ఘకాలం నిల్వ ఉండే మరియు Open WebUI డేటాను నిల్వ చేయడానికి ఉపయోగించే డైరెక్టరీని సూచించాలి. ఇది సెట్ చేయబడకపోతే, డేటా తాత్కాలిక డైరెక్టరీలో నిల్వ చేయబడి షట్డౌన్ తర్వాత పోవచ్చు. WEBUI_SECRET_KEY సెట్ చేయబడకపోతే, ప్రోగ్రామ్ ప్రస్తుత డైరెక్టరీలో .webui_secret_keyని వ్రాస్తుంది. మీరు నిల్వ చేయాలనుకుంటున్న డైరెక్టరీ నుండి దీన్ని ప్రారంభించండి, లేదా ఈ వేరియబుల్ను మీరే సెట్ చేయండి.
OmniProxy నుండి కనెక్షన్ వివరాలను పొందడం
మీ స్వంత OmniProxy ఇన్స్టాన్స్ నుండి కింది మూడు అంశాలను కాపీ చేయండి:
URL: https://your-omniproxy-origin.example/v1
API Key: <YOUR_OMNIPROXY_API_KEY>
Model ID: Copy from the current OmniProxy model list
URL అనేది Open WebUI ఎండ్పాయింట్కు కనెక్ట్ చేయడానికి ఉపయోగించే చిరునామా మరియు ఇది తప్పనిసరిగా /v1తో ముగియాలి. దాని తర్వాత /chat/completionsని జోడించవద్దు; Open WebUI ఆ భాగాన్ని స్వయంచాలకంగా జోడిస్తుంది.
OmniProxy యొక్క ప్రస్తుత జాబితా నుండి పూర్తి మోడల్ IDని కాపీ చేయండి. IDలో సోర్స్ ప్రిఫిక్స్ మరియు స్లాష్ ఉంటే, వాటిని కూడా అలాగే ఉంచండి. కింది రెండు చిన్న పేర్లు 2026-10-09 నాటికి ప్రొవైడర్ డాక్యుమెంటేషన్ నుండి కేవలం రిఫరెన్స్లు మాత్రమే. అవి ప్రస్తుత జాబితాలో లేకపోతే వాటిని ఉపయోగించవద్దు:
- Claude Sonnet 5.5 కోసం Claude API ID:
claude-sonnet-5-5 - Gemini 3.8 Flash కోసం API పేరు:
gemini-3.8-flash
Open WebUIలో ప్రొవైడర్ కీని నమోదు చేయవద్దు. గేట్వే కీలను ధృవీకరించకపోతే, మరొక కీని కనిపెట్టే బదులు API కీని ఖాళీగా వదిలేయండి.
బ్రౌజర్
లోకల్ పోర్ట్ 3000
- చాట్ పేజీని తెరవండి
- ముందుగా రిజిస్ట్రేషన్ పూర్తి చేయండి
- తర్వాత సెట్టింగ్లను తెరవండి
కంటైనర్ లోపల
Open WebUI
- localhostని ఉపయోగించవద్దు
- దానికి బదులుగా హోస్ట్ మెషీన్ పేరును ఉపయోగించండి
- URL /v1తో ముగుస్తుంది
ఒకే కంప్యూటర్
OmniProxy
- కీని గేట్వేలో ఉంచండి
- గేట్వే యొక్క మోడల్ జాబితాను ఉపయోగించండి
- తర్వాత అభ్యర్థన లాగ్స్ను సమీక్షించండి
మోడల్ సర్వీస్ హోస్ట్లో రన్ అవుతున్నప్పుడు మరియు Open WebUI Docker కంటైనర్లో రన్ అవుతున్నప్పుడు, URLలోని localhostని host.docker.internalతో భర్తీ చేయండి. హోస్ట్ అనేది నేరుగా Dockerని రన్ చేసే కంప్యూటర్. OmniProxy ఈ కంప్యూటర్లో మాత్రమే వింటుంటే, URLని http://host.docker.internal:port/v1గా వ్రాయవచ్చు, portని OmniProxy నిజంగా ఉపయోగించే పోర్ట్తో భర్తీ చేయవచ్చు.
Open WebUI మునుపటి విభాగంలోని Python కమాండ్ ద్వారా స్థానికంగా రన్ అవుతుంటే మరియు OmniProxy కూడా స్థానికంగా రన్ అవుతుంటే, చిరునామాలో 127.0.0.1 లేదా localhostని ఉపయోగించండి. ఈ సందర్భంలో host.docker.internalని ఉపయోగించవద్దు.
కాన్ఫిగరేషన్ను నమోదు చేయడం
2026-10-09న పరీక్షించిన v0.11.4 యొక్క సరళీకృత చైనీస్ ఇంటర్ఫేస్లో, పేర్లు ఇంగ్లీష్ సూచనలలోని Settings > Admin > Connections కంటే భిన్నంగా ఉన్నాయి. పరీక్షించిన ఇంటర్ఫేస్లో చూపిన ఎంపికలను అనుసరించండి, కింద అనువదించబడ్డాయి:
- ఎడమ సైడ్బార్ను విస్తరించండి.
- దిగువన ఉన్న వినియోగదారు మెనుని క్లిక్ చేయండి.
- Settings క్లిక్ చేయండి.
- దిగువన ఉన్న అడ్మినిస్ట్రేటర్ విభాగంలో, External Connections క్లిక్ చేయండి.
- OpenAI APIని తెరవండి.
- Manage OpenAI API Connections కు కుడివైపున ఉన్న + క్లిక్ చేయండి.
- Edit Connection డైలాగ్లో,
/v1తో ముగిసే URLని నమోదు చేయండి. API రకాన్ని Chat Completionsకి సెట్ చేసి ఉంచండి. - Authentication Methodని **Key (Bearer)**కి సెట్ చేసి ఉంచండి. Bearer అథెంటికేషన్ గుర్తింపు ధృవీకరణ కోసం అభ్యర్థనలో API కీని ఉంచుతుంది. OmniProxy మీకు కీని ఇస్తే, దాన్ని API Key కింద నమోదు చేయండి. గేట్వే కీలను ధృవీకరించకపోతే, ఈ ఫీల్డ్ను ఖాళీగా వదిలేయండి. 2026-10-09న, ఫీల్డ్ను ఖాళీగా వదిలేయడం ద్వారా ధృవీకరణ మరియు ఒక సంభాషణ రెండూ విజయవంతమయ్యాయి.
- URL పక్కన ఉన్న Verify Connection క్లిక్ చేయండి. OmniProxy
/modelsని అందిస్తే, మోడల్ జాబితా ఇక్కడ తిరిగి పొందబడుతుంది. - Advancedని తెరవండి. Model ID ఖాళీగా ఉంటే, ఆ చిరునామాలో
/modelsద్వారా తిరిగి వచ్చిన అన్ని మోడల్స్ ఉపయోగించబడతాయి. ధృవీకరణ విఫలమైతే మాత్రమే, Add Model ID కింద జాబితా నుండి పూర్తి IDని నమోదు చేసి, ఆపై Add క్లిక్ చేయండి. ప్రతి IDని ఒక్కసారి మాత్రమే జోడించండి; ముందు మరియు వెనుక ఉన్న ఖాళీలు తొలగించబడతాయి. - ఈ విండోలో Save క్లిక్ చేయండి, ఆపై External Connections పేజీ యొక్క దిగువ-కుడి మూలలో ఉన్న Save క్లిక్ చేయండి.
కాన్ఫిగరేషన్ను సేవ్ చేయడం మాత్రమే ధృవీకరణను భర్తీ చేయదు. Verify Connection ఇతర సర్వీస్ యొక్క /models ఎండ్పాయింట్ను అభ్యర్థిస్తుంది, ఇది అందుబాటులో ఉన్న మోడల్స్ను జాబితా చేస్తుంది. కొన్ని సర్వీస్లు ఈ ఎండ్పాయింట్ను అందించవు, కాబట్టి చాట్ పని చేస్తున్నప్పటికీ ధృవీకరణ ఎర్రర్ను రిపోర్ట్ చేయవచ్చు. ఆ సందర్భంలో, మోడల్ IDని మాన్యువల్గా జోడించండి.
నిజమైన టాస్క్ను ధృవీకరించడం
చాట్ పేజీకి తిరిగి వెళ్లి, ఇన్పుట్ బాక్స్ పక్కన ఉన్న మోడల్ మెనుని తెరిచి, OmniProxy జాబితా నుండి పూర్తి IDని ఎంచుకోండి. చాలా చిన్న మెసేజ్ను పంపండి, ఉదాహరణకు కేవలం ఒక పదంతో సమాధానం ఇవ్వమని అడగండి. చాట్ బాక్స్లో ప్రతిస్పందన తప్పనిసరిగా కనిపించాలి.
2026-10-09న, ఈ సంభాషణ v0.11.4 యొక్క Python ఇన్స్టాలేషన్ ఉపయోగించి పూర్తి చేయబడింది. Docker సిఫార్సు చేయబడిన పద్ధతిగా మిగిలిపోయింది, కానీ పరీక్ష Dockerలో పునరావృతం కాలేదు.
తర్వాత, OmniProxy యొక్క అభ్యర్థన లాగ్స్ను తెరిచి, ఈ అభ్యర్థన కోసం మూలం మరియు మోడల్ IDని నిర్ధారించుకోండి. కేవలం విజయవంతమైన సేవ్ చూడటం, లేదా మెనులో మోడల్ను మాత్రమే చూడటం పూర్తి అయినట్లు కాదు.
ఇంటర్ఫేస్
మోడల్ను ఎంచుకోవచ్చు
- కనెక్షన్లు సేవ్ చేయబడ్డాయి
- మోడల్ జాబితాలో కనిపిస్తుంది
- చిన్న ప్రశ్నను పంపండి
ప్రతిస్పందన
చాట్ బాక్స్ సమాధానాన్ని చూపుతుంది
- ఇది ఖాళీ మెసేజ్ కాదు
- ఇది కనెక్షన్ ఎర్రర్ కాదు
- మరో మోడల్తో మళ్లీ ప్రయత్నించండి
లాగ్స్
గేట్వేలో కనిపిస్తాయి
- మూలం ఈ కనెక్షన్
- మోడల్ ID సరిపోలింది
- పేజీలో కీ నమోదు చేయబడలేదు
సాధారణ ఎర్రర్లు
- కంటైనర్ లోపల
localhostలేదా127.0.0.1ఉపయోగించబడింది: ఈ చిరునామాలు హోస్ట్ను కాకుండా కంటైనర్నే సూచిస్తాయి. చిరునామానుhost.docker.internalకి మార్చండి మరియు స్టార్టప్ కమాండ్లో--add-host=host.docker.internal:host-gatewayఉందని నిర్ధారించుకోండి. Open WebUI కంటైనర్లో రన్ కానప్పుడు దీనికి విరుద్ధంగా వర్తిస్తుంది: దానికి బదులుగా లోకల్ చిరునామాను ఉపయోగించండి. - బ్రౌజర్ పేజీని తెరవలేకపోతోంది: Docker కోసం, పోర్ట్ 3000ని తనిఖీ చేయండి; Python కోసం, పోర్ట్ 8080ని తనిఖీ చేయండి. మొదటి ప్రారంభ సమయంలో, ఎంబెడ్డింగ్ మోడల్ డౌన్లోడ్ పూర్తయ్యే వరకు వేచి ఉండండి. కంటైనర్ రన్ అవుతుందో లేదో నిర్ధారించడానికి మీరు
docker psని ఉపయోగించవచ్చు. పోర్ట్ 3000 ఇప్పటికే వాడుకలో ఉంటే,-pఎడమ వైపున ఉన్న పోర్ట్ను మార్చండి. - మోడల్ మెనులోని ID ప్రొవైడర్ యొక్క చిన్న పేరు కంటే పొడవుగా ఉంది: స్లాష్లతో సహా మెను నుండి పూర్తి IDని ఉపయోగించండి.
- అప్డేట్ తర్వాత అందరూ సైన్ అవుట్ అయ్యారు:
WEBUI_SECRET_KEYమారింది. మొదటిసారి రూపొందించిన సీక్రెట్ను ఉపయోగించి రీస్టార్ట్ చేయండి. - Verify Connection విఫలమైంది: ముందుగా Advanced కింద మోడల్ IDని మాన్యువల్గా జోడించి, ఆపై ఒక వాక్యపు చాట్తో దాన్ని నిర్ధారించండి. కొన్ని సర్వీస్లు
/modelsని అందించవు, కాబట్టి ధృవీకరణ ఎర్రర్ను రిపోర్ట్ చేసినప్పుడు కూడా చాట్ పని చేయవచ్చు. - మోడల్ ఉనికిలో లేదు: పాత పేరును ఉపయోగించడం కొనసాగించే బదులు OmniProxy యొక్క ప్రస్తుత జాబితా నుండి IDని మళ్లీ కాపీ చేయండి.
అధికారిక రిఫరెన్స్లు
ఇన్స్టాలేషన్ కమాండ్ల కోసం, Open WebUI Quick Start చూడండి. కనెక్షన్ దశల కోసం, OpenAI-compatible connection instructions చూడండి. ఉదాహరణలలో ఉపయోగించిన మోడల్ IDల కోసం, Claude model overview మరియు Gemini model list చూడండి.
మీ స్వంత OmniProxy కన్ఫిగరేషన్ నుండి విలువలతో ప్రతి ప్లేస్హోల్డర్ను మార్చండి. నిజమైన కీని ఎప్పుడూ ప్రచురించకండి.
సేవ్ చేసిన ఫలితం లేదా HTTP 200 మాత్రమే పూర్తి ఏజెంట్ అనుకూలతను నిరూపించదు. OmniProxy కాల్ రికార్డ్లో వనరు మరియు మాడల్ను తనిఖీ చేయండి.