Open WebUI ఇన్‌స్టాలేషన్ మరియు OmniProxy కాన్ఫిగరేషన్

Open WebUI అనేది మీ స్వంత కంప్యూటర్‌లో లేదా సర్వర్‌లో ఇన్‌స్టాల్ చేయగల సెల్ఫ్-హోస్టెడ్ చాట్ ఇంటర్‌ఫేస్ మరియు ఇది పూర్తిగా ఆఫ్‌లైన్‌లో కూడా రన్ అవుతుంది. ఇది ఏ ఒక్క మోడల్ ప్రొవైడర్‌కు కట్టుబడి ఉండదు: ఇది స్థానికంగా మోడల్స్‌ని రన్ చేసే Ollama వంటి టూల్స్‌కు, అలాగే OpenAI-కంపాటబుల్ ఎండ్‌పాయింట్‌లకు—అదే అభ్యర్థన ఫార్మాట్‌ను ఉపయోగించి మోడల్ సర్వీస్‌లను అందించే చిరునామాలకు కనెక్ట్ చేయగలదు. ఇది ఒకే విండోలో లోకల్ మరియు క్లౌడ్ మోడల్స్ మధ్య మారడానికి మిమ్మల్ని అనుమతిస్తుంది.

ఇది టీమ్‌లు మరియు సంస్థల దీర్ఘకాలిక ఉపయోగం కోసం అనుకూలంగా ఉంటుంది. వేగవంతమైన అప్‌డేట్‌లను అందుకునే సామర్థ్యాలు మొదట Computerలో కనిపిస్తాయి, ఇది కొత్త ఫీచర్లను ప్రయత్నించడానికి Open WebUI ఉపయోగించే ఉత్పత్తి.

ప్రారంభించే ముందు

Open WebUI macOS, Linux మరియు Windowsలలో అందుబాటులో ఉంది. మీరు దీన్ని Docker, Python లేదా Kubernetes ఉపయోగించి ఇన్‌స్టాల్ చేయవచ్చు. Docker అప్లికేషన్‌ను మరియు దాని రన్‌టైమ్ ఎన్విరాన్‌మెంట్‌ను సాపేక్షంగా ఐసోలేటెడ్ కంటైనర్‌లో ప్యాక్ చేస్తుంది మరియు ఇది సిఫార్సు చేయబడిన పద్ధతి. Docker అందుబాటులో లేకపోతే, మీరు క్రింద పరీక్షించబడిన Python కమాండ్‌ను కూడా ఉపయోగించవచ్చు. Kubernetes అనేది కంటైనర్‌లను డిప్లాయ్ చేయడానికి మరియు నిర్వహించడానికి ఒక సిస్టమ్; సంబంధిత దశల కోసం ఈ గైడ్ చివరలో లింక్ చేయబడిన Quick Startని చూడండి.

అధికారికంగా సిఫార్సు చేయబడింది

Docker

• ఒక docker run కమాండ్
• బ్రౌజర్‌లో 3000ని తెరవండి
• డేటా వాల్యూమ్‌లో నిల్వ చేయబడుతుంది

కేవలం చాట్ చేయాలనుకుంటున్నాను

slim ఇమేజ్

• చిన్న డౌన్‌లోడ్ పరిమాణం
• ట్యాగ్‌ను :slimకి మార్చండి
• చాట్ కార్యాచరణ అందుబాటులో ఉంటుంది

ఇక్కడ కవర్ చేయబడలేదు

రెండు ఇతర ఎంపికలు

• మాన్యువల్ Python ఇన్‌స్టాలేషన్
• Kubernetes డిప్లాయ్‌మెంట్
• అధికారిక Quick Startని చూడండి

ప్రారంభించే ముందు, ఈ క్రింది వాటిని సిద్ధం చేయండి:

• Docker ఇన్‌స్టాల్ చేయబడి రన్ అవుతోంది.
• మీ ద్వారా మాత్రమే ఉపయోగించబడే ఒక సీక్రెట్ స్ట్రింగ్. ఒకదాన్ని రూపొందించడానికి openssl rand -hex 32ని రన్ చేయండి, ఆపై దాన్ని WEBUI_SECRET_KEYగా నమోదు చేయండి. ఈ విలువను శాశ్వతంగా సేవ్ చేయండి. కంటైనర్‌ను రీబిల్డ్ చేసేటప్పుడు మీరు దీన్ని మార్చితే, ఇప్పటికే సైన్ ఇన్ చేసిన వినియోగదారులు సైన్ అవుట్ చేయబడతారు.
• రన్ అవుతున్న OmniProxy ఇన్‌స్టాన్స్ మరియు దాని ప్రస్తుత మోడల్ జాబితా నుండి ఒక మోడల్ ID. మోడల్ ID అనేది ఒక నిర్దిష్ట మోడల్‌ను ఎంచుకోవడానికి ఉపయోగించే పూర్తి పేరు.

మొదటిసారి ఇన్‌స్టాల్ చేసి ప్రారంభించడం

టెర్మినల్‌ను తెరిచి, Quick Start నుండి కమాండ్‌ను రన్ చేయండి. ముందుగా your-secret-keyని మీరు ఇప్పుడే రూపొందించిన సీక్రెట్‌తో భర్తీ చేయండి:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=your-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main

ఈ కమాండ్‌లోని క్రింది భాగాలు వేర్వేరు ప్రయోజనాలను కలిగి ఉంటాయి:

• -p 3000:8080: ఈ కంప్యూటర్‌లోని పోర్ట్ 3000 ద్వారా ఇంటర్‌ఫేస్‌ను తెరవడానికి మిమ్మల్ని అనుమతిస్తుంది. పోర్ట్ 3000 ఇప్పటికే వాడుకలో ఉంటే, ఎడమవైపు ఉన్న సంఖ్యను మార్చండి.
• -v open-webui:/app/backend/data: చాట్‌లు, వినియోగదారులు మరియు సెట్టింగ్‌లను డేటా వాల్యూమ్‌లో నిల్వ చేస్తుంది. డేటా వాల్యూమ్ అనేది కంటైనర్ వెలుపల ఉన్న ఒక స్థానం, అక్కడ డేటా దీర్ఘకాలం నిల్వ చేయబడుతుంది, కాబట్టి కంటైనర్ అప్‌డేట్ అయిన తర్వాత కూడా దాని కంటెంట్ అలాగే ఉంటుంది. ఈ ఎంపికను తొలగించవద్దు.
• --add-host=host.docker.internal:host-gateway: ఈ కంప్యూటర్‌లో రన్ అవుతున్న ఇతర సర్వీస్‌లను యాక్సెస్ చేయడానికి కంటైనర్‌ను అనుమతిస్తుంది.
• --restart always: కంప్యూటర్ రీబూట్ అయిన తర్వాత కంటైనర్‌ను మళ్లీ ప్రారంభిస్తుంది.

కమాండ్ పూర్తయిన తర్వాత, బ్రౌజర్‌లో http://localhost:3000ని తెరిచి, మొదటి ఖాతాను సృష్టించడానికి స్క్రీన్‌పై ఉన్న సూచనలను అనుసరించండి.

మీకు API ద్వారా మాత్రమే చాట్ అవసరమైతే, మీరు ఇమేజ్ ట్యాగ్‌ను :main నుండి :slimకి మార్చవచ్చు. slim అనేది కంటైనర్ లోపల లోకల్ స్పీచ్ మరియు ఎంబెడ్డింగ్ మోడల్స్‌ను కలిగి ఉండని చిన్న ఇమేజ్, కానీ చాట్ ఇంటర్‌ఫేస్ అందుబాటులో ఉంటుంది. మీకు ఆ లోకల్ సామర్థ్యాలు అవసరమైతే :mainని ఉపయోగించడం కొనసాగించండి.

మాన్యువల్ అప్‌డేట్‌ల కోసం, ముందుగా docker rm -f open-webuiని రన్ చేయండి, ఆపై docker pull ghcr.io/open-webui/open-webui:mainని రన్ చేయండి, మరియు అదే docker run కమాండ్‌తో దాన్ని రీస్టార్ట్ చేయండి. డేటా వాల్యూమ్ మరియు WEBUI_SECRET_KEY రెండింటినీ అలాగే ఉంచండి.

Docker అందుబాటులో లేకపోతే

Quick Start Python ఇన్‌స్టాలేషన్ పద్ధతిని కూడా అందిస్తుంది. 2026-10-09న, macOSలో Open WebUI v0.11.4ని ఇన్‌స్టాల్ చేయడానికి మరియు ఒక సంభాషణను పూర్తి చేయడానికి ఈ క్రింది కమాండ్ ఉపయోగించబడింది. ఆ సమయంలో ఆ కంప్యూటర్‌లో Docker Desktop ఇన్‌స్టాల్ చేయబడలేదు.

DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

ప్రారంభం తర్వాత, బ్రౌజర్‌లో http://localhost:8080ని తెరవండి. ఇది Python ఇన్‌స్టాలేషన్ ఉపయోగించే పోర్ట్, Docker యొక్క పోర్ట్ 3000 కాదు.

మొదటి ప్రారంభ సమయంలో ఒక ఎంబెడ్డింగ్ మోడల్ డౌన్‌లోడ్ చేయబడుతుంది, దీనికి కొన్ని నిమిషాలు పట్టవచ్చు. ఎంబెడ్డింగ్ మోడల్ టెక్స్ట్‌ను వెతకడానికి మరియు మ్యాచ్ చేయడానికి సులభమైన డేటాగా మారుస్తుంది. కొనసాగే ముందు సైన్-ఇన్ పేజీ కనిపించే వరకు వేచి ఉండండి. మొదటి రిజిస్టర్డ్ ఖాతా అడ్మినిస్ట్రేటర్ అవుతుంది. ఇంటర్‌ఫేస్ భాష సిస్టమ్ భాషను అనుసరిస్తుంది; ఈ పరీక్ష సమయంలో సరళీకృత చైనీస్ ప్రదర్శించబడింది.

DATA_DIR తప్పనిసరిగా దీర్ఘకాలం నిల్వ చేయబడే మరియు Open WebUI డేటాను నిల్వ చేయడానికి ఉపయోగించే డైరెక్టరీని సూచించాలి. ఇది సెట్ చేయబడకపోతే, డేటా తాత్కాలిక డైరెక్టరీలో నిల్వ చేయబడి షట్‌డౌన్ తర్వాత పోవచ్చు. WEBUI_SECRET_KEY సెట్ చేయబడకపోతే, ప్రోగ్రామ్ ప్రస్తుత డైరెక్టరీలో .webui_secret_keyని వ్రాస్తుంది. మీరు నిల్వ చేయాలనుకుంటున్న డైరెక్టరీ నుండి దీన్ని ప్రారంభించండి, లేదా ఈ వేరియబుల్‌ను మీరే సెట్ చేయండి.

OmniProxy నుండి కనెక్షన్ వివరాలను పొందడం

మీ స్వంత OmniProxy ఇన్‌స్టాన్స్ నుండి ఈ క్రింది మూడు అంశాలను కాపీ చేయండి:

URL:      https://your-omniproxy-origin.example/v1
API Key:  <YOUR_OMNIPROXY_API_KEY>
Model ID: Copy from the current OmniProxy model list

URL అనేది Open WebUI ఎండ్‌పాయింట్‌కు కనెక్ట్ చేయడానికి ఉపయోగించే చిరునామా మరియు ఇది తప్పనిసరిగా /v1తో ముగియాలి. దాని తర్వాత /chat/completionsని జోడించవద్దు; Open WebUI ఆ భాగాన్ని స్వయంచాలకంగా జోడిస్తుంది.

OmniProxy యొక్క ప్రస్తుత జాబితా నుండి పూర్తి మోడల్ IDని కాపీ చేయండి. IDలో సోర్స్ ప్రిఫిక్స్ మరియు స్లాష్ ఉంటే, వాటిని కూడా అలాగే ఉంచండి. ఈ క్రింది రెండు చిన్న పేర్లు 2026-10-09 నాటికి ప్రొవైడర్ డాక్యుమెంటేషన్ నుండి కేవలం రిఫరెన్స్‌లు మాత్రమే. అవి ప్రస్తుత జాబితాలో లేకపోతే వాటిని ఉపయోగించవద్దు:

• Claude Sonnet 5.5 కోసం Claude API ID: claude-sonnet-5-5
• Gemini 3.8 Flash కోసం API పేరు: gemini-3.8-flash

Open WebUIలో ప్రొవైడర్ కీని నమోదు చేయవద్దు. గేట్‌వే కీలను ధృవీకరించకపోతే, మరొక కీని కనుగొనడానికి బదులుగా API కీని ఖాళీగా ఉంచండి.

బ్రౌజర్

లోకల్ పోర్ట్ 3000

• చాట్ పేజీని తెరవండి
• ముందుగా రిజిస్ట్రేషన్ పూర్తి చేయండి
• తర్వాత సెట్టింగ్‌లను తెరవండి

కంటైనర్ లోపల

Open WebUI

• localhostని ఉపయోగించవద్దు
• దానికి బదులుగా హోస్ట్ మెషీన్ పేరును ఉపయోగించండి
• URL /v1తో ముగుస్తుంది

ఒకే కంప్యూటర్

OmniProxy

• కీని గేట్‌వేలో ఉంచండి
• గేట్‌వే యొక్క మోడల్ జాబితాను ఉపయోగించండి
• తర్వాత అభ్యర్థన లాగ్స్‌ను సమీక్షించండి

మోడల్ సర్వీస్ హోస్ట్‌లో రన్ అవుతున్నప్పుడు మరియు Open WebUI Docker కంటైనర్‌లో రన్ అవుతున్నప్పుడు, URLలోని localhostని host.docker.internalతో భర్తీ చేయండి. హోస్ట్ అనేది Dockerని నేరుగా రన్ చేసే కంప్యూటర్. OmniProxy ఈ కంప్యూటర్‌లో మాత్రమే వింటుంటే, URLని http://host.docker.internal:port/v1గా వ్రాయవచ్చు, portని OmniProxy నిజంగా ఉపయోగించే పోర్ట్‌తో భర్తీ చేయవచ్చు.

Open WebUI మునుపటి విభాగంలోని Python కమాండ్ ద్వారా స్థానికంగా రన్ అవుతుంటే మరియు OmniProxy కూడా స్థానికంగా రన్ అవుతుంటే, చిరునామాలో 127.0.0.1 లేదా localhostని ఉపయోగించండి. ఈ సందర్భంలో host.docker.internalని ఉపయోగించవద్దు.

కాన్ఫిగరేషన్‌ను నమోదు చేయడం

2026-10-09న పరీక్షించిన v0.11.4 యొక్క సరళీకృత చైనీస్ ఇంటర్‌ఫేస్‌లో, పేర్లు ఇంగ్లీష్ సూచనలలోని Settings > Admin > Connections కంటే భిన్నంగా ఉన్నాయి. పరీక్షించిన ఇంటర్‌ఫేస్‌లో చూపిన ఎంపికలను అనుసరించండి, క్రింద అనువదించబడింది:

1. ఎడమ సైడ్‌బార్‌ను విస్తరించండి.
2. దిగువన ఉన్న వినియోగదారు మెనుని క్లిక్ చేయండి.
3. Settings క్లిక్ చేయండి.
4. క్రింద ఉన్న అడ్మినిస్ట్రేటర్ విభాగంలో, External Connections క్లిక్ చేయండి.
5. OpenAI APIని తెరవండి.
6. Manage OpenAI API Connections కు కుడివైపున ఉన్న + క్లిక్ చేయండి.
7. Edit Connection డైలాగ్‌లో, /v1తో ముగిసే URLని నమోదు చేయండి. API రకాన్ని Chat Completionsగా ఉంచండి.
8. Authentication Methodని **Key (Bearer)**గా ఉంచండి. Bearer ప్రామాణీకరణ గుర్తింపు ధృవీకరణ కోసం అభ్యర్థనలో API కీని ఉంచుతుంది. OmniProxy మీకు కీని ఇస్తే, దాన్ని API Key కింద నమోదు చేయండి. గేట్‌వే కీలను ధృవీకరించకపోతే, ఈ ఫీల్డ్‌ను ఖాళీగా ఉంచండి. 2026-10-09న, ఫీల్డ్‌ను ఖాళీగా ఉంచినప్పుడు ధృవీకరణ మరియు ఒక సంభాషణ రెండూ విజయవంతమయ్యాయి.
9. URL పక్కన ఉన్న Verify Connection క్లిక్ చేయండి. OmniProxy /modelsని అందిస్తే, మోడల్ జాబితా ఇక్కడ తిరిగి పొందబడుతుంది.
10. Advancedని తెరవండి. Model ID ఖాళీగా ఉంటే, ఆ చిరునామాలో /models ద్వారా తిరిగి ఇవ్వబడిన అన్ని మోడల్స్ ఉపయోగించబడతాయి. ధృవీకరణ విఫలమైతేనే, జాబితా నుండి పూర్తి IDని Add Model ID కింద నమోదు చేసి, ఆపై Add క్లిక్ చేయండి. ప్రతి IDని ఒక్కసారి మాత్రమే జోడించండి; ముందు మరియు వెనుక ఉన్న ఖాళీలు తొలగించబడతాయి.
11. ఈ విండోలో Save క్లిక్ చేయండి, ఆపై External Connections పేజీ యొక్క దిగువ-కుడి మూలలో ఉన్న Save క్లిక్ చేయండి.

కాన్ఫిగరేషన్‌ను సేవ్ చేయడం మాత్రమే ధృవీకరణను భర్తీ చేయదు. Verify Connection ఇతర సర్వీస్ యొక్క /models ఎండ్‌పాయింట్‌ను అభ్యర్థిస్తుంది, ఇది అందుబాటులో ఉన్న మోడల్స్‌ను జాబితా చేస్తుంది. కొన్ని సర్వీస్‌లు ఈ ఎండ్‌పాయింట్‌ను అందించవు, కాబట్టి చాట్ ఇంకా పని చేస్తున్నప్పటికీ ధృవీకరణ లోపాన్ని నివేదించవచ్చు. ఆ సందర్భంలో, మోడల్ IDని మాన్యువల్‌గా జోడించండి.

నిజమైన టాస్క్‌ను ధృవీకరించడం

చాట్ పేజీకి తిరిగి వెళ్లండి, ఇన్‌పుట్ బాక్స్ పక్కన ఉన్న మోడల్ మెనుని తెరిచి, OmniProxy జాబితా నుండి పూర్తి IDని ఎంచుకోండి. చాలా చిన్న సందేశాన్ని పంపండి, ఉదాహరణకు కేవలం ఒక పదంతో సమాధానం ఇవ్వమని అడగండి. చాట్ బాక్స్‌లో ప్రతిస్పందన తప్పనిసరిగా కనిపించాలి.

2026-10-09న, ఈ సంభాషణ v0.11.4 యొక్క Python ఇన్‌స్టాలేషన్‌ను ఉపయోగించి పూర్తి చేయబడింది. Docker సిఫార్సు చేయబడిన పద్ధతిగా మిగిలిపోయింది, కానీ పరీక్ష Dockerలో పునరావృతం కాలేదు.

తర్వాత, OmniProxy యొక్క అభ్యర్థన లాగ్స్‌ను తెరిచి, ఈ అభ్యర్థన కోసం మూలం మరియు మోడల్ IDని నిర్ధారించండి. విజయవంతమైన సేవ్ మాత్రమే చూడటం, లేదా మెనులో మోడల్‌ను మాత్రమే చూడటం పూర్తి అయినట్లు కాదు.

ఇంటర్‌ఫేస్

మోడల్‌ను ఎంచుకోవచ్చు

• కనెక్షన్‌లు సేవ్ చేయబడ్డాయి
• మోడల్ జాబితాలో కనిపిస్తుంది
• చిన్న ప్రశ్నను పంపండి

ప్రతిస్పందన

చాట్ బాక్స్ సమాధానాన్ని చూపుతుంది

• ఇది ఖాళీ సందేశం కాదు
• ఇది కనెక్షన్ లోపం కాదు
• మరొక మోడల్‌తో మళ్లీ ప్రయత్నించండి

లాగ్స్

గేట్‌వేలో కనిపిస్తుంది

• మూలం ఈ కనెక్షన్
• మోడల్ ID సరిపోలుతుంది
• పేజీలో కీ నమోదు చేయబడలేదు

సాధారణ లోపాలు

• కంటైనర్ లోపల localhost లేదా 127.0.0.1 ఉపయోగించబడింది: ఈ చిరునామాలు హోస్ట్‌ను కాకుండా కంటైనర్‌నే సూచిస్తాయి. చిరునామాను host.docker.internalకి మార్చండి మరియు స్టార్టప్ కమాండ్‌లో --add-host=host.docker.internal:host-gateway ఉందని నిర్ధారించుకోండి. Open WebUI కంటైనర్‌లో రన్ కానప్పుడు దీనికి విరుద్ధంగా జరుగుతుంది: దానికి బదులుగా లోకల్ చిరునామాను ఉపయోగించండి.
• బ్రౌజర్ పేజీని తెరవలేకపోతోంది: Docker కోసం, పోర్ట్ 3000ని తనిఖీ చేయండి; Python కోసం, పోర్ట్ 8080ని తనిఖీ చేయండి. మొదటి ప్రారంభ సమయంలో, ఎంబెడ్డింగ్ మోడల్ డౌన్‌లోడ్ పూర్తయ్యే వరకు వేచి ఉండండి. కంటైనర్ రన్ అవుతుందో లేదో నిర్ధారించడానికి మీరు docker psని ఉపయోగించవచ్చు. పోర్ట్ 3000 ఇప్పటికే వాడుకలో ఉంటే, -p యొక్క ఎడమ వైపున ఉన్న పోర్ట్‌ను మార్చండి.
• మోడల్ మెనులోని ID ప్రొవైడర్ యొక్క చిన్న పేరు కంటే పొడవుగా ఉంది: స్లాష్‌లతో సహా మెను నుండి పూర్తి IDని ఉపయోగించండి.
• అప్‌డేట్ తర్వాత అందరూ సైన్ అవుట్ అయ్యారు: WEBUI_SECRET_KEY మారింది. మొదటిసారి రూపొందించిన సీక్రెట్‌ను ఉపయోగించి రీస్టార్ట్ చేయండి.
• Verify Connection విఫలమైంది: ముందుగా Advanced కింద మోడల్ IDని మాన్యువల్‌గా జోడించండి, ఆపై ఒక వాక్యపు చాట్‌తో దాన్ని నిర్ధారించండి. కొన్ని సర్వీస్‌లు /modelsని అందించవు, కాబట్టి ధృవీకరణ లోపాన్ని నివేదించినప్పుడు కూడా చాట్ పని చేయవచ్చు.
• మోడల్ ఉనికిలో లేదు: పాత పేరును ఉపయోగించడం కొనసాగించడానికి బదులుగా OmniProxy యొక్క ప్రస్తుత జాబితా నుండి IDని మళ్లీ కాపీ చేయండి.

అధికారిక రిఫరెన్స్‌లు

ఇన్‌స్టాలేషన్ కమాండ్‌ల కోసం, Open WebUI Quick Start చూడండి. కనెక్షన్ దశల కోసం, OpenAI-compatible connection instructions చూడండి. ఉదాహరణలలో ఉపయోగించిన మోడల్ IDల కోసం, Claude model overview మరియు Gemini model list చూడండి.

మీ స్వంత OmniProxy కన్ఫిగరేషన్ నుండి విలువలతో ప్రతి ప్లేస్‌హోల్డర్‌ను మార్చండి. నిజమైన కీని ఎప్పుడూ ప్రచురించకండి.

సేవ్ చేయబడిన ఫలితం లేదా HTTP 200 మాత్రమే పూర్తి ఏజెంట్ అనుకూలతను నిరూపించదు. OmniProxy కాల్ రికార్డ్‌లో మూలం మరియు మోడల్‌ను తనిఖీ చేయండి.

అధికారిక మూలాలు · Open WebUI ↗