Lokal AI-gateway
När dina modeller, MCP-tjänster eller söktillhandahållare ändras uppdaterar du gatewayen en gång istället för varje Agent.
Tidigare behövde varje AI-verktyg du använder ändras ett och ett när du bytte stor modell, oavsett om det gällde API-nyckel eller leverantör. Nu behöver du bara ändra i OmniProxy.
Se hur det fungerarAtt förstå detaljerna i varje interaktion mellan agenten och den stora modellen är ett effektivt sätt att lära sig AI. När du framför ett behov i agenten ser du oftast bara en del av modellens återkoppling. Nu kan du öppna OmniProxy och se hur de faktiskt diskuterar.
Se hur det fungerarKlassificera modeller och filtrera fram vilka modeller användaren kan använda utifrån sin aktuella enhet, så att användaren snabbt kan hitta en lämplig lokal modell bland tiotusentals modeller med öppen källkod.
Se hur det fungerarStäll in textmaskeringsregler för varje extern källa. När funktionen är aktiverad ersätts känslig text som lösenord, telefonnummer och liknande med maskeringsmarkörer innan den skickas till motsvarande källa, vilket bidrar till att minska risken för att integritets- och konfidentiell information läcker ut.
Se hur det fungerarAnslut den webbsöktjänst du väljer så kan du vid behov hämta webbsammanfattningar och originallänkar, vilket ger den stora modellen fler referenser.
Se hur det fungerarStäll in en professionell ordlista för översättningsmodellen så att översättningen använder de branschterner du behöver.
Se hur det fungerarChatt, bildgenerering, uppläsning och videogenerering har varsin fast modellingång. Vill du testa en ny modell byter du bara motsvarande val i OmniProxy, så fortsätter AI-verktygen att använda samma ingång och du slipper konfigurera om.
Se hur det fungerarDu behöver inte leta efter inställningar och kommandon varje gång du ska kontrollera status eller justera inställningar. Låt ett AI-verktyg med kommandokörningsförmåga göra det åt dig via OmniProxys kommandorad, låt AI ta hand om det repetitiva konfigurationsarbetet och frigör tid för dina egna saker.
Se hur det fungerarOmniProxy.ai kopplar ihop AI-verktyg, modeller och tjänster via en enda gateway och samlar nycklar, modellmappning, anropsloggar, sökning, översättning och maskering.
När du byter modellleverantör behöver du varken ändra konfigurationen i varje AI-verktyg eller spara modellnycklar utspridda i olika verktyg. Anslutningsinställningarna hanteras samlat i OmniProxy, och nycklarna förvaras i Mac-systemets nyckelring.
Läs loggarna över interaktioner mellan AI-verktyg och modeller för att förstå hur AI-verktyget tolkar uppgifter, organiserar förfrågningar och använder modellens svar. Det hjälper dig att använda AI bättre och ger ledtrådar när du felsöker aktuella problem.
Klassificera och ordna modeller med öppen källkod och filtrera fram de modeller som stöds av den aktuella enheten, så att du kan välja snabbare. Du kan ange flera modellmappar och direkt använda modeller som andra verktyg redan har laddat ner, vilket minskar onödiga nedladdningar. Du kan också ladda ner modeller till en extern hårddisk eller nätverksdisk för att spara lokalt lagringsutrymme.
Ersätt känslig information som telefonnummer, bankkonton och lösenord – identifierade enligt reglerna i texten – med xxxxxx så att innehållet inte skickas med förfrågan till fjärrtjänsten.
Anslut en webbsöktjänst så att AI kan hämta ny information utöver sin befintliga kunskap, samtidigt som webbsammanfattningar och originallänkar tillhandahålls så att du kan se källorna och kontrollera vad svaren bygger på.
Håll produktnamn, branschterner och vanliga uttryck enhetliga och minska problemet med att samma ord översätts på flera olika sätt i olika stycken. Samla de översättningar du godkänner i en ordlista och återanvänd dem i översättningsarbetsflöden som stöds, så att du slipper korrigera terminologi text för text.
Skapa fasta modellingångar för chatt, text-till-bild, uppläsning, videogenerering och andra användningsområden. AI-verktyget behöver bara ansluta till motsvarande ingång. Vill du byta modell för det användningsområdet senare växlar du bara i OmniProxy, utan att ändra AI-verktygets anropskonfiguration.
Överlåt förfrågningar och inställningar som stöds av kommandoraden till ett AI-verktyg med kommandokörningsförmåga, automatisera OmniProxys olika inställningar och spara mycket konfigurationstid.
OmniProxy installerar eller hanterar inte dessa tredjepartsverktyg. Använd varje verktygs officiella installatör, följ sedan dess anslutningsguide.
Vill du använda lokala och molnbaserade modeller i samma chattfönster men är orolig för att driftsättning och anslutningsinställningar blir för komplicerade? Open WebUI tillhandahåller ett välbekant chattgränssnitt. När det är installerat kan du börja använda det genom att ange anslutningsdetaljerna steg för steg.
Läs installation och uppstartVill du ha en AI-assistent som kan läsa filer, skriva innehåll eller hantera repetitiva uppgifter utan att vara begränsad till en webbläsare? goose erbjuder både skrivbords- och terminalversioner. När den väl är installerad och konfigurerad med en modell är den redo att användas på din egen dator.
Läs installation och uppstartVill du installera en AI-assistent på din egen dator men är orolig för miljöinställningar eller att byta modeller? OpenClaw tillhandahåller en skrivbordsapp och installationsskript som gör att du kan använda den via en meddelandeapp eller terminal efter installationen.
Läs installation och uppstart
