Sensus AI-Chatt

Fördelarna med att utveckla en egen app är många:

• Det är kostnadseffektivt
• Det skapar möjlighet att dra nytta av många olika AI-språkmodeller samt open source-modeller
• Det ger utrymme för flexibilitet att bygga egna, integrerade verktyg samt
• Möjlighet att integrera med Sensus nuvarande lösning för användarhantering

Projektets mål och funktioner

Målet med projektet var ursprungligen att hitta en kostnadseffektiv lösning som motsvarar funktionaliteten i ChatGPT, då enterprise-licensen för ChatGPT är kostsam för en organisation av Sensus storlek. Lösningen som Fröjd tagit fram med hjälp av olika open-source-projekt överträffar på vissa plan ChatGPT och replikerar på andra plan ChatGPT:s funktioner. I stora drag stödjer appen följande:

• Olika AI-leverantörers språkmodeller och open source-modeller: Appen kan dra nytta av många olika leverantörers molntjänster/API:er för AI, förutom OpenAI t.ex. Google, Anthropic, Perplexity, eller Mistral. Det är även möjligt att själv drifta en open source-språkmodell och använda sig av denna.
• Dokumentsök och sammanfattning: Användare kan söka och sammanfatta dokument effektivt.
• Bildtolkning: Chattappen kan förstå och tolka bilder.
• Globala assistenter: Med anpassade system-prompter och filåtkomst kan användare enkelt interagera med för olika syften förkonfigurerade assistenter.
• Delning av prompter: Användare kan dela sina prompter med varandra, vilket underlättar samarbetet.
• Bildgenerering och webbsök: Integrering av dessa funktioner breddar applikationens användningsområde.

Iterationer av utvecklingen

Utvecklingsprocessen för Sensus AI Chatt har varit komplex, främst på grund av den snabba utvecklingen inom området. Appen har genomgått tre större iterationer, där varje version har byggt på open source-projekt som Fröjd har anpassat och utvecklat vidare.

1. Sensus AI Chatt v1: Den första versionen byggde på openai-chatbot-ui v1 och OpenAI:s äldre "Completions"-API. Den inkluderade autentisering, branding och mobilanpassningar.
   
2. Sensus AI Chatt v2: Vidareutvecklingen innefattade en uppsättning av en vektor-databas och synkronisering av dokument från Google Drive. Denna version kunde utföra vektorsökningar för att besvara frågor och sammanfatta dokument, vilket kopplades ihop med OpenAI:s äldre API.

När OpenAI släppte sina uppdaterade Chat- och Assistants-API, som redan hade inbyggd funktionalitet för fil- och dokumentsök, insåg vi att vi kunde förenkla vår arkitektur genom att ersätta vektor-databasen och dokumentsynkroniseringen i v2.

1. Sensus AI Chatt v3: Denna version representerade en omstart och byggde på openai-chatbot-ui v2 samt Chatlabs, som använder de senaste API-möjligheterna. Den inkluderar språkstöd, branding, autentisering via Azure SSO (Sensus eget användarhanteringssystem), användarroller, mobilanpassningar, och förbättrad filhantering. Dessutom stödjer den bildgenerering och webbsök.

För att ytterligare förbättra Sensus AI-chatt planeras utveckling av skräddarsydda verktyg och system, vilket innebär att vi bl.a. kommer att integrera applikationen mot andra av Sensus interna system. Detta steg kommer att ytterligare öka applikationens funktionalitet och användbarhet i kontrast mot vanliga ChatGPT.

Projektet har genomgått en spännande och dynamisk utveckling med många ändrade förutsättningar. Genom att anpassa oss till de snabba vändningarna och utvecklingen inom AI-området har vi skapat en lösning som möter Sensus behov av en betydligt billigare men fullt ut lika väl - om inte bättre - fungerande app som ChatGPT, med oändliga möjligheter till vidareutveckling.