Kontexten i en konversation består av all information som du eller Saia lägger till i konversationen. Genom att ofta starta nya konversationer minskar du vår resursanvändning, våra kostnader samtidigt som du ofta får bättre resultat.

Kontexten i en konversation inkluderar: 

• Det du skriver in i chattrutan
• De filer du lägger till i konversationen
• Det Saia svarar
• Det innehåll som hämtas via verktygsanvändning
• m.m

Olika AI-basmodeller har olika maxgränser för hur stor kontext de kan hantera innan den gränsen är nås. De senaste modellerna kan i teorin hantera mycket stora kontextfönster, i vissa fall motsvarande flera miljoner tecken, men utmaningarna uppstår ofta långt innan den gränsen och de olika AI-modellerna påverkas också olika mycket beroende på kontextlängd – vissa ger märkbart sämre resultat långt innan man är i närheten av maxgränsen.

En annan aspekt är resurs- och kostnadsfrågan. Ju längre kontext, desto dyrare att generera ett nytt svar. Ett svar på frågan "Hej, hur är läget?" kan kosta några öre när kontexten är kort/tom till över en femtiolapp om kontexten är lång.

Så hanterar du kontextlängden på ett ansvarsfullt sätt

Skapa nya konversationer ofta

Bästa sättet att undgå kvalitetsbrister, minska på resursanvändningen och kostnaderna är att ofta skapa nya konversationer, dvs börja från början. En ny konversation har i grund och botten en tom kontext, och ger därför ofta bättre svar med mindre resursanvändning och lägre kostnader.

Redigera dina frågor, istället för att skriva på nytt

Om du skickar en lång fråga med mycket innehåll, och behöver fråga samma sak igen med någon liten justering, är det bättre att redigera ditt redan skickade meddelande istället för att skicka samma sak igen.

Ladda upp filer och dokument med eftertanke

Det som framför allt ökar kontextlängden är uppladdade textdokument. Rapporter och andra dokumentfiler har ofta väldigt mycket innehåll, och sällan behövs allt. Här kan du med eftertanke välja ut vilka delar som egentligen behövs för uppgiften innan du laddar upp, eller skapa en kunskapsbas istället så att Saia kan söka efter relevanta avsnitt.