Förståelse för användaren kritiskt för att lyckas med AI

Men om det ska tillföra något verkligt värde behöver vi se till att den nya teknologin faktiskt bidrar till att lösa någon av alla de utmaningar användare har. Vi behöver helt enkelt fråga oss själva vilka problem det är vi vill lösa med tjänster som exempelvis ChatGPT, innan vi anammar tjänsterna fullt ut i affärssystem.

Historiskt har affärssystem varit krångliga att använda, med stora inslag av manuella repetitiva processer. Systemen har upplevts som ointuitiva, med information uppdelad i silos, och de har inte underlättat samarbete. Idag finns stora möjligheter att förbättra användarupplevelsen med hjälp av AI och automatisering. Men för att lyckas behöver vi förstå slutanvändarna bättre än i dag. Vilka behov har de och hur löser affärssystemet deras utmaningar?

För att undersöka hur slutanvändare interagerar med affärssystem anammar Unit4 idéer från etnografin. Vi har samlat in kunskap om hur användare anpassar affärssystemet med snabbkommandon och genvägar, hur de matar in data och använder olika klientenheter. Vi har också identifierat hur affärssystemet används för informella samarbeten.

Studierna medför att vi kan bygga ramverk för generativ AI som är anpassade till individer och som underlättar vanligt förekommande användningsområden. Ett exempel är att de kommandon som visas på menyer anpassas till användares profiler. Målet är att skapa anpassningsbara upplevelser för de sammanhang som lösningarna används i. Det leder till bättre beslutsfattande, eftersom rätt insikter presenteras vid rätt tillfällen.

Faktum är att AI kommer att medföra fundamentalt förändrade affärsprocesser. Det ställer krav på förändringsarbete i samband med att AI-lösningar tas i bruk. Medarbetare vars yrkesroller förändras behöver förstå hur AI-lösningar kan underlätta och effektivisera deras arbete. Det kommer att inbegripa kunskapsutveckling.

För att lyckas med AI i affärssystem behöver man beakta följande:

• Dataintegritet. Om AI använder undermålig data riskerar verksamheten att exponseras för partiska utfall och dåliga beslut.
• Personlig integritet och datasäkerhet. Känslig information som används i AI-lösningar måste skyddas från intrång.
• Förstå begränsningarna. Om man förstår begränsningar med AI så finns det realistiska möjligheter att skapa användbara lösningar.
• Granska färdig programkod som används i verksamhetskritiska lösningar noggrant. Det gäller till exempel kod i publika bibliotek.
• Tolka analysen. Ska man ta svar från AI som absoluta sanningar eller bör de ifrågasättas? Det kan vara svårt utan detaljerad förståelse av hur AI-lösningen fungerar så hur minskar vi risken för att medarbetare enbart förlitar sig på AI genererade svar?
• Testa svaren från AI. Det behövs en övervakning och granskning av AI för att säkerställa att besluten AI tar och de svar den ger är säkra, tillförlitliga och rimliga. 
• Fokusera på kompetensutveckling. Dels kunskap om själva AI-lösningarna och förmåga att ifrågasätta och analysera utkomsten av dem. Och dels ”mjuka” förmågor som inte går att ersätta med AI som till exempel samarbete, flexibilitet, kreativitet och sociala förmågor. 

AI och lösningar för automatisering fortsätter att mogna och kommer att bli allt vanligare under de närmaste åren. De kommer att spela viktiga roller i affärssystem. För att få full nytta av dem behöver vi fokusera på slutanvändarnas behov. Om vi gör det väntar inte bara mer effektiva verksamheter, utan även nya spännande yrkesroller för många medarbetare.