Risker med AI-agenter – lärdomar från TV4

Igår kom det rapporter att en AI-agent ska ha raderat den färdigklippta säsongen av TV4-programmet The Challenge. Premiären var planerad till den 22 november, men har nu behövts skjutas på framtiden. Uppgifterna är inte bekräftade, och TV4 nekar till händelsen och hänvisar istället till dåliga backuprutiner.

Oavsett vilken sida av storyn som är korrekt, så belyser det två aktuella problem som företag har att handskas med nu. Hur hanterar vi företags-AI på ett säkert sätt – och hur säkerställer vi att retentionpolicyn följs?

 

AI har gått från chatbot till digital medarbetare

Det är minst sagt spännande tider inom AI-världen. För bara ett par år sedan använde de flesta AI för enkla uppgifter som att skriva ett mejl eller sammanfatta ett dokument. Idag är verktygen så pass bra att de inte bara svarar på frågor – de utför uppgifter på egen hand. Exempelvis kan AI-verktygen idag kategorisera filer, bygga små applikationer eller lägga beställningar.

Det är precis det en AI-agent gör. Den kan läsa filer, köra kommandon, flytta data mellan system och skicka mejl. Skillnaden mellan en chatbot och en AI-agent är ungefär som skillnaden mellan att fråga en kollega om råd och att ge kollegan nycklarna till kontoret.

Och utvecklingen går fort. Enligt SCB använde 35 procent av de svenska företagen AI i slutet av 2025, jämfört med 25 procent året innan och 10 procent år 2023. Bland stora företag är siffran hela 72 procent, och 37 procent av alla svenskar över 16 år har använt generativ AI.

Med fler användningsområden följer också fler risker, särskilt när AI:n får agera på egen hand i företagets system.

 

Risker med AI-agenter i företag

Många företag är rädda att hamna på efterkälken i AI-utvecklingen, och tumma på kontrollen över företagets AI-verktyg. När en AI-agent får tillgång till företagets system bör samma principer gälla som för en ny medarbetare eller ett nytt IT-system. Här är de vanligaste riskerna:

• För breda behörigheter: En agent som ska sortera filer i en mapp behöver inte kunna radera innehållet på en hel server. Ge den bara den åtkomst den faktiskt behöver.
• Ingen mänsklig kontrollpunkt: Åtgärder som att radera, skriva över eller skicka något externt bör kräva godkännande av en människa.
• Ingen riktig backup: En papperskorg eller en snapshot är inte samma sak som en backup. Följ 3-2-1-regeln och se till att minst en kopia inte går att radera, varken av ransomware eller av en felaktig automatisering.
• Ingen loggning: Utan loggar går det inte att se vad agenten gjorde och när, vilket gör det svårt att felsöka i efterhand.
• Data som lämnar huset: Många AI-tjänster körs i publika moln utomlands. Det innebär att kunddata, avtal och affärshemligheter kan hamna på servrar som ni inte har kontroll över.

Det är även bra att komma ihåg att en AI-agent utför det den blir instruerad att göra, vilket inte alltid är det man avsåg. En instruktion som ”städa upp på servern” kan tolkas på flera sätt (precis som en nyligen onboardad medarbetare ser det på ett annat sätt än en mångårig nätverksingenjör). Därför behöver man planera för att något kan gå fel, och alltid se till att det finns en väg tillbaka.

 

Så kommer ni igång med AI-agenter – på rätt sätt

Slutsatsen är inte att man ska avstå från AI, utan att AI-agenter ska sättas upp med samma omsorg som övrig kritisk IT. Så här arbetar vi på Straznet:

1. Kartlägg först: Vilka arbetsmoment tar mest tid, och vilken data behöver agenten för att göra dem? Vi börjar alltid med ett kartläggningsmöte och en mindre pilot.
2. Integrera i era dataflöden: En agent gör störst nytta när den pratar med era befintliga system – affärssystem, e-handel, mejl och API:er. Vi kopplar ihop det så att den passar in i hur ni redan jobbar.
3. Skydda det: Minsta möjliga behörighet, loggning av allt agenten gör, mänskliga godkännanden för känsliga steg och en backup som faktiskt går att återställa. Bygg bort så många single-point-of-failures som möjligt.
4. Kör det privat: Så långt det går sätter vi upp en privat AI-lösning i en egen, lokal miljö, så att er data stannar hos er och inte skickas vidare till någon annans moln. Läs gärna mer om digital suveränitet.

Vill du fördjupa dig? Vi har skrivit mer om hur vi tänker kring AI för företag i tre nivåer och om AI-styrning för AI-agenter.

 

Sammanfattning

Exakt vad som hände med The Challenge är ännu inte klarlagt. Händelsen visar ändå varför AI-agenter behöver begränsade behörigheter, mänskliga kontrollpunkter, loggning och en fungerande backup. Med de delarna på plats går ett fel att återställa.

Vill ni komma igång med AI-agenter i er verksamhet? Kontakta oss på Straznet, så hjälper vi er att sätta upp lösningar som är både effektiva och säkra. Vi finns i Kungsbacka och hjälper företag i hela Göteborgsregionen.

Telefon: 0300-30 780
E-post: info@straznet.se