Användningen av autonoma AI-agenter ökar, men riskerna är stora

Två AI-lanseringar i början av året lockar användare att släppa kontrollen och låta autonoma agentbaserade verktyg utföra uppgifter åt dem. It-chefer bör vara beredda att hantera konsekvenserna. Anthropic lanserade sin agentiska plattform Claude Cowork i januari för macOS och i februari för Windows, och användningen av det agentiska verktyget Open Claw sköt i höjden i början av året efter att utvecklaren Peter Steinberger, numera hos Open AI, lanserade open source-projektet i slutet av 2025. Medan de flesta organisationer fokuserar på att implementera AI som förstärker mänskligt arbete har intresset för autonom agentbaserad AI ökat kraftigt sedan slutet av förra året, säger Neal Riley, innovationschef och tidigare cio på it-konsultföretaget The Adaptavist Group. Många organisationer, till och med traditionellt riskovilliga företag inom finans- och hälsovårdsbranschen, har börjat experimentera med autonom AI i syfte att omforma sina arbetsflöden, säger han. Trots farhågor om oförutsedda resultat och autonoma agenter som fungerar som skugg-AI ser tidiga användare av agentbaserad AI en enorm potential för tekniken att fungera som en kraftmultiplikator som till exempel ger icke-tekniskt kunniga personer möjlighet att lösa mindre it-problem utan att involvera teknikteamet. 2026 börjar vi se att människor investerar ganska kraftigt i många av dessa processer som är mer agentbaserade och som möjliggör denna typ av kontroll på ett mycket strikt och reglerat sätt, men samtidigt låter dessa system ha den nivån av autonomi, säger Riley. Vi ser en enorm uppgång inom detta. Autonoma botar för alla OpenClaw och Claude Cowork ligger i framkant av den kommande revolutionen och gör det möjligt för användare att använda AI för att automatisera arbetsflöden på sina datorer. Open Claw-botar integreras med externa AI-system baserade på stora språkmodeller, såsom Claude och Open AI:s GPT-modeller, och användarna får tillgång till dem via en chattbot som körs på en meddelandetjänst som Whatsapp, Telegram eller Discord. Användarna ger Claude Cowork åtkomst till sina applikationer och filer och uppmanar sedan AI:n att utföra uppgifter. Cowork kan organisera filer, skapa kalkylblad, förbereda rapporter och analysera anteckningar genom att komma åt filer på användarens dator, hämta sammanhang från appar som Slack och söka på webben efter mer information. Innan Claude agerar visar den användaren planen och väntar på godkännande, enligt Anthropic. Ändå har vissa användare gett dessa autonoma agenter en hög grad av kontroll, och det finns risker när de överlämnar sina datorer utan hårda gränser. Meta AI:s säkerhetsforskare Summer Yue twittrade i slutet av februari att Open Claw försökte radera hennes e-postinkorg efter att hon bett AI:n att rensa upp den. ”Inget gör dig så ödmjuk som att be din Open Claw att ’bekräfta innan du agerar’ och sedan se den snabbt radera din inkorg”, skrev hon. Hon erkände att det var ett nybörjarmisstag. ”Det visar sig att forskare inom alignment inte är immuna mot misalignment”, skrev hon. ”Jag blev övermodig eftersom det här arbetsflödet hade fungerat på min testinkorg i veckor. Riktiga inkorgar är en helt annan sak.” Ett av de mest populära svaren på Yues tweet var en bild på någon som räckte en schimpans ett automatgevär. Forskare har också hittat många säkerhetsbrister i Open Claw, inklusive en sårbarhet för promptinjektionsattacker. Stor risk, stor belöning Här ligger kruxet: AI-experter ser enorma potentiella fördelar med autonom AI – med möjligheten att skapa enorma effektivitetsvinster på arbetsplatsen – men riskerna är betydande. Riley erkänner både säkerhetsfarhågorna och risken att agentisk AI vidtar åtgärder som användarna inte förväntat sig. Även om användarna ännu inte sett autonom AI som kan utföra arbete snabbare eller billigare än människor – tokens är dyra – har tekniken potential att förändra arbetets natur till det bättre, säger han. – När man talar om fördelarna handlar det definitivt om att ersätta det arbete som utförs i dag, men det är nästan en biprodukt, säger han. – Det som det faktiskt gör möjligt är att samordna på ett annat sätt än tidigare, genom att informationen skickas fram och tillbaka inom teamet för att få ut saker snabbare och med bättre kvalitet. Autonoma AI-system kommer att göra det möjligt för organisationer att omplacera sin personal till nya uppgifter och därmed eliminera mycket av det tråkiga arbetet, menar förespråkarna. – När man väl kan börja lita på att många av dessa autonoma system tar ansvar för saker, handlar det ofta inte om att de gör det snabbare eller ens bättre än vad människor gör, säger Riley. – Det handlar om att det inte kräver att människor är involverade, vilket innebär att de kan arbeta med andra saker. Många företag befinner sig fortfarande i ett tidigt skede av sin resa mot autonom AI, säger Upal Saha, teknikchef på AI-dataintegrationsleverantören Bem. En av de stora utmaningarna är att få AI:n att förstå hur verksamheten fungerar, säger han. – Inom de flesta företag är relationerna mellan processer, data och beslut inte tydligt dokumenterade. Den kunskapen finns spridd mellan team och individer. Agenter kan vara otroligt kompetenta, men utan den operativa kontexten gissar de ofta istället för att utföra. Hastighet är en enorm potentiell fördel med autonoma agenter, men det är också en av nackdelarna, konstaterar Saha. – Om de har rätt kontext kan de komprimera timmar av manuellt operativt arbete till sekunder. Nackdelen är att samma hastighet kan förstärka misstag. Om en agent missförstår ett arbetsflöde eller en datastruktur kan den upprepa det misstaget i stor skala. Trots riskerna förflyttar sig marknaden snabbt mot agentbaserad AI, med storskaliga införanden under de kommande två åren, menar Russell Twilligear, chef för AI-forskning och utveckling hos Blogbuster, en leverantör av AI-genererat innehåll. – Vi bevittnar en övergång från system som endast genererar text till system som faktiskt kan utföra arbete i flera steg. Den största fördelen är att autonoma agenter inte bara svarar på en enkel uppmaning. De kan gå från avsikt till utförande genom att samla in information, uppdatera system och så vidare. Det finns dock en fara om autonoma agenter implementeras felaktigt, säger Twilligear. – Den största nackdelen är att detta kommer att skala snabbare än vi kan kontrollera det. Det innebär säkerhetsrisker och felaktigheter vid varje ny integration. Säkerhet och övervakning är de största problemen att övervinna, tillägger han. – När en agent kan komma åt e-post, filer, webbläsare och så vidare öppnar man upp för en värld av problem. Problemet är hur snabbt allt detta sker. Aktuella säkerhetsrapporter visar att många företag inte ens övervakar sina AI-agenter. För mig är det helt galet. Tillåt experimenterande It-chefer som implementerar autonoma agenter måste införa robusta kontroller, se till att deras data är rena och tillgängliga och att deras appbehörigheter är korrekt konfigurerade, säger Riley från The Adaptavist Group. Trots säkerhets- och resultatfarhågor uppmuntrar Riley it-chefer att låta medarbetarna experimentera med den nya tekniken med tanke på den snabba utvecklingen. Organisationer som investerar i AI-utbildning och låter medarbetarna prova på tekniken tenderar att få bättre resultat av implementeringarna, konstaterar han. – Med alla dessa verktyg som finns tillgängliga borde folk redan nu försöka förstå hur de fungerar. Dessa saker kommer ut så snabbt att den introduktion och den typ av stöd som man skulle ha fått för it-programvara för tio år sedan helt enkelt inte finns. Allas inställning till detta är: prova på det, så kommer du att lista ut hur det fungerar.