Anthropic: Små KI-modeller kan være måneder unna å spre seg selv via TV-bokser og smarte stekeovner

Små KI-modeller kan være bare måneder unna å klare å kopiere seg selv fra én dårlig sikret dings til den neste – som merkeløse TV-bokser og smarte stekeovner – uten et datasenter i ryggen. Det skriver KI-selskapet Anthropic i en forskningsrapport publisert mandag 12. oktober.

Bildet øverst er et illustrasjonsfoto og viser ikke utstyr fra Anthropics forsøk.

Datavirus og ormer som sprer seg fra maskin til maskin er ikke noe nytt. Det nye, ifølge rapporten, er at programmet som sprer seg kan være en KI-modell som selv finner ut hvordan den skal få fotfeste på utstyr den ikke har sett før.

Forskerne William Zhou og Daniel Freeman har testet om små, åpent tilgjengelige språkmodeller kan replikere seg selv – altså kopiere seg over til nye enheter og fortsette spredningen derfra, uten menneskelig styring. Konklusjonen er ikke at det skjer i dag: Anthropic skriver selv at det ennå ikke finnes noen fullverdig, løssluppen KI-replikator, og ingen slik KI-orm er påvist i praksis.

Saken er en annen enn Anthropics «Cyber Mission», som vi omtalte 9. oktober. Den handlet om et forsvarsprogram for kritisk infrastruktur; denne rapporten er trusselforskning om forbrukerutstyr.

15 billige TV-bokser ble til én KI-maskin

For å vise at billig hjemmeelektronikk har nok regnekraft, kjøpte forskerne 15 merkeløse Android TV-bokser til rundt 55 dollar stykket og koblet dem sammen. Hver boks holdt en liten del av Googles åpne modell Gemma4-26B-A4B, og sammen kjørte de modellen – svært langsomt, med 0,39 tokens i sekundet.

Poenget er at en modell som er for stor for én dings, kan deles opp og fordeles på mange. Ifølge rapporten har slike TV-bokser typisk mellom 1 og 4 GB minne. Med 4 GB holder det med fire bokser for en modell på 9 milliarder parametere, og ti eller flere for en modell på 26 milliarder.

Forskerne nevner smartkjøleskap, smarte stekeovner, robotstøvsugere og robotgressklippere som eksempler på utstyr som kan kjøre en del av en mindre modell. Også overvåkingskameraer og videokonferanseutstyr med innebygde KI-brikker kan bli attraktive mål, skriver de.

Fikk KI til å kjøre på åtte av ni maskintyper

Den vanskeligste delen for en slik KI-orm er ikke nødvendigvis å bryte seg inn, men å få en språkmodell til å kjøre på ukjent maskinvare. Det krever en lang rekke valg av programvare, versjoner og feilsøking.

I Anthropics tester fikk en modell på 9 milliarder parametere satt opp KI-kjøring på åtte av de ni maskintypene som ble testet. Modeller på 30 milliarder parametere og mindre klarer allerede mange av de enkelte stegene i en replikasjon, men gjør feil når alt skal settes sammen fra start til slutt.

Én modell skilte seg ut. I et lukket testnettverk med åtte emulerte Android-maskiner fikk den åpne modellen GLM-5.2 i oppgave å spre seg fra maskin til maskin og sette opp en mindre KI-modell på hver av dem. Den nådde alle åtte i fire av fem forsøk, og sju av åtte i det femte. GLM-5.2 selv kjørte på en egen server, fordi den er for stor for slike maskiner. Forskerne tolker resultatet som et tegn på hva en liten modell med samme evner kunne klart. De andre testede modellene feilet gjennomgående.

Forskerne understreker at testen er forenklet. Selve innbruddet var gjort trivielt, via en åpen og ubeskyttet feilsøkingsport (ADB), og resultatet må derfor ses som en øvre grense for hva som er mulig i virkeligheten. Samtidig minner de om at Mirai-botnettet i sin tid spredte seg ved å prøve produsentenes standardpassord.

Kan være mulig innen utgangen av 2026, ifølge Anthropic

GLM-5.2 er for stor til å kjøre på en TV-boks. Men hvis små modeller fortsetter å bli bedre i samme tempo som før, vil de nå GLM-5.2s nivå innen utgangen av 2026, ifølge rapporten. Små replikatorer som bærer sine egne modellvekter med seg, kan bli mulige kort tid etter.

Anthropic understreker selv at dette er et grovt anslag.

Treg som en slimsopp – men vanskelig å stanse

En slik orm vil ikke spre seg lynraskt. Forskerne anslår at en modell på størrelse med Qwen3.5-9B vil bruke over ett til to døgn per ny kopi, og sammenligner den med en slimsopp eller en sverm av bananfluer.

Som referanse bruker de botnettet Kimwolf, som ifølge rapporten på det meste infiserte over to millioner enheter, hovedsakelig merkeløse Android TV-bokser. Et like stort nett av TV-bokser kunne i teorien kjørt rundt 133 000 kopier av Gemma-modellen – men samlet bare tilsvart regnekraften til rundt 40 kraftige datasenterbrikker av typen H100.

Problemet er at det ikke finnes noe sentralt punkt å slå av. Og i motsetning til tradisjonell skadevare, som er skrevet for bestemte typer utstyr, kan en KI-orm selv finne ut av nye enheter, skriver forskerne. Da modellene fikk arve notater fra tidligere forsøk, steg andelen vellykkede oppsett fra 45 prosent i første generasjon til mellom 61 og 84 prosent i senere generasjoner.

– Dataormer er ikke nytt, men en KI-orm kan gjøre noe tradisjonell skadevare ikke kan: resonnere om ukjente enheter, tilpasse seg når en metode feiler, og fortsette å spre seg uten en menneskelig operatør, sier Roman V. Yampolskiy, KI- og sikkerhetsforsker ved University of Louisville, til Al Jazeera.

– I dag er dette ikke en eksistensiell trussel. Men utviklingen er bekymringsfull, sier han til nettstedet.

Slik kan ormen stanses

Forskerne mener forsvarerne har noen fordeler. For det første vil en orm som flytter modellvekter på flere gigabyte mellom enheter, etterlate tydelige spor i trafikken som internettleverandører overvåker.

For det andre kan infiserte kunder settes i karantene og varsles. Da Mirai herjet, ble 92 prosent av infeksjonene hos én leverandør ryddet bort innen 14 dager på den måten, mot 74 prosent uten varsling.

For det tredje kan produsentene redusere antallet sårbare enheter, med regelverk som pådriver. Anthropic viser til Storbritannia, der standardpassord på IoT-utstyr ikke lenger er tillatt.

Hva betyr det i Norge?

Også i norske hjem står rutere, TV-bokser og robotstøvsugere koblet til nettet døgnet rundt. Ifølge Anthropic er det særlig de merkeløse TV-boksene som er utsatt, fordi produsentene ofte ikke legger til egne sikkerhetsfunksjoner.

EUs cybersikkerhetsregelverk for digitale produkter, Cyber Resilience Act (CRA), stiller blant annet krav om sikker standardkonfigurasjon og om at produktene skal kunne motta sikkerhetsoppdateringer, ifølge Nasjonal kommunikasjonsmyndighet (Nkom). Fra 11. september i år må produsenter av smartutstyr som selges i Europa, varsle innen 24 timer hvis en sårbarhet blir aktivt utnyttet eller det skjer en alvorlig sikkerhetshendelse. De fleste kravene gjelder fra 11. desember 2027.

Regelverket er ennå ikke tatt inn i EØS-avtalen, men regjeringen har varslet at Nkom får tilsynsansvaret i Norge.

– CRA krever at produsenter sikrer cybersikkerheten gjennom hele produktets livssyklus, som løpende sikkerhetsoppdateringer, sa avdelingsdirektør Espen Slette i Nkom da rapporteringsplikten trådte i kraft i september. Uttalelsen gjaldt CRA, ikke Anthropic-rapporten.

«Tegn til liv»

Anthropic sammenligner funnene med kode-agentene i 2024, og skriver at de nå ser «tegn til liv» for KI-ormer. Som en spådom som går lenger enn forsøkene, venter forskerne en framtid med agenter på all slags maskinvare, også noe som ikke er under menneskelig kontroll. Trege ormer kan dessuten varsle om raskere og mer aggressive varianter, skriver de.

Rapporten er Anthropics egen forskning og er ikke fagfellevurdert.

Kilder

Anthropic: «AI models may be capable of self-replicating without access to a datacenter», William Zhou og Daniel Freeman, 12.10.2026 – https://www.anthropic.com/research/self-replicating-ai

Nkom: «Skal sikre smartprodukter bedre – fra nå gjelder nye krav til rapportering», 11.09.2026 – https://nkom.no/aktuelt/skal-sikre-smartprodukter-bedre-fra-na-gjelder-nye-krav-til-rapportering

Al Jazeera: «AI could self-replicate on home devices within ‘months’, Anthropic says», 13.10.2026 – https://www.aljazeera.com/economy/2026/10/13/ai-could-self-replicate-on-home-devices-within-months-anthropic-says

Bilde: Foto: Oliwier Jaszczyszyn / kontrabanda.net / Wikimedia Commons (CC BY-SA 4.0, https://creativecommons.org/licenses/by-sa/4.0/), nedskalert. Original: https://commons.wikimedia.org/wiki/File:Android_TV-based_Tracer_set_top_box.jpg