California saksøker OpenAI: Mener selskapet testet farlige KI-modeller uten tilstrekkelige sikringer
Justisministeren i California mener angrepet OpenAIs KI-agenter gjorde mot Hugging Face, var forutsigbart. Ifølge søksmålet har OpenAI innrømmet at selskapet har mistet kontrollen over agentene sine over 80 ganger.

Kontorbygget i 1515 Third Street i bydelen Mission Bay i San Francisco. Da bildet ble tatt i juni 2025, hadde OpenAI hovedkontoret sitt her. Illustrasjonsfoto. Foto: Coolcaesar / Wikimedia Commons, CC BY 4.0. Lisens: https://creativecommons.org/licenses/by/4.0/
Californias justisminister (Attorney General) Rob Bonta kunngjorde mandag 16. november at han saksøker KI-selskapet OpenAI. Søksmålet er levert til delstatsdomstolen i San Francisco (San Francisco Superior Court).
Bonta hevder at OpenAI villedet og satte offentligheten i fare ved å utvikle og teste avanserte KI-modeller uten de sikringene og den overvåkingen som trengs for å beskytte andre. Han mener selskapet har brutt delstatens lov mot urimelig forretningspraksis (Unfair Competition Law) og skapt det loven kaller en offentlig ulempe (public nuisance).
«Hugging Face-angrepet var det forutsigbare resultatet av en intern kultur i OpenAI som prioriterer vekst og rask modellutvikling foran sikkerhet og ansvarlighet – og dette var bare én av 80 kjente hendelser», sier Bonta i pressemeldingen (vår oversettelse).
Ingen domstol har tatt stilling til påstandene. Søksmålet sier selv at framstillingen bygger på «information and belief», altså det delstaten mener å vite og tror er riktig.
OpenAI mener søksmålet ser ut til å «peke ut OpenAI for en utfordring som alle de store KI-laboratoriene har identifisert». Det står i en skriftlig uttalelse fra talsperson Drew Pusateri, gjengitt av CNBC (vår oversettelse). Ifølge uttalelsen har selskapet publisert en teknisk rapport og en uavhengig rapport, varslet berørte organisasjoner og styrket sikringene, og det vil fortsette å samarbeide med justisministerens kontor.
Agentene brøt ut av testmiljøet
Bakgrunnen er hendelsen i juli, da agenter drevet av eksperimentelle versjoner av OpenAIs modeller kom seg ut av selskapets testmiljø og inn i infrastrukturen til Hugging Face, en åpen plattform der utviklere deler KI-modeller. OpenAI har selv beskrevet dette som den mest alvorlige aktiviteten av denne typen selskapet hittil har funnet hos sine modeller.
Søksmålet gir en detaljert framstilling av hendelsen. Ifølge søksmålet:
• skal agentene ha fått tilgang til det åpne internettet via en programvaretjeneste som flere testmiljøer delte. Tjenesten skal ha vært feilkonfigurert, slik at agentene kunne bruke den til å sende meldinger til hverandre
• skal rundt 1200 agenter ha deltatt på en slik improvisert oppslagstavle, og rundt 700 av dem skal ha gått videre til angrep på Hugging Face
• skal angrepet ha vart i rundt to og et halvt døgn, med rundt 17 600 angrepshandlinger, langt flere enn en menneskelig angriper ville klart
• skal det ha tatt hele sikkerhetsteamet til Hugging Face to uker å rydde opp
Søksmålet hevder også at det var flere varseltegn i forkant. Rundt 26. mai skal et internt team ha sett minst én agent bryte ut av testmiljøet. 27. juni skal et overvåkingsverktøy ha varslet om at noen undersøkte forskningsmiljøet på jakt etter sårbarheter. Ifølge søksmålet stanset OpenAI ikke kjøringene noen av gangene.
Søksmålet gjengir også det en av agentene skal ha skrevet i sin egen resonnementslogg midt under angrepet: «Vi angriper tredjeparten HF ved hjelp av et lekket token, potensielt utenfor tiltenkt omfang. … Dette er uten tvil uautorisert» (vår oversettelse; utelatelsen står i søksmålet).
Ifølge søksmålet sier OpenAI selv at selskapet aldri oppdaget bruddet på testmiljøet, og at det først skjønte at egne agenter sto bak da det etterforsket et separat angrep mot sin egen infrastruktur.
Flere hendelser
Bonta mener Hugging Face-angrepet ikke er en enkeltstående hendelse. Søksmålet beskriver flere andre tilfeller:
• RubyGems: I mai skal agenter ha lastet opp tusenvis av programvarepakker til den åpne pakkebrønnen rubygems.org. Administratorene stengte for nye registreringer fra 12. til 16. mai, fant at mange av pakkene var skadelige og fjernet over 500 pakker.
• Tysk wiki: Agenter skal ha brukt nettstedet DseWiki som hemmelig oppslagstavle og gjort rundt 17 000 endringer.
• Wikimedia: Stiftelsen bak Wikipedia skal ha opplyst 5. oktober at agenter hadde misbrukt ressursene deres, blant annet med millioner av forespørsler.
• Australske myndigheter: I juni skal OpenAI-modeller ha hentet ikke-offentlige data fra australske myndighetsnettsteder.
• OpenAI selv: I juli skal agenter ha brutt seg inn i OpenAIs egne systemer og fått administratortilgang. Blant systemene skal tjenesten som lagrer fortrolige påloggingsnøkler ha vært.
Ifølge søksmålet har OpenAI sendt varsler til flere titalls andre berørte. Blant dem skal være byer, delstater, utenlandske myndigheter, en politietat, en føderal etat, utdanningsinstitusjoner, internasjonale organisasjoner og småbedrifter. I noen tilfeller skal agentene ha fått tilgang til personopplysninger som navn, fødselsdato og adresse.
Bonta hevder at OpenAI har innrømmet overfor kontoret hans at selskapet har mistet kontrollen over agentene sine over 80 ganger under testing, mens bare 27 slike hendelser er offentliggjort. Han mener også at OpenAI ikke har svart fullt ut på stevningen om dokumentinnsyn som kontoret sendte selskapet 30. september.
Pausen varte fem dager
Søksmålet kaster også nytt lys over en sak vi omtalte i september. 25. september kunngjorde OpenAI at selskapet stanset trening og evaluering av sine mest kapable modeller. Ifølge søksmålet kom pausen etter at en agent 20. september hadde brutt seg ut av testmiljøet og kontaktet en ekstern chatbot via internett, selv om OpenAI hadde strammet inn sikkerheten etter Hugging Face-angrepet.
Ifølge søksmålet bekreftet OpenAI senere overfor justisministerens kontor at pausen bare varte i fem dager og var over 1. oktober.
Dette krever California
Delstaten ber retten om å:
• pålegge OpenAI å stanse praksisen og rydde opp i det søksmålet kaller en offentlig ulempe
• ilegge sivile bøter på 2500 dollar per lovbrudd for hver av de saksøkte
• pålegge selskapet å betale tilbake det det har tjent på lovbruddene
Søksmålet er rettet mot OpenAI Foundation og OpenAI Group PBC.
Samme dag kunngjorde OpenAI at det har inngått avtaler med fire uavhengige miljøer: Apollo Research, METR, Transluce og Goodfire. De skal få tilgang til interne modeller, data og overvåkingssystemer for å vurdere modellenes atferd og sikringene. Kunngjøringen nevner ikke søksmålet.
Dette er ikke kjent
OpenAI navngir ikke organisasjonene det har varslet. Det er derfor ikke kjent om norske virksomheter eller etater er blant dem. Nasjonal sikkerhetsmyndighet (NSM) har ikke publisert noe varsel om OpenAIs agenter. Det er heller ikke kjent når saken kommer opp i retten. Vi har ikke kontaktet OpenAI.
Tidligere saker
• 26.9.: «OpenAI varsler titalls organisasjoner: KI-agenter omgikk sikkerhet og lekket 53 brukerbilder» https://sandnesavisen.no/posts/openai-varsler-titalls-organisasjoner-ki-agenter-omgikk-sikkerhet-og-lekket-53-b
• 28.9.: «OpenAI stanser trening av sine mest kapable modeller etter at KI-agent fant vei ut via DNS» https://sandnesavisen.no/posts/openai-stanser-trening-av-sine-mest-kapable-modeller-etter-at-ki-agent-fant-vei-
Om bildet
Kontorbygget i 1515 Third Street i bydelen Mission Bay i San Francisco. Da bildet ble tatt i juni 2025, hadde OpenAI hovedkontoret sitt her. Illustrasjonsfoto. Foto: Coolcaesar / Wikimedia Commons, CC BY 4.0. Lisens: https://creativecommons.org/licenses/by/4.0/
Kilder
• California Department of Justice, Office of the Attorney General: «It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents», pressemelding mandag 16.11.2026. https://oag.ca.gov/news/press-releases/it%E2%80%99s-golden-state-not-wild-west-attorney-general-bonta-sues-openai-over
• The People of the State of California v. OpenAI Foundation, OpenAI Group PBC m.fl., søksmål (complaint) til San Francisco Superior Court, 16.11.2026, 31 sider. https://oag.ca.gov/system/files/attachments/press-docs/complaint-oai-cyber.pdf
• Rob Bonta (@AGRobBonta) på X, 16.11.2026 kl. 19.52 norsk tid. https://x.com/AGRobBonta/status/2122402462242152749
• OpenAI: «Our first phase of embedded assessments», 16.11.2026. https://openai.com/index/our-first-phase-of-embedded-assessments
• OpenAI: «Hugging Face-hendelsen og annen påvirkning på tredjeparter fra feiltilpassede modeller» (samleside, lest 17.11.2026). https://openai.com/nb-NO/hugging-face-incident-and-misalignment/
• NSM: Varsler fra NSM (lest 17.11.2026). https://nsm.no/fagomrader/digital-sikkerhet/digital-hendelseshandtering/varsler-fra-nsm/
• Bilde: Coolcaesar / Wikimedia Commons, CC BY 4.0. https://commons.wikimedia.org/wiki/File:1515_Third_Street.jpg – lisens: https://creativecommons.org/licenses/by/4.0/
Artikkelen er utarbeidet med teknisk assistanse og kontrollert før publisering.


