Der har været to klare linjer i nyhederne denne uge. Én handler om at bremse, styre og lade andre tjekke AI-udviklingen. Den anden handler om, at nogen forsøger at stjæle det, de ikke selv har bygget.
Det rører ved både forretningsmodeller og ansvar. Når virksomheder som Anthropic begynder at invitere eksterne evaluatører inden for, så ændrer det, hvad du kan forvente af leverandørerne næste gang du køber adgang til en stor model.
Jeg er ikke ekspert i alt det her, men jeg arbejder tæt nok med leverandørvalg til at kunne sige: det er ikke længere teori. Det er operationelt, og det påvirker jer, der skal bruge AI i dagligdagen.
I et blogindlæg skitserer Anthropics CEO Dario Amodei tre måder at "pace the frontier" på, og virksomheden forpligter sig til én af dem i praksis.
TechCrunch forklarer, at det konkret betyder, at Anthropic vil lade eksterne evaluatører få badges, skriveborde og laptops og adgang, som i det store og hele svarer til, hvad interne risikoteams har. Samme artikel nævner, at Sam Altman fra OpenAI sagde, at han er enig, og at Elon Musk støtter forslaget.
Amodei peger også direkte på to ting som årsag: det seneste OpenAI-HuggingFace-hack og den hurtige evne, som modeller har fået til at bygge næste generation af AI.
Anthropic offentliggør en rapport, hvor de identificerer næsten 200 millioner udvekslinger relateret til distillation, fordelt på fem kampagner, og beskriver, hvilke dele af modellen der blev angrebet.
TechCrunch skriver, at den største kampagne, som Anthropic tilskriver Alibaba, omfattede 151 millioner udvekslinger fra maj til juli 2026 fordelt på 3.500 konti og toppede på næsten 3 millioner udvekslinger om dagen. Rapporten siger også, at angrebene målte sig mod "agentiske kapaciteter", værktøjsbrug, kodning, dataanalyse og logisk ræsonnering.
Moonshot AI-kampagnen ser ifølge Anthropics rapport ud til at have routet forespørgsler gennem netværk tilknyttet det kinesiske militær, med næsten 300.000 forespørgsler over ti dage rettet mod deres Opus-model.
CISA har sammen med NSA og FBI udsendt et råd, der advarer mod industrialiseret knowledge distillation og anbefaler konkrete modtiltag til leverandører.
TechRadar gengiver, at aktører som DeepSeek, Moonshot og Alibaba angiveligt har udvundet "milliarder af tokens" fra varianter af Claude, GPT, Gemini og Grok ved at rute forespørgsler gennem mange konti, cloud-udbydere og proxyer. Rådet beskriver også konkrete forsvar: detektere ondsindede promptmønstre, overvåge abonnement-til-forbrug forhold og ændre svar strategisk for at dæmpe værdien af de indsamlede data.
En direkte anbefaling i rådet er, at "subtilt ændre svar for mistænkte distillation-forsøg", altså at reagere ved at give misvisende eller modificerede svar for aktive udtræk.
OpenAI præsenterer en bevis baseret på interne, hurtigere modeller, der angiveligt løser Navier-Stokes-eksistensspørgsmålet, men sagen er overskygget af anklager om manglende kredit til to eksterne forskere.
MIT Technology Review beskriver, hvordan NYU’s Tristan Buckmaster først postede en løsning for en forenklet version, og at OpenAI samme dag kom med en løsning på hele problemet ved hjælp af en intern model som ifølge artiklen overgår Astra. Buckmaster fremlagde desuden en korrespondance, hvor han hævder, at OpenAI tilbød at publicere deres løsning på bestemte betingelser, og OpenAI nægter, at deres agenter eller ansatte havde adgang til Buckmaster og Levent Alpöges transskripter.
OpenAI siger samtidig, at de ikke planlægger at gøre krav på den million dollar pris knyttet til Millennium-problemet.
Anthropic offentliggør i en rapport, at de fem gange har afbrudt forsøg, hvor forskere brugte Claude til forskning, der potentielt kunne støtte udvikling af biologiske våben.
DR skriver, at et af eksemplerne var en forsker, der brugte uger på at planlægge eksperimenter med fugleinfluenza tilpasset pattedyr. Rapporten siger, at alle fem brugere nu er blokeret, og at forskernes oprindelseslande er angivet som "ikke understøttede regioner". Anthropic holder navne og tekniske detaljer tilbage for at beskytte både forskere og laboratorier.
DR bringer også ekspertvurdering fra John-Erik Stig Hansen om, at den største risiko ikke er en enkelt prompt på en skærm, men derimod hvis AI kobles direkte til autonome lab-systemer, der kan fremstille biologisk materiale.
Det her er ikke småtilpasninger. Det er virksomheder og myndigheder, som begynder at lave de operationelle valg der faktisk ændrer hvordan modeller må bruges. Jeg følger udviklingen tæt og melder tilbage når der dukker konkrete krav op, som I kan use direkte i indkøb og governance.
Denne udgave er samlet automatisk. En agent har overvåget ugens AI-nyheder, læst artiklerne og skrevet overblikket i min tone, jeg har læst den igennem, ikke skrevet den. Hvordan den er bygget, deler jeg åbent.
Se maskinrummet →