Kort fortalt
- Anthropic arbejder på FlashProve, der kan bevise, hvilken AI-model der har lavet et svar.
- Det skal forhindre, at en udbyder i hemmelighed skifter til en billigere model.
- Koden er open source, men systemet er endnu ikke taget i brug.
Når du betaler for den bedste AI-model, hvordan ved du så, at det faktisk er den, der svarer? Det spørgsmål vil Anthropic, firmaet bag Claude, gerne kunne besvare. Virksomheden har den 3. november beskrevet et forskningsprojekt ved navn FlashProve.
Sådan virker det
Idéen kaldes “bevisbar inferens”. Hver AI-udbyder offentliggør et slags fingeraftryk af sin model. Et svar kan derefter tjekkes kryptografisk op mod fingeraftrykket – lidt ligesom en digital signatur på en e-mail viser, hvem der har sendt den. Fingeraftrykket afslører ikke selve modellen, så også lukkede, kommercielle modeller kan være med.
Ifølge forskerne er løsningen så let, at tjekket kan køre på din egen computer.
Hvorfor er det relevant for din virksomhed?
Flere og flere virksomheder køber AI gennem tredjepartsværktøjer, hvor man ikke altid kan se, hvilken model der ligger bag. Med et system som FlashProve kan man i fremtiden få dokumentation for, at man får det, man betaler for – og for, at en leverandør fx har brugt en bestemt model til en sikkerhedsscanning.
Endnu ikke klar
Anthropic har lagt specifikation og kode ud som open source på GitHub, men der er ingen planer om at tage systemet i brug foreløbig – hverken hos Anthropic eller andre. Forskerne kalder det selv et udtryk for “foreløbige fremskridt” og inviterer andre til at bygge videre.
Ofte stillede spørgsmål
Hvad er FlashProve?
Et open source-forskningsprojekt fra Anthropic, der kryptografisk kan bevise, hvilken AI-model et svar kom fra.
Kan jeg bruge FlashProve i dag?
Nej, ikke i praksis. Koden er offentlig, men systemet er ikke taget i brug hos nogen AI-udbyder endnu.
Kilder: TechCrunch: Anthropic is working on a system to prove AI models’ identity