Microsoft slår Counterfit AI Security Assessment Tool til Open Source

Microsoft har vendt sit AI-sikkerhedsrisikovurderingsværktøj, Counterfit, open source, så alle kan begynde at bruge værktøjet gratis. I øjeblikket kan organisationer bruge Counterfit til at automatisere sikkerhedsrisikovurderinger og sikre, at den beskyttelse, de bruger, er helt op til bunden.

Microsoft oprindeligt udviklet Counterfit som et internt værktøj, der hurtigt kunne vurdere sikkerheden i AI og machine learning-systemer. Det startede livet som en samling af scripts, inden det hurtigt gik ind i en generisk AI-automatisering, som en operatør kan bruge til at "angribe flere AI-systemer" på én gang.

Microsoft bruger nu regelmæssigt Counterfit som et kerneværktøj i deres AI-røde holddrift. Da Counterfit er miljø, model og data agnostisk, kan værktøjet levere præcis vurdering uden impedans.

Selve værktøjet er designet til brug af sikkerhedsprofessionelle. Counterfit bruger lignende arbejdsgange til andre populære red-team-værktøjer som Metasploit eller PowerShell Empyre med omfattende support til scripting, forudindlæste angrebsalgoritmer, sårbarhedsscanning, avanceret logning og mere, der er adgang via kommandolinjen.

Microsoft har arbejdet udførligt med sikkerhedsprofessionelle og store organisationer for også at udvikle Counterfit bedre. På den Microsofts sikkerhedsblog, Matilda Rhode, senior cybersikkerhedsforsker, Airbus, sagde:

AI bruges i stigende grad i industrien; Det er vigtigt at se fremad med at sikre denne teknologi, især for at forstå, hvor funktionsrumangreb kan realiseres i problemområdet. Udgivelsen af ​​open source-værktøjer fra en organisation som Microsoft, som sikkerhedsudøvere kan evaluere sikkerheden ved AI-systemer er både velkommen og en klar indikation af, at industrien tager dette problem helt seriøst.

Du kan finde open source Microsoft Counterfit på deres officielle GitHub.

Relaterede: Job, du aldrig vidste, blev udført af AI

Hvorfor er counterfit nyttigt?

Selv for en virksomhed på størrelse med Microsoft er det ikke let at udføre effektive sikkerhedsvurderinger, især når disse virksomheder er enorme Fortune 500-ledere, regeringer, non-profit og meget mere. En tidligere Microsoft-undersøgelse viste, at et stort antal virksomheder ikke kunne teste deres AI-systemer nøjagtigt.

Vi fandt ud af, at 25 ud af 28 virksomheder angav, at de ikke har de rigtige værktøjer til at sikre deres AI-systemer, og at sikkerhedsprofessionelle leder efter specifik vejledning i dette rum.

Counterfit gør det lettere at gennemføre disse vurderinger ved at automatisere processen med analyse og test.

Relaterede: Måder, du kan bruge AI-teknologi til at forbedre din virksomhed

Desuden en for nylig offentliggjort Gartner-undersøgelse opførte AI-sikkerhedstilpasning som en af ​​de vigtigste sikkerhedsforanstaltninger, som en virksomhed kan tage for at forbedre beskyttelsen. Den samme undersøgelse bemærkede, at "I 2024 vil organisationer, der implementerer dedikerede AI-risikostyringskontroller, med succes undgå negative AI-resultater dobbelt så ofte som dem, der ikke gør det."

Kort sagt, Counterfit, der bliver et open source AI-sikkerhedsvurderingsværktøj, skal hjælpe med at gøre verden til et lidt mere sikkert sted.

Disse 4 antivirusværktøjer bruger AI til at beskytte dit system

Skal dit næste antivirusabonnement omfatte kunstig intelligens, eller er det bare endnu et sikkerhedsord?

Læs Næste

Om forfatteren