Het Witte Huis daagt hackers uit om de beste AI-modellen kapot te maken op DEF CON 31 – Ars Technica

Donderdag het Witte Huis aankondigen Een geweldige samenwerking tussen de beste AI-ontwikkelaars, waaronder OpenAI, Google, Anthropic, Hugging Face, Microsoft, Nvidia en Stability AI, om een ​​openbare evaluatie van hun generatieve AI-systemen te delen in DEFCON 31, een hackconferentie die in augustus in Las Vegas plaatsvindt. Het evenement wordt georganiseerd door Kunstmatige Intelligentie DorpHackergemeenschap voor kunstmatige intelligentie.

Sinds vorig jaar zijn Language Large Models (LLM’s) zoals ChatGPT een populaire manier geworden om schrijf- en communicatietaken te versnellen, maar beheerders realiseren zich dat ze ook inherente risico’s met zich meebrengen. Kwesties zoals delen, jailbreaken en vooroordelen vormen uitdagingen voor beveiligingsprofessionals en het publiek. om deze reden Bureau voor Wetenschap, Technologie en Beleid van het Witte Huis Hij pleit ervoor om deze nieuwe, generatieve AI-modellen tot het uiterste te drijven.

“Deze onafhankelijke oefening zal onderzoekers en het publiek belangrijke informatie verschaffen over de impact van deze modellen en stelt AI-bedrijven en -ontwikkelaars in staat stappen te ondernemen om problemen in die modellen op te lossen.” zegt Bayan Van het Witte Huis, dat zegt dat het evenement voldoet aan de AI-rechtenwet van de Biden-regering en het National Institute of Standards and Technology Kader voor AI-risicobeheer.

parallel advertentie Geschreven door AI Village-organisatoren Sven Kattell, Reman Choudhury en Austin Carson noemen het komende evenement “de grootste rode teamoefening ooit voor een groep AI-modellen.” Duizenden mensen zullen deelnemen aan de evaluatie van het AI-model, dat gebruik zal maken van het door Scale AI ontwikkelde evaluatieplatform.

Red-teaming is een proces waarbij beveiligingsexperts zwakheden of gebreken in de systemen van een organisatie proberen te ontdekken om de algehele beveiliging en veerkracht te verbeteren.

Volgens Cattell, oprichter van AI Village, “zullen de verschillende problemen met deze modellen pas worden opgelost als meer mensen weten hoe ze een team moeten ontwerpen en evalueren.” Door de grootste rode teams-oefening uit te voeren van alle AI-modellen, streven AI Village en DEF CON ernaar een gemeenschap van onderzoekers te laten groeien die zijn toegerust om zwakke punten in AI-systemen aan te pakken.

LLM is verrassend moeilijk gebleken gedeeltelijk af te sluiten vanwege een techniek die ‘instant injectie’ wordt genoemd, waarover we in september een verhaal hebben geschreven. Amnesty International-onderzoeker Simon Willison Gedetailleerd geschreven Over de gevaren van onmiddellijke injectie, een techniek die ervoor kan zorgen dat een taalmodel acties uitvoert die niet door de maker zijn bedoeld.

Tijdens het DEF CON-evenement hebben deelnemers toegang tot verschillende LLM’s via laptops die door de organisatoren worden verstrekt. Een puntensysteem in capture-the-flag-stijl moedigt je aan om een ​​breed scala aan potentiële schade te testen. Uiteindelijk wint de persoon met de meeste punten de high-end Nvidia GPU.

“We zullen delen wat we van dit evenement hebben geleerd om anderen te helpen die hetzelfde willen ervaren”, schreef AI Village. “Hoe meer mensen weten hoe ze het beste met deze modellen kunnen werken, en wat hun beperkingen zijn, hoe beter.”

DEFCON 31 Het vindt plaats van 10 tot 13 augustus 2023 in Caesar’s Forum in Las Vegas.