Vad är AI Security? Bland annat att lura hackare med språkmodeller, att förstå läckage av träningdata och att bygga robusta system.
Artificiell intelligens påverkar säkerhetsfrågor i flera olika dimensioner. AI Sweden samlar många av dem under paraplybegreppet AI Security. I det här avsnittet berättar Bobby Bridges, Mathematician & Innovation Leader, om hur AI Sweden tillsammans med våra parter jobbar med AI som ett verktyg för ökad säkerhet men också för att bättre förstå olika säkerhetsaspekter av tekniken i sig. Ett exempel på det förra är ett projekt som utforskar hur språkmodeller kan användas för att lura angripare, och ett exempel på det senare är projektet LeakPro, vars mål är att skapa förutsättningar för samarbeten kring känslig data genom att förstå när och hur modeller läcker träningsdata. Om du vill veta mer om LeakPro var Johan Östman, research scientist, nyligen med i AI Sweden Podcast och berättade om projektet.