Granska samma risker som i annan kod
Kontrollera att bibliotek, API:er och inställningar finns i den version ni använder. Läs hur koden validerar indata och hanterar fel. Testa att en användare inte kan läsa eller ändra en annan organisations data. Ett AI-genererat test kan dela samma felaktiga antagande som implementationen, så kontrollera att testet faktiskt prövar ett oönskat beteende.
Kör inte föreslagna kommandon med breda rättigheter innan du har förstått dem. Använd syntetiska data och en avgränsad miljö för försök. Kontrollera beroenden och deras ursprung innan de införs.
Promptinjektion kräver tekniska gränser
En agent kan läsa en webbsida, ett dokument eller ett supportärende som innehåller instruktioner att exportera interna data. Det hämtade innehållet ger ingen befogenhet. Separera betrodda instruktioner från innehåll och begränsa systemets faktiska åtkomst. En uppmaning till modellen att vara försiktig är inte ensam ett tillräckligt skydd för en obegränsad integration.
Kontrollpunkter före drift
- Minsta nödvändiga dataåtkomst och separata rättigheter för läsning och skrivning.
- Hemligheter i avsedd servermiljö, aldrig i promptar, klientkod eller delade loggar.
- Tester för felaktig indata, promptinjektion, avbrutna anrop och otillåtna handlingar.
- Relevanta godkännanden innan externa eller svåråterkalleliga handlingar.
- En fungerande stoppfunktion, incidentväg och plan för återställning.
Dokumentera antaganden och ändringar
Ange vilka modell- och verktygsversioner ni har testat och vilka begränsningar som finns. Spara teknisk händelseinformation utan att rutinmässigt logga personuppgifter eller hemliga promptar. Nya funktioner eller behörigheter kan kräva ny granskning. Utvecklarspåret hos AI-kunnighet.se ger en grund; ett produktionssystem behöver dessutom systemanpassad teknisk och vid behov rättslig bedömning.
Källor och vidare läsning
- EU-kommissionen: frågor och svar om AI-kunnighet (svensk maskinöversättning)
- IMY: GDPR och AI
- EUR-Lex: AI-förordningen (EU) 2024/1689
Regler och vägledning kan ändras. Kontrollera originalkällan för beslut i din verksamhet.
Läs vidare
Nästa steg / utbilda kollegorna
Gör kunskapen gemensam på arbetsplatsen
Låt kollegorna öva på beslut om AI, information och ansvar. Sex avsnitt på svenska följs av kunskapstest och deltagarintyg. Du ser vilka som är klara och kan hämta teamets genomförandelogg.
12 månaders tillgång från beställningsdagen. Ingen prenumeration.