För investerare
Gå till MyFondia

Nytt förslag till EU förordning avseende artificiell intelligens (AI)

Fondia
Nyheter 30 april 2021

Dator

EU Kommissionen presenterade den 21 april förslag till nya regler om AI.  Ett övergripande syfte med förslaget är att öka människors känsla av tillit och förtroende för de olika sätt som AI-teknik kan användas. För samtidigt som AI-tekniken möjliggör fantastiska innovationer som kan leda till förbättrade möjligheter inom tex sjukvård, utbildning, säkrare produkter – helt enkelt för att AI-system kan eliminera den mänskliga faktorn och tillhandahålla lösningar som är konsekventa, snabba och tillförlitliga, så finns den etiska aspekten med i bilden som vållar oro. Kommer min låneansökan behandlas med hjälp av ett AI-system där ett ansiktsbedömningsprogram kommer fram till att jag har kriminella anlag? Eller kommer min självkörande bil inte kunna göra etiskt korrekta värderingar, när jag närmar mig ett trafikljus i hög hastighet, bromssträckan är för lång och en grupp barn går över gatan samtidigt som ett äldre par går på trottoaren?

Frågorna är många, oron är på sina håll stor, vilket EU Kommissionen söker motverka genom sitt förslag.

Vad innebär de nya reglerna

Förslaget utgår därför från olika risknivåer där den högsta risknivån beskrivs som AI-system med oacceptabla risker vilka anses utgöra hot mot människors säkerhet, möjligheter att försörja sig och mot människors rättigheter, vilka kommer att vara förbjudna. Dit hör transporter, utbildning, säkerhetskomponenter i produkter, rekrytering, arbetsledning, vissa privata och offentliga tjänster (inkl. kreditbedömning), brottsbekämpning, migrationshantering, rättsskipning, demokratiska processer. Nästa nivå av risker består av AI-system med hög nivå av risker vilka föreslås omfattas av strikta skyldigheter innan de får lov att spridas på marknaden. Därefter har kommissionen identifierat risknivåer för AI-system som utgör begränsad risk och minimal risk.

Det är alltså med utgångspunkt från hur en mjukvarubaserad lösning med integrerad AI-teknik risklassificeras, som kommer att utgöra basen för vilka regler och skyldigheter som kommer att gälla.

Vidare föreslås inrättande av en europeisk nämnd för artificiell intelligens, frivilliga uppförandekoder och regulatoriska ”sandlådor” med syfte att främja innovation.

Vem riktar sig reglerna till?

En viktig målgrupp är medborgarna inom EU till vilka EU Kommissionen vill skicka en signal som ökar känslan av trygghet och tillit. En annan viktig målgrupp är de olika aktörer som är verksamma inom riskområdena som klassificerats som oacceptabla eller såsom högriskområden. Här vill EU redan nu flagga för att man inte kommer att tveka att utdela förbud eller sanktioner. Det går inte heller att helt frångå det uppenbara i det politiska spelet där EU, genom förslaget vid sidan av sin samordnade AI-plan och genom sitt fokus på digitalisering, vill skicka en tydlig signal till omvärlden att man tänker ta ledningen i arbetet med att utveckla globala normer inom AI området. 

Vad är lämpliga åtgärder att vidta i nuläget?

Då reglerna ännu så länge enbart är i förslagsstadiet, är det lämpligt att invänta slutliga formuleringar innan en detaljerad analys genomförs och åtgärder införs. Vi rekommenderar dock privata såväl som offentliga aktörer med verksamheter enligt uppräkningen i nästa stycke, att redan nu:

·         Identifiera frågan för bevakning.

·         Identifiera avtal, interna strategier och riktlinjer vilka kommer att behöva ses över.

·         Bygga in marginaler i långsiktiga projekt, för att ta höjd för kommande lag.

Primärt berörs verksamheter; såväl privata som offentliga aktörer, verksamma inom områden såsom infrastrukturer (särskilt transporter), utbildning, framtagande av produkter med AI-system vilka används i processer och ingrepp med koppling till säkerhet och hälsa, personalfrågor (anställning, rekrytering, arbetsledning), offentliga och privata tjänster kopplade till kreditprövning, brottsbekämpning, hantering av migration, asyl och gränskontroller, rättskipning och demokratiska processer.

Vad händer härnäst?

Förslaget ska diskuteras och sannolikt kommer flera modifieringar göras innan det till sist kan godkännas av parlamentet och efter införlivande i medlemsstaterna träda i kraft. Någon ungefärlig tidpunkt för när så kan ske har inte tillhandahållits. Precis som med den tidigare GDPR förordningen (General Data Protection Regulation) är inriktningen att regelverket ska börja gälla samtidigt i alla EU-länder.

Slutligen

EU Kommissionens förslag bör förmodligen framför allt ses som ett utslag för att man vill visa handlingskraft mer än att man har ett färdigarbetat förslag. EU beskriver själva sitt förslag som ”banbrytande” samt att man härmed tar ledningen för globala normer inom området, och det återstår att se om det slutliga regelverket kan ges den beskrivningen. Än återstår många diskussioner innan ett slutligt regelverk kan uppvisas.

EU Kommissionen har utsett detta decenniet till ”The Digital Decade”. I ljuset av den digitaliseringsvåg som farit fram med alltfler tjänster och varor som är tillgängliga över nätet, kan det anses vara ett väl beskrivande namn. Ett antal EU direktiv har lagts fram och inväntar nu på att bli nationella lagar i medlemsländerna vilka ger konsumenter bättre skydd vid sådan gränsöverskridande näthandel. Bland andra direktivet om tillhandahållande av digitalt innehåll (EU/2019/770), varudirektivet (EU/2019/771), det s.k. Omnibus direktivet med modernisering av unionens konsumentskyddsregler (EU/2019/2161) och direktivet om grupptalan (EU/2020/1828). En övergripande inriktning i dessa direktiv är att söka åstadkomma harmonisering av reglerna till förmån för konsumenter vid gränsöverskridande näthandel. Samma inriktning på harmonisering ser ut att vara linjen vad gäller en kommande förordning om AI.

Teknologi och IPR