Nordiska ingenjörer har bidragit till riktlinjer kring AI och etik

0
1963
Nordiska ingenjörer har tillsammans med studenter och företagsledare tagit fram riktlinjer för hur etiska frågor och AI bör hanteras av företag och rekommendationer för politiker. Foto: GettyImages.

Hur kan vi tillvarata möjligheterna med artificiell intelligens men undvika riskerna? Några svar finns i de riktlinjer och rekommendationer som ingenjörer, studenter och företagsledare från de nordiska länderna nyligen har enats om.

Artificiell intelligens, AI, innebär stora möjligheter men vem tar det etiska ansvaret för hur tekniken påverkar oss? Många pekar på behovet av tydligare riktlinjer på alla nivåer, framför allt hos företag men också på regeringsnivå. Det är bakgrunden till den workshop som ANE (Association for Nordic Engineers) arrangerade tillsammans med IT-universitetet i Köpenhamn i slutet av september.

Deltagarna delades upp i grupper om fyra som tillsammans diskuterade och formulerade svar på frågor som hade skickats ut innan. Gruppernas gemensamma uppfattningar kompletterades också med de individuella svar som varje deltagare fick lämna.

Françoise Petersen, IT-ingenjör från Sverige, är en av ingenjörerna som deltog i workshopen tillsammans med andra ingenjörer, studenter och företagsledare.

Françoise Petersen

– Den stora bredden på personer med olika erfarenheter var viktig för att få olika infallsvinklar på frågorna. Jag är överraskad över hur stor samsyn det fanns men blandningen av deltagare bidrag till att olika aspekter kring AI och etik kom upp på bordet. Många bidrog med exempel på problem som andra inte hade tänkt på.

Frågorna som deltagarna fick diskutera kretsade mer kring det etiska ansvaret för AI på företagsnivå än varje enskild individs ansvar. Françoise Petersen menar att det är viktigt att prata om AI och etik på organisatorisk nivå.

– System är ofta komplexa och varje enskild ingenjör som arbetar med teknikutveckling har sällan möjlighet att se helhetsbilden. Företagen anlitar ofta konsulter och ibland har konsulterna underkonsulter. Vem har då ansvaret? Det är viktigt att företagen har riktlinjer att följa och att checklistor finns på projektnivå, säger hon.

Resultaten från workshopen har nu sammanställts till tio riktlinjer för företag och fem rekommendationer till regeringar kring AI och etik. Några av dem kan uppfattas som ganska självklara men det tycker Françoise Petersen bara är en fördel.

– Målet är att de ska kännas självklara och lätta att ta till sig. Företagen behöver checklistor för att inte tappa bort ansvaret för AI och etik och politikerna behöver övergripande policys för att de etiska frågorna kring AI ska finns med i prioriteringar och politiska beslut.

Karin Virgin

Riktlinjer till företag om AI och etik

  1. Skapa forum för diskussioner om AI och etik som leds och stöttas av både arbetsplatser och samhället.
  2. Ta fram verktyg för etiska diskussioner, frågor och beslut om AI, under hela utvecklingsfasen och inte bara i början och slutet.
  3. Upprätta interna regler och checklistor för att hantera etiska frågor i AI-utveckling, exempelvis säkra att viktiga kontroller utförs av människor.
  4. Utveckla system för intern rapportering av risker och överträdelser med en tydlig åtgärdsplan.
  5. Upprätta interna program som ger anställda större förståelse för etik och utvecklar förmågan till etisk reflektion, debatt och identifierar fördomar.
  6. Ägna extra uppmärksamhet åt potentiella fördomar som kan ingå i systemutveckling, träningsdata och prestanda, särskilt sådana som kan påverka de mest utsatta.
  7. Utveckla en modell som tar ansvar för potentiella skador som orsakas av AI-system.
  8. Upprätta en intern etisk granskningsprocess som gör beslutsprocessen mer demokratisk genom att involvera fler interna aktörer.
  9. Arbeta för större insyn inte bara i beslut som rör design och utveckling av AI-system utan också av ansvaret i beslutsprocesserna.
  10. I ansträngningarna för att skapa större insyn, var uppmärksam på att insyn har sina egna fallgropar och begränsningar.

Rekommendationer till regeringar om AI och etik

  1. Det finns behov av att förankra diskussioner på politisk nivå och öka allmänhetens förståelse om AI. En lösning kan vara att skapa en plattform – en mötesplats med full insyn – där beslutsfattare, näringsliv, akademi, samhälle och experter som ingenjörer kan bidra med lösningar på etiska utmaningar med AI.
  2. Det råder brist på utbildning kring etiska ställningstaganden både på grundutbildningar och vidare under hela arbetslivet.
  3. Det är angeläget att utveckla en statlig process där individer och organisationer ska kunna anmäla AI-system som upplevs som potentiellt skadliga.
  4. Det finns behov av tydligare regelverk och lagstiftning som tydliggör ansvar och definierar ansvarsområden i frågor som rör AI.
  5. Ingenjörer behöver forum för att diskutera frågor kring AI och etik. För att driva sådana forum krävs finansiering och olika former av stöd.

 

LÄMNA EN KOMMENTAR

Please enter your comment!

Redaktionen förbehåller sig rätten att granska och redigera kommentarer. Publicering sker efter att inlägget granskats. Skriv gärna kort, håll god ton och håll dig till ämnet. Vi publicerar inte kommentarer med personangrepp. Kommentarsfältet stängs 21 dagar efter artikelns publiceringsdag.

Please enter your name here

SENASTE NYTT

Facken på Scania välkomnar tuffare miljökrav på lastbilar

I februari antog EU ett avtal om högre krav på CO2-utsläpp från lastbilar. Facken på Scania tycker att målen är både realistiska och nödvändiga och akademikerna sticker dessutom ut hakan. De ser gärna att...

Så bryter du dåliga semestervanor

Sommar och semestertider innebär också att vi dricker mer alkohol. Kanske hänger semestervanorna med ett tag in i sensommaren. Här är några varningstecken du bör se upp med. Att svenskarna dricker mer under sommaren än...
Nasa-astronauten Ricky Arnold på Michoud Assembly Facility, New Orleans.

Teknikföretag populära bland unga – och oväntad drömarbetsgivare

Teknikföretagen dominerar listan över de mest populära arbetsgivarna bland unga i Sverige – också för icke-ingenjörer. Men för dem som jobbar eller studerar teknik är det ännu tydligare. Och i den gruppen har en...
Föreläsning på KTH

Så hög blev antagningspoängen till ingenjörsutbildningarna i höst

Teknisk fysik på KTH och industriell ekonomi i Lund blev de civilingenjörsutbildningar som man behövde högst betyg för att komma in på i höstens antagning - 22,19 respektive 21,80. För högskoleingenjörsutbildningarna toppar teknisk design...

Här har kompetensutveckling blivit en konkurrensfördel

Många arbetsgivare lovar kompetensutveckling – löften som sällan visar sig hålla. I vardagen saknas både tid och pengar. På Attentec har man insett att kompetensutveckling som fungerar är ett sätt att sticka ut. Utbildningen...

Forskare undersöker om ingenjörer kan ersättas med AI och robotar

Hur kommer artificiell intelligens att förändra arbetsmarknaden och hur påverkas arbetsuppgifter och löner för akademiker, bland annat ingenjörer? Frågorna ska en grupp forskare besvara i en stor studie som startar vid årsskiftet.    Det saknas inte...
Ingenjörer som diskuterar.

Nej! – så här säger du ifrån utan att få fiender

Att säga ja till allt på jobbet har sina självklara nackdelar – från att bli överlastad med arbetsuppgifter till att genomföra projekt som du inte tror på. Men att säga nej är inte alltid...

”Många upplever att det är tabu att fråga om min stamning”

Hur fungerar det att jobba som ingenjör och stamma? Ska man berätta i sin jobbansökan att man stammar? Och hur vill stammarna att kollegor inte ska bete sig? Mattis Larsson som har grundat företaget...

”Har jag rätt till tjänstledighet?”

Att vara tjänstledig är ett tryggt sätt att ta en paus från jobbet för att göra något annat. Men i vilka fall har jag rätt till ledighet och när kan min arbetsgivare säga nej?...
Mats Rehnholm

Hopprepshoppande ordförande för distrikt Sörmland

I mars hade Sveriges Ingenjörers distrikt Sörmland årsmöte och valde styrelse. Ändå dröjde det till juni innan styrelsen utsåg en ordförande. Nu har Mats Rehnholm tagit på sig uppgiften och styrelsen planerar att ordna...