Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Så tacklar du tristessen

0
Uttråkad på jobbet? Bryt monotonin, skapa aktiviteter att se fram emot och ta dig tid att ringa din kollega för att surra bort en stund. 
Lennart Hedström, TRR

Ingenjörer fick nytt jobb snabbare 2020 än 2019

3
Trots pandemin minskade tiden för uppsagda ingenjörer att få ny sysselsättning 2020, visar trygghetsrådet TRR:s statistik. En förklaring kan vara att vi ändrar attityd när det är kris.   
Lantmäteriet

De får 5 000 kronor till hemmakontoret

3
På Lantmäteriet har alla anställda fått 5000 kronor extra på decemberlönen som de kan använda för att förbättra hemmakontoret.

Alltid redo! Två ingenjörer har valts till Scouternas ordförande

1
När Scouterna nyligen valde ny styrelse blev det två ingenjörer som delar på ordförandeskapet. Läs intervjun med Ida Texell och Viktor Lundqvist.
Äldre och yngre kollega

Ingenjörers arbetslöshet minskar något – men skillnad mellan åldersgrupperna

4
Arbetslösheten för ingenjörer har varit i det närmaste oförändrad på 1,6–1,7 procent hela hösten. Men utvecklingen skiljer sig mellan åldersgrupperna.
Daniel Ek, Spotify

Så mycket tjänar it-topparna – och några andra

0
Ur årets listor över dem som tjänar mest har vi tagit fram dem som har koppling till ingenjörer. Tonvikten ligger på it, men här finns också några andra.

Peter Larsson ska samordna industriprojekt i norr

0
Flera stora företagsetableringar och investeringar pågår och planeras i Norrbotten och Västerbotten. Regeringen har utsett Peter Larsson på Sveriges Ingenjörer att koordinera insatserna.

Så hanterar du gnälliga kollegor

0
Visst är det bra att framföra kritik, men vad gör du om du känner att klagomålen tar över och riskerar att skada verksamheten?
Camilla Hartman Frilander, arbetschef, och Sanna Svensson, platschef, på Peab i Örebro visar upp behållaren med tamponger som nu sätts upp på arbetsplatserna.

Peab i Örebro inför gratis tamponger på byggen

0
"Byggarbetsplatser ligger inte alltid centralt vilket också kan göra det svårt att hinna iväg på rasten för att handla om man glömt skydd", säger arbetschef Camilla Hartman Frilander.  

Sänkt skatt och högre studiestöd – här är några av de nya lagarna 2021

0
Sänkt skatt för äldre, högre studiestöd för vuxna och längre giltighetstid för högskoleprovet. Den 1 januari 2021 trädde en rad lagändringar i kraft. Här är sju som påverkar arbetslivet.

VI REKOMMENDERAR

Hoppjerka eller trotjänare?

Hoppjerka eller trotjänare? Så gör du om nya jobbet inte känns bra

1
Inte nöjd med nya jobbet? Du är inte ensam, men hur ser framtida arbetsgivare på om du endast stannar en kortare tid på din nya arbetsplats?

TOPPLISTA