Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

På tur i liten bil

Ingenjören tar semester – vi ses igen den 16 augusti!

0
Följ oss gärna på Facebook och LinkedIn där vi lägger ut lästips hela sommaren. Här på Ingenjören.se är vi tillbaka den 16 augusti. Trevlig sommar! 

Ingenjörerna har jobbat mer under pandemin

0
Nästan 30 procent av ingenjörerna har fått en större arbetsbelastning under pandemin. Det är dessutom en liten ökning jämfört med förra våren.

Omformulerade platsannonser – betydligt fler kvinnor sökte 

0
Genom några enkla omformuleringar i platsannonser ökade IT-bolaget Tieto Evry andelen kvinnor som sökte med 32 procent.
Maria Samuelsson, ABB

ABB lyfter HBTQ-frågor – ”Ska kunna vara den man är”

0
Det ska gå att vara öppen HBTQ-person på ABB utan att bemötas illa. I juni hade företaget Pride-månad. Men Akademikerföreningen tycker att företaget är sent på bollen.

Civilingenjör debuterar som sommarvärd

1
"Jag kommer att prata om teknik i framkant och hur den interagerar med oss som människor. Men också vad som krävs av oss som människor att leva i en snabbt föränderlig värld", berättar Claudia Olsson som sommarpratar den 9 augusti.
Bilder från de mest lästa artiklarna 2021

Livslön, konsultpriser och gnälliga kollegor – det här är mest läst i år

0
Här är de 20 artiklar flest läst på Ingenjören.se första halvåret 2021.

Därför kan det löna sig att bli jobbonär

0
Allt fler väljer att jobba samtidigt som de börjar ta ut sin pension. Pensionsmyndighetens beräkningar visar att det dessutom kan löna sig ekonomiskt. 

Unga chefer är mer uppskattade än de själva tror

0
Unga chefer, framför allt kvinnor, har ofta ett annat ledarskap än äldre och manliga chefer. Därför är de mer uppskattade av medarbetare i alla åldrar.
Distans- och kontorsarbete

Olika beslut på teknikföretagen om distans eller kontor

5
Hur kommer Getinge, Ericsson, KTH, Facebook med flera att jobba framöver? Det får du svar på här.

Sveriges bästa lärare är en ingenjör

0
Anders Nyberg vid Leksands gymnasium har utsetts till Sveriges bästa lärare. "Det är ett jätteroligt yrke som jag trivs väldigt bra med".

VI REKOMMENDERAR

Henrik Dahlin

Ta tag i din gamnacke och ömmande muskler

0
Sveriges Ingenjörers träningsexpert ger tips för att ta hand om och stärka kroppen.

TOPPLISTA