AI behöver regler

0
1233

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!

Redaktionen förbehåller sig rätten att granska och redigera kommentarer. Publicering sker efter att inlägget granskats. Skriv gärna kort, håll god ton och håll dig till ämnet. Vi publicerar inte kommentarer med personangrepp. Kommentarsfältet stängs 21 dagar efter artikelns publiceringsdag.

Please enter your name here

SENASTE NYTT

Emils algoritm grundade 18-åringarnas techbolag

För den som behöver köpa en dator eller telefon kan det vara svårt att veta vilken modell som passar de behov man har. Det gav några gymnasiekillar i Jönköping en affärsidé.
Usb-minne

Se upp med vad du sparar – kan vara stöld av företagshemligheter

Sparar du programkod, någon ritning eller en kundlista? Om arbetsgivaren anklagar dig för att ha stulit företagshemligheter kan det bli dyrt. 

Karriären inte slut efter utbrändheten

Sofia Wahling drabbades av utmattning på sitt första jobb. Det fick henne att tänka om. Idag är hon på ett jobb där hon trivs och mår bra. Här delar hon med sig av sina bästa råd.
Johan Westerman, Stockholms universitet

Ny studie: Den som byter jobb ofta lär sig mer

Det är inte bara lönen som ofta höjs när vi byter jobb. Vi lär oss också mer, visar en ny studie. Och det är som tydligast för personer mellan 40 och 55 år. 

Akademikernas ordförande på Volvo: ”Jag vill inte vara med om det här igen”

– Det är inte en hållbar lösning att lägga ett större varsel var tionde år för att företaget behöver ny kompetens, säger Anna Margitin, Akademikerföreningens ordförande på Volvo Cars.
Övervakning

Övervakning på jobbet ökar – också i Sverige

Allt fler arbetsgivare kollar vad anställda skriver i mejl, om de tittar på Youtube eller byter fönster under Teams-mötet. Nu behöver anställda och fack få koll på vad som sker, menar it-experten Mattias Beijmo.

Risk för fler tvister om Las förändras

Helene Robson, chefsjurist på Sveriges Ingenjörer, varnar för fler tvister på arbetsmarknaden om det blir förändringar i Lagen om anställningsskydd.

”Har jag rätt till avdrag för hemmakontoret?”

Se till att din arbetsgivare tillhandahåller den utrustning du behöver. Det är den bästa lösningen enligt Skatteverkets expert.
Annica Norlenius

140 på GKN Aerospace tar erbjudande om avgångsvederlag 

I juni meddelade GKN Aerospace i Trollhättan att var sjätte tjänst, 350 av 2 100, måste bort. För att inte bara yngre ska få sluta har facket och företaget kommit överens om att ha frivilligavtal.

”De största tekniska genombrotten är också våra största utmaningar”

Ingenjörer som yrkesgrupp har haft en avgörande roll i den svenska samhällsutvecklingen. Nu kommer en ny bok som sätter ingenjören i sitt historiska sammanhang.