AI behöver regler

0
1018

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!

Redaktionen förbehåller sig rätten att granska och redigera kommentarer. Publicering sker efter att inlägget granskats. Skriv gärna kort, håll god ton och håll dig till ämnet. Vi publicerar inte kommentarer med personangrepp. Kommentarsfältet stängs 21 dagar efter artikelns publiceringsdag.

Please enter your name here

SENASTE NYTT

FMV, Experis och Sigma fortsätter rekrytera.

De fortsätter att rekrytera ingenjörer 

Det är inte tvärstopp på arbetsmarknaden. Många verksamheter rullar på och rekryterar. Vi har pratat med några.

Så laddar du för din första löneförhandling

Glöm inte bort ditt värde i jakten på drömjobbet, även om det just nu är tufft på arbetsmarknaden. De rekommenderade ingångslönerna är ett av flera bra verktyg att luta sig mot.
Lars Mellbin, Mikael Thieme och Martin Enequist, medicintekniska ingenjörer i Region Halland, jobbar nu för fullt för att hantera situationen med Covid-19.

Ingenjörer i vården letar alternativ för att hantera corona

För ingenjörer som jobbar med medicinteknisk utrustning eller fastigheter inom vården har arbetet snabbt fått ställas om.   

Hundratusentals följer ingenjörens Coronakarta

Civilingenjören Elin Lütz har utvecklat coronakartan.se som nu har över 50 000 besökare om dagen.  

Jobberfarenhet kan bli genväg till studier

Att kunna dra nytta av sin arbetslivserfarenhet är en viktig komponent för att fler ska kunna utvecklas i yrkeslivet, enligt Valideringsdelegationen. Frågan är hur relevant är det för svenska ingenjörer.

Civilingenjören bytte yrke tre gånger: “Följde min nyfikenhet”

Civilingenjören Marléne Johansson har sadlat om från civilingenjör till lärare, startat eget företag och sedan bytt karriär en gång till. Och det är inget hon ångrar.

Över 8 000 ingenjörer korttidspermitteras

Den här veckan har tre av landets största industriföretag korttidspermitterat merparten av sina anställda. Nära 8 000 medlemmar i Sveriges Ingenjörer berörs.

Vänta med lönesamtalen till hösten

Avtalsrörelsen 2020 skjuts upp med anledning av coronaviruset. Sveriges Ingenjörers råd till företagen som berörs är att vänta med lönesamtalen.

Rekordstor bonus till Scanias anställda

Resultatbonusen för Scanias medarbetare blev rekordstor i år, en ljusglimt i dessa dystra coronatider.

Tre digitala tips som underlättar distansmötet

När allt fler uppmanas att jobba hemma ökar också behovet av att mötas digitalt. Här är tre tips som kan ge dina digitala möten ett lyft.