Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Så hittar du ett utlandsjobb och svar på allt du behöver veta

0
I den här guiden får du tips på hur du kan hitta ett utlandsjobb och allt praktiskt du måste tänka på – innan du flyttar utomlands – och när du flyttar hem.  
hand som skriver på kontrakt

Åtta tips – tänk på det här innan du skriver på

0
Skriver du på anställningsavtalet och tänker att villkoren enkelt går att omförhandla? Eller att villkor ”egentligen inte gäller”? Tänk då om.

Sveriges Ingenjörer på Ericsson: ”Inte nu igen”

9
Efter invasionen av Ukraina har Ericsson sökt och beviljats tillstånd för export till Ryssland. Men bolaget har hävdat att exporten upphört.  Det har fått Sveriges Ingenjörer på Ericsson att reagera med besvikelse.
Ingenjörer i riksdagen 2022

Fler ingenjörer i riksdagen efter valet

0
De senaste två mandatperioderna har 12–13 av riksdagens 349 ledamöter varit ingenjörer. Nu har antalet ökat till minst 18 – och alla partier har minst en ledamot som är ingenjör.

Här är de 21 vanligaste frågorna om omställningsstudiestödet

0
Från den 1 oktober kan du söka stöd för att börja plugga nästa år med upp till 80 procent av lönen. Sveriges Ingenjörers förhandlingschef Camilla Frankelius svarar på 21 frågor om hur stödet fungerar.

Så söker du omställningsstudiestödet – en guide i sex steg

0
Den 1 oktober öppnar ansökan för att söka omställningsstudiestödet. Ingenjören  guidar dig i sex steg genom ansökningsprocessen. 

När Volvo Cars ställer om måste ingenjörerna ställa om

0
Om åtta år ska Volvo Cars inte längre göra bilar med förbränningsmotorer. För många ingenjörer på Volvo krävs att de kompetensutvecklar sig för att klara framtidens produktion och utvecklingsarbete.

8 av 10 unga ingenjörer vill bli chef

3
Bland ingenjörer under 40 år kan 80 procent tänka sig att bli chef. Det finns tecken på att den administrativa belastningen på chefer har minskat men fler pressas av oklara förväntningar och orealistiska mål.
V-huset LTH

Så skiljer andelen kvinnliga professorer mellan högskolorna – och inriktningarna

0
19,4 procent av professorerna inom teknik i Sverige är kvinnor. Här är statistiken och kommentarer från Lund, Jönköping och Högskolan Väst.  

Se upp så att flextiden inte blir en arbetsmiljöfälla

1
Flextid är en uppskattad förmån, men det finns också risker. Läs på hur avtalet är tänkt att tillämpas på din arbetsplats och var vaksam på hur mycket du egentligen jobbar.

INGENJÖRSKARRIÄR

VI REKOMMENDERAR

Borde man prata mer om lön på arbetsplatsen?

3
Kan öppna löner vara ett sätt att öka pressen på arbetsgivaren att höja lönerna? Sveriges Ingenjörers förhandlingsexpert ger sin syn på saken.

TOPPLISTA