Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Lockar ingenjörer med tre månaders gratis boende

0
Elbilsföretaget Nevs i Trollhättan behöver rekrytera ingenjörer men konkurrensen i Västsverige är stor. Nu vänder man sig nu utomlands och erbjuder tre månaders gratis boende.

Frustration bland studenter när kursvärderingar inte gör skillnad

0
Det finns problem som studenter tar upp i kursvärderingar år efter år. Men går det att byta ut en kursansvarig som inte tar till sig kritik? Ingenjören har undersökt hur det funkar på Linköpings tekniska högskola.

Manifestation mot villkoren för utländska forskare

1
Den nya utlänningslagen slår på ett orimligt sätt mot utländska forskare. Det hävdar ett hundratal doktorander och forskare som nyligen samlades vid en manifestation på Sergels torg i Stockholm.
Volvo Cars

Chefstjänster på Volvo Cars vikta för vissa personer – ”Ingen idé att söka”

5
Vid många av chefstillsättningarna på Volvo Cars är det bestämt på förhand vem som ska få jobbet. För ingenjörerna som vill bli chefer har det här betytt att de inte fått chansen.

Vad är min övertid värd?

0
Vad bör jag ha koll på när jag avtalar bort bort min övertid? Och hur mycket är den övertiden värd? Christoffer Sörman, ombudsman på Sveriges Ingenjörer delar med sig av sina bästa råd.

Det här är frågorna om semester som många ställer nu

0
Fick du inte semesterveckorna du hade hoppats på? Vill du hellre vara långledig på vintern men chefen säger nej? Viktor Rosencrantz, ombudsman på Sveriges Ingenjörer, svarar på de hetaste semesterfrågorna.
Patricia Quaglia och Sofia Johannesson

Hållbarhet och chefsfrågor vinnare i Ingenjörsvalet

0
Årets Ingenjörsval är avgjort. Ericssonlistan blev störst, men störst ökning fick Ingenjörer för ett hållbart samhälle och Chefer och ledarskap. Dessutom ökade valdeltagandet.

Här är årets 70 hetaste forskningsprojekt

0
Teknik i mänsklighetens tjänst var temat för årets IVA-lista över forskning med potential att förändra världen. Här är hela listan.

Tre metoder som tar udden av stressen

0
Oro kan komma plötsligt, lägga sig som ett lock över tankarna och ge ont i magen – även när den är helt obefogat. Här är tre konkreta tips på hur du kan hantera oro och stress i vardagen.
Arbetslöshet april 2020-april 2022

Arbetslösheten sjunker igen – men skillnad mellan inriktningarna

0
Arbetslösheten för ingenjörer fortsätter att sjunka och tangerar nu den lägsta nivån sedan 2012. Men nivåerna skiljer sig mellan inriktningarna – särskilt för civilingenjörer.

INGENJÖRSKARRIÄR

VI REKOMMENDERAR

Nytt jobb? Därför ska du alltid kolla löneläget med facket

0
Att nya medarbetare kommer in på för låga löner drabbar inte bara den enskilda personen, det drabbar hela kollektivet. "Prata med facket lokalt innan du sätter dig i en löneförhandling" är rådet från en lokal fackordförande.

TOPPLISTA