Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Hybridarbete – forskarnas råd för att få det att fungera

0
Några dagar på kontoret och några dagar hemma. Hur får vi det hybrida arbetslivet att fungera, både för företag och individer? Läs forskarnas råd.

Fortsatt bra arbetsmarknad för ingenjörer

1
Tillgången på civil- och högskoleingenjörer kommer vara ungefär lika stor som efterfrågan om fem år. Den bedömningen gör Sveriges Ingenjörer. Arbetsgivarnas krav på att utbilda fler är fel väg säger förbundet.
Mittuniversitetet och IPCC

Att bli högskoleingenjör kan ta dig hela vägen till FN:s klimatpanel

1
Lyft fram vad man kan bli som högskoleingenjör, tycker Jessica Bagge på Sveriges Ingenjörer. Som att man kan bli Sveriges representant i IPCC, som Lena Lindström.

Bortsållad på grund av ålder – så här kan du göra

0
Ålder ska inte vara ett hinder i arbetslivet. Trots det är det många som upplever just detta. Så här kan du och facket sätta press.

Expertens tips inför löneförhandlingen: ”Var djärv och ta i”

0
Ett nytt jobb innebär även ett guldläge för en högre lön. Så här vässar du dig inför löneförhandlingen.
Säkerhetskit

Vad vill du läsa om i Ingenjören? Tipsa oss – vinn säkerhetskit

0
Ingenjören.se behöver vi din hjälp att göra tidningen ännu bättre. Svara på två frågor och var med i utlottningen av tre säkerhetskit från Sveriges Ingenjörer.

Byggcheferna har något att lära andra chefer (fastän de inte tror det själva)

0
Cheferna på en byggarbetsplats har ett unikt ledarskap – men kanske inte på det sätt man först tänker. En ny bok sätter fokus på de ledare som själva aldrig skulle framhäva sig som experter på ledarskap.
Distansarbete

Förslag: Skriv in möjligheten att jobba på distans i avtalen

1
Slå fast i avtalen att det ska vara ökade möjligheter att jobba på distans även efter pandemin. Det är ett av förslagen till årets Ingenjörsfullmäktige. Andra förslag handlar om allt från medlemsavgiften till ett Ingenjörernas Hus i Göteborg.

Ericsson vill överge fasta arbetsplatser

21
Ericsson planerar att bygga om kontor till mötesplatser där de egna arbetsplatserna försvinner. Sveriges Ingenjörer är oroliga för att utvecklingsteamen kan behöva gå skiftgång.
Programmeringsböcker

Nu har Python passerat Java och C – här är de 50 populäraste språken

0
Python är det mest populära programmeringsspråket enligt Tiobe-indexet. Men säger den typen av index något? "De är en bra start", svarar KTH-professorn Benoit Baudry.

VI REKOMMENDERAR

Se till att du får rätt lön på första jobbet

1
Ska du förhandla din första lön? Ta reda på så mycket du kan om arbetet och se till att du kommer in rätt i lönestrukturen.

TOPPLISTA