Medlemstidning för Sveriges Ingenjörer

AI behöver regler

Bild: the_renderfish/Thinkstock
Bild: the_renderfish/Thinkstock

I takt med att artificiell intelligens blir allt mer kraftfull växer också behovet av att kunna reglera maskinernas beteende. Det menar forskaren Magnus Hjelmblom som har skapat ett ramverk för att kunna göra det på ett säkert sätt.

Det kan komma en dag när maskiner med intellektuell förmåga kommer att kunna förbättra sig själva och utveckla en intelligens många gånger mer avancerad än vår egen. Somliga ser den här utvecklingen som mänsklighetens räddning, där maskinerna kan hjälpa oss att hantera svält, åldrande och sjukdomar. Andra menar att artificiell intelligens kan innebära början på slutet för mänskligheten.

Forskaren Magnus Hjelmblom vid Högskolan i Gävle hör till den mindre oroliga skaran. Med hjälp av normer, olika slags regler som reglerar beteende, kan vi se till att agenterna, det vill säga program som är helt eller delvis självständiga och kan göra egna val, bara gör det de har tillåtelse till, säger han. Magnus Hjelmblom har i sin avhandling använt och vidareutvecklat ett algebraiskt ramverk för att kunna göra just detta.

– Om man vill kunna styra mjukvaruagenters beteende, eller robotar som på något sätt ska samspela med varandra, så måste man reglera dem på något sätt. Ett sätt är att använda normer, ett begrepp som för tankarna till outtalade sociala regler, men i mitt fall kan det också röra sig om om formella regelsystem och lagar, berättar Magnus Hjelmblom.

Agenternas beteende kan styras av vad de vill göra samtidigt som de styrs av ett normativt system som berättar vad de får och inte får göra.

Fördelen med att utgå från algebra i stället för logik, som har varit det vanligaste hittills, är bland annat att den algebraiska metoden lämpar sig väl för tillämpning i datavetenskapliga sammanhang, något som demonstreras i avhandlingen, säger Magnus Hjelmblom.

– Datavetenskapliga problem modelleras ofta med hjälp av formell logik, men för att kunna säga något utöver de enkla samband som gäller i alla sammanhang så måste logiken kopplas till det underliggande problemområdet, som ofta beskrivs i mängdteoretiska termer. Det är där algebran kommer in i bilden. Varför då inte börja direkt med den algebraiska strukturen, i stället för att ta en omväg via logiken?

Det som är avgörande för utvecklingen av artificiell intelligens är att människorna behåller kontrollen över den, anser Magnus Hjelmblom.

– Fattar vi en lång rad korkade beslut kan vi tappa kontrollen. Jag tror att det i slutändan är viktigt att vi under överskådlig tid, även om maskinerna utvecklas allt mer, behåller kontrollen över maskinerna och att människorna behåller ansvaret för maskinernas utveckling.

Ania Obminska

LÄMNA EN KOMMENTAR

Please enter your comment!
Please enter your name here

SENASTE NYTT

Kreativa ingenjörer löser kriser i covidvården

0
För medicintekniska ingenjörer har det senaste året varit allt annat än normalt. Brist på utrustning och förbrukningsmaterial har krävt snabba beslut, hårt arbete och problemlösning.

Neddragningarna på Chalmers – så många fick gå

0
juni varslade Chalmers 180 anställda om uppsägning. Nu är de fackliga förhandlingarna avslutade och uppsägningarna blev färre än befarat.
Karta över relativa löneläget per län

Så skiljer sig ingenjörernas löner mellan länen

6
Lönerna för ingenjörer skiljer sig ganska mycket över landet. Utifrån ett medelvärde på 100 ligger Stockholms län på 106,9 medan Västernorrland bara har 91,4.

Hemarbetet sätter arbetsmiljöarbetet på nya prov

1
Förutsättningarna för en god arbetsmiljö i hemmet varierar från person till person. Det behövs därför mer kunskap om hur man hanterar det på ett systematiskt sätt, konstaterar Myndigheten för arbetsmiljökunskap.

Bisarra krav på utländska forskare

21
Går Migrationskommitténs förslag igenom kommer tusentals utländska forskare och ingenjörer att tvingas lämna landet. Det skriver Ulrika Lindstrand och Mats Ericson i en debattartikel.
Stefan Westergård med Freedesk

Ingenjören med 12 språk skapade ett mobilt ståbord

1
Under pandemin har många staplat skokartonger eller haft datorn på strykbrädan för att kunna stå och jobba. Men civilingenjören Stefan Westergård hade redan en egen lösning.   

Därför behövs ingenjörer i det fackliga arbetet

0
Att engagera sig fackligt är både roligt och utvecklande. "Det är en häftig resa att göra" säger Jörgen Lundqvist, ombudsman på Sveriges Ingenjörer.

Nytt jobb vid 60 – Lourdes tog stöd av facket och lyckades

1
Byggnadsingenjören Lourdes Valencia var lite orolig inför chansen att få nytt jobb som 60-åring. Envishet och goda råd från Sveriges Ingenjörer var betydde mycket för att hon lyckades.
Sveriges Ingenjörers styrelse 2020-2021

Fem platser i styrelsen uppe för omval – nu vill valberedningen få förslag

0
Vid Ingenjörsfullmäktige i höst är fem av platserna i Sveriges Ingenjörers förbundsstyrelse uppe för omval. Nu vill valberedningen få förslag på personer som vill vara med och ser till att förbundet är relevant.

Därför blir vi utmattade av digitala möten

0
Forskare vid Stanford University har identifierat fyra orsaker till zoom-trötthet, och vad du själv kan göra för att undvika att drabbas av det.

VI REKOMMENDERAR

Man som ligger i gräs

Så här fungerar förskottssemester

0
Enligt semesterlagens regler har alla rätt till 25 dagars semester per år. Men man har inte rätt till betald semester direkt när man börjar...

TOPPLISTA