Snart kan du vær feilprogrammert!

Hverdagen vår blir stadig med programmerbar. Snart får vi også programmerbare penger. Bevegelsen mot en programmerbar hverdag har pågått i mange år. Oftest går det bra, men noen ganger fatalt dårlig. Og for advokatstanden kommer det nok til å generere store inntekter.

Feil i programmene

Alle som har programmert dataprogrammer vet hvor vanskelig, for ikke å si umulig, det er å ha en helt feilfri kode. Feil i programkodens kalles på engelsk bug. Det er ofte tilstrekkelig å sette et punktum på feil sted for at logikken skal bli helt ødelagt og softwaren utføre noe som overhode ikke var tiltenkt. Tommelfinger-reglen i bransjen er at en god programmerer har mellom 0,5 og 50 feil i koden pr. tusen kodelinjer. Ofte er et relativt enkelt dataprogram på mange hundre tusen kodelinjer. For eksempel inneholder de relativt enkle web sidene for statens ordning for Covid-19 støtteordninger noen hundre tusen kodelinjer. Bare display enheten i Tesla 3 bilene har 30 millioner kodelinjer, hvor den Linux baserte nettleseren alene har 140 000 kodelinjer. De fleste nye elektriske bilene har mer enn 100 millioner kodelinjer totalt. Spillenheten Xbox har litt under fem millioner kodelinjer. Et Boeing 787 har 6,5 millioner kodelinjer bare i avionics og online support systemene. Det er nærmeste helt usannsynlig at det ikke er feil noe sted i koden, selv etter omfattende testing.

Fly

For noen år siden var jeg passasjer i et SAS fly som skulle lande i København i tett tåke. Kapteinen ba alle skru av alt av elektronisk utstyr, selv telefoner i flight-mode. De skulle lande utelukkende på autopilot. Landingen gikk bra og tåken var så tett at jeg ikke så bakken ut av vinduet, selv etter at vi hadde landet. Men det går ikke alltid like bra. 29. oktober 2018 tok Lion Air rute 610 av fra Soekarno–Hatta International Airport i Jakarta med 189 passasjerer og betjening om bord. Flyet var av typen Boeing 737 Max.  Etter 13 minutter krasjet flyet i havet og alle omkom. 10. mars 2019 skjedde det samme med Ethiopian Airlines Flight 302 hvor alle 157 om bord omkom. Årsaken var ifølge avisene feil i dataprogrammene som styrer flyet, hvor autopiloten tok kommandoen fra den menneskelige piloten og tok gale avgjørelser. Max flyene fikk flyforbud, og det er uvisst når de igjen får fly.  

USA og andre land har nå et droneprogram hvor droner er utstyrt med skarpe våpen for å drepe en fiende. En gjennomsnittlig drone i det amerikanske forsvaret har 3,5 millioner kodelinjer. Publikasjonen Jane regner med at det finnes 80 000 ulike droner i militært eie, de fleste benyttes til overvåkning, men om lag 2 000 er angrepsdroner. Halvparten av angrep-robotene er fra USA etterfulgt av Kina, Russland og India. Noen av dronene er også autonome, som betyr at de ikke styres av mennesker mens de er i luften.

Den amerikanske generalen Jack Shanahan sa til The Economist september 2019 at «vi ønsker ikke en situasjon der våre motstandere har en fullstendig kunstig intelligens basert styrke, mens vi ikke har det». Resultatet er at ikke bare droner, men hele våpensystemer med rakettutskyting, kjøretøy på bakken og båter blir styrt av software. Ofte analyserer og reagerer slike systemer mange ganger hurtigere enn et menneske, og en handling kan bli gjennomført lenge før en eventuell diplomatisk løsning kommer i gang. I tillegg til feil i programkoden kan software både hackes og bli manipulert med. På 1990 tallet fikk ledelsen i Russland melding fra deres tidlige varsel system om at fem ballistiske raketter var skutt opp fra USA. Ansvarlig Stanislav Petrov synes det var rart at USA bare brukte fem raketter om de hadde til hensikt å angripe, så han gjorde ikke noe. Varselet skyldes en bug i programkoden.

Biler

Tesla er alt nevnt. De er blant de første til å introdusere helt selvkjørende biler og arbeider for å levere helt autonome biler. Hvor mange hundre millioner kodelinjer som skal til for å lage den kunstige intelligensen som får dette til å fungere er usikkert, men det er betydelig. Det er beregnet at antall trafikkulykker vil bli redusert med 90 %, ettsom sensorene og «hjernen» oppdager og analyserer langt og mer enn et menneske. Det dør om lag 1,5 millioner i trafikken i året i verden, som betyr at det blir redusert til «bare» 150 000 dersom alle bilene i hele verden er selvkjørende. Hvem er ansvarlig når en liten gutt bli påkjørt av en selvkjørende bil i Oslo? Den som eier bilen, fabrikanten eller dataprogrammereren som uheldigvis hadde en bug i koden sin, selv etter omfattende testing? Her får nok advokatstanden noe å bite i i fremtiden, om ikke de også erstattes av dataprogrammer (roboter)?

Høsten 2017 kom orkanen Irma inn mot Florida og 5,2 millioner amerikanere ble bedt om å evakuere. I Florida er det mange Tesla eiere. Problemet var at batteriet for mange ikke var tilstrekkelig for den lange bilturen og med lange køer ikke noe ledig ladestasjon på veien. Dermed sendte Tesla ut en oppdatering til softwaren i bilen som økte batterikapasiteten på 1-2-3. Det viste seg at det fysisk var mye mer kapasitet enn eieren hadde betalt for og instrumentene på dashbordet viste. Dette er en trend at software tar over mer og mer fra fysiske leveranser.

John Deere

John Deere er produsent av landbruksmaskiner og har vært en pioner når det gjelder digitalisering i landbruket. Men de har muligens gått for langt for egen vinning? I 2015/2016 la fabrikken inn en programkode i dataprogrammene i traktorene som gjorde at traktoren nektet å starte dersom service ikke ble gjort på fabrikkverksteder. I USA var det flere bønder som hadde service hos små lokale verksteder som ikke var fabrikkgodkjente. Dermed ble det mange som kjøpte et hack program fra Ukraina som koblet ut programmene fra John Deere. John Deere mener selvsagt at ingen har rett til å endre kopi-beskyttet programmer fra fabrikken, mens bøndene mener de eier maskinen og har rett til både å reparere selv og hos et lokalt verksted. Uenigheten er ikke over i 2020 og ender sannsynligvis i retten, og igjen mat for advokatene. John Deere har etter sigende de siste årene tatt det videre og sørget for at om man ikke kjøper oppgraderingen av software i traktoren stoppen den når lisensavtalen går ut, en gang i året.  Dermed kan de i prinsippet benytte Gillettes «razon and blade» forretningsmodell hvor den fysiske traktoren er kunstig billig, men software-oppgraderingen er dyr.  

Programbare penger

Jeg kan ikke skrive en blogg om vår programbare fremtid uten å nevne den nye typen penger vi kommer til å ha om noen år. Sentralbankene, bankene og plattformselskapene arbeider med det som kalles Blockchain eller DLT baserte teknologier for digitale penger. Facebook Libra er en privat aktør, JP Morgan er en bank og i Kina har sentralbanken alt startet å utstede e-RMB, en ny token-basert penge som kan programmeres med smartkontrakter. De fleste som har forsøkt å programmere smartkontrakter i Blockchain/DLT og deretter sendt koden inn i en såkalt «debugger» har fått seg en overraskelse over hvor mange feil i koden som finnes og hvor vanskelig, for ikke å si umulig, det er å få den bug-fri. DAO var en av de første som fikk merke det, da de i 2016 ble kvitt nesten 500 millioner kroner fordi noen hadde en feil i en smartkontrakt som lot uvedkommende forsyne seg av kryptopengene som var lagret.        

Et av de meste omtalte programmeringsfeil i finansbransjen er muligens Knight. Selskapet hadde i 2012 installert automatisk kjøp og salg av aksjer på børsen med kunstig intelligens og avanserte algoritmer. Men problemet var at algoritmene etter hvert kjøpte på topp og solgte på bunn og selskapet tapte litt over 4 milliarder kroner før noen fikk stoppet galskapen. Men vi trenger ikke å gå utenlands for å avdekke utfordringer programmeringsfeil kan gi i finansbransjen. Det går vel nesten ikke en uke uten at en av de norske bankene eller deres felles selskaper BankID, Bankaxept eller VIPPS har tekniske problemer, ofte i forbindelse med en softwareoppdatering.  

Det som sannsynligvis vil skje er at vi enten fortsetter å venne oss til at ting ikke virker som det skal en gang iblandet, eller at noen finner opp noe som kan kvalitetssikre programkodene.  Uansett kommer hverdagen vår til å bli mer programmerbar, år for år.