Automation og menneskelige fejl

I de seneste år har idéen om, at skibe kan automatiseres, fået en fremtrædende plads i den danske og internationale maritime debat. Ofte bliver forskellige bevæggrunde for automatisering, f.eks. ønsket om vækst, driftsbesparelser og øget sikkerhed, italesat på samme tid i en optimistisk stemning af, at teknologien kan løse de problemer, som den maritime verden står over for.

Debatten er i udpræget grad hypotetisk, fordi teknologien endnu ikke er moden til implementeringen af helt eller halvt automatiserede skibe. I en sådan hypotetisk debat, der er præget af en teknologisk optimisme, kan det være svært at have en kritisk tilgang til emnet uden at fremstå bagstræberisk: Teknologi, som skaber arbejdspladser, giver øget profit og skaber sikkerhed, kan ikke være forbundet med noget dårligt.

Det er dog forståeligt, at nogle søfolk indtager en kritisk position til automation, fordi skibe er præget af en manglende teknologisk pålidelighed, f.eks. maskinsystemer, som kræver konstant tilsyn og vedligehold, og navigationssystemer, der ikke i tilstrækkelig grad er designet til at understøtte navigatørens arbejde. Der opstår derfor en kontrast mellem den teknologiske fremtidsvision og den praktiske virkelighed, som søfolk møder på skibe.

Jeg efterlyser derfor en mere reflekteret diskussion om automation af skibe. Min kritiske tilgang til emnet handler ikke om, hvorvidt automation er en god eller dårlig ide, men om gyldigheden af de sikkerhedsovervejelser, der ligger til grund for forskellige grader af automation.

Et væsentligt bidrag til den danske debat er den foranalyse, som DTU har udarbejdet i samarbejde med Søfartsstyrelsen. Rapporten baserer sig på erfaringer og viden opnået i forbindelse med selvkørende biler og ubemandede fly og igangværende overvejelser fra tilsvarende projekter vedrørende skibe. I rapporten henvises til European Maritime Safety Agencys ulykkesstatistikker, der peger på menneskelige fejl som den udløsende årsag i 62 % af hændelserne med EU-registrerede skibe i perioden 2011-16 (EMSA, 2016).

I andre undersøgelser, fra f.eks. forsikringsbranchen, findes der lignende statistikker om betydningen af menneskelige fejl. Det er tilsyneladende logisk, at hvis de fleste ulykker skyldes søfolk, så vil det være hensigtsmæssigt at indføre varierende grader af automatisering som erstatning for søfolk. Det vil mindske de menneskelige fejl og dermed øge sikkerheden på skibe. Der er dog flere grundlæggende problemer med det ræsonnement, og jeg vil derfor i det følgende beskrive to af dem.

Den menneskelige fejl som årsag til en ulykke
At skelne mellem en menneskelig og en mekanisk fejl baserer sig på en formodning om, at man kan adskille mennesket fra den teknologi, som mennesket arbejder sammen med. Denne adskillelse er dog ikke mulig.

Ved øget automation er der ingen klar grænse mellem operatøren og den teknologi, som operatøren anvender, fordi begge parter kræver noget af hinanden for at kunne udføre en opgave. F.eks. bestemmes et skibs position ved brug af mange forskellige typer teknologi (radar, GPS, ECDIS), der anvendes af navigatøren, og de beslutninger, som navigatøren træffer, afhænger af, hvor god teknologien er til at vejlede navigatøren. Ved en grundstødning giver det derfor sjældent mening udelukkende at fokusere på navigatøren som problem. Derimod skal forklaringen på en ulykke basere sig på en undersøgelse af samspillet mellem teknologien og de omstændigheder, som navigatøren har arbejdet i.

Betyder det, at den tidligere omtalte statistik, som EMSA har offentliggjort, er forkert? Nej, den omtaler slet ikke menneskelige fejl, men derimod ”human erroneous action”, der er et mere nuanceret begreb end ”menneskelig fejl”, fordi det indeholder en analyse af menneskets handlinger i forhold til sine omgivelser.

Kort sagt fortæller statistikken ikke noget om, at mennesket er problemet, men at det derimod er menneskets samspil med omgivelserne, som er problemet. I den sammenhæng spiller teknologien en væsentlig rolle i forståelsen af ulykkers opståen.

Øget autonomi giver en større arbejdsbyrde
I debatten om automation bliver der fokuseret på, at der kan udvikles teknologi, som enten kan hjælpe en navigatør med at træffe de rigtige beslutninger, dvs. beslutninger, som ikke medfører en ulykke. At få automation til at udføre eller støtte en navigatørs arbejde kræver en forståelse af, hvad navigatørens opgave består i – denne forståelse er ofte fraværende, når udstyr designes.

Det elektroniske søkort er et eksempel på teknologi, hvor det bliver tydeligt, at der er forskel på, hvordan designeren af udstyret anser en navigatørs arbejdsopgave, og den måde en navigatør rent faktisk udfører opgaven på. Hvis man betragter skærmen på et elektronisk søkort, kan man se, at den forsøger at hjælpe navigatøren ved at levere så mange oplysninger som muligt på så lidt plads som muligt.

Den grundlæggende tænkning her er jo flere informationer, des bedre kvalitet af beslutningerne. Sådan forholder det sig dog ikke. Tværtimod bliver arbejdsbyrden større og mere kompliceret.

Nu bliver det navigatørens opgave at sortere og fravælge en stor mængde information, fordi menneskets hjerne ikke er i stand til at håndtere alle de oplysninger på én gang. Derfor vil man kunne observere, at navigatører kun anvender de mest basale funktioner i de elektroniske kortsystemer – ellers får de for travlt og får ikke tid til at kigge på radaren, kigge ud ad vinduet og tale i radioen. Travlheden, som en navigatør kan opleve, bliver forstærket af, at teknologien har gjort det muligt at sejle hurtigere på mindre plads end tidligere.

Det betyder, at den sikkerhedsmargin, som navigatører arbejder i, kontinuerligt bliver mindre, efterhånden som teknologien udvikler sig.

Men når en ulykke sker, vil det være den enkelte navigatør, som vil blive udråbt som problemet og ikke alle de ydre omstændigheder, der bragte ham/hende i en vanskelig situation.

En måde at håndtere navigatørens travlhed på er at udvikle teknologi, der kan håndtere de store mængder data, og som kan træffe beslutninger på navigatørens vegne. Her kommer idéen om det overvågede, autonome skib i spil. Udfordringen bliver at få automation til at fungere i et dynamisk miljø, som vanskeligt lader sig styre af regler, og som kræver konstant situationstilpasning.

En grundlæggende opgave for en navigatør er konstant at tilpasse sig skiftende omstændigheder i form af f.eks. komplekse og uforudsigelige trafikmønstre og skiftende strøm- og vindforhold. Dvs. der er ingen faste regler for, hvordan arbejdet skal udføres, og derfor er der ikke noget entydigt svar på, hvad sikker fart er, eller hvornår der er risiko for kollision.

Jeg vil derfor, imod bedre vidende, komme med en forudsigelse om, at autonomien vil blive udfordret i en sådan grad, at det er omverdenen, som skal ændre sig for at få det autonome skib til at fungere.

Efterhånden, som automationen udvikles, vil der sandsynligvis blive stillet krav til styring og regulering af det miljø, som skibet befinder sig i, f.eks. flere trafiksepareringer, VTS, integration af automationen mellem skibe osv. På den måde vil udviklingen søge at begrænse den kompleksitet, som teknologien befinder sig i.

Teknologien har bragt os i en situation, hvor arbejdet er blevet mindre manuelt. Det paradoksale er, at arbejdsbyrden derved er blevet større og mere kompliceret. I et sådant teknologisk miljø kan vi ikke alene anse navigatøren som kilden til en ulykke, men bliver nødt til at betragte både navigatøren og skibets teknologi som et samlet hele.

Der ikke er dog ikke nogen grund til at være en teknologisk pessimist, fordi denne dagsorden kan i sidste ende vise sig at være en gave til søfolk. Det er dog kun en fordel under forudsætning af, at der anvendes flere ressourcer på forskning og udvikling af pålideligheden af skibes teknologi, og at der vil ske en modernisering og øget brugervenlighed af den teknologi, som navigatøren anvender, så arbejdet mellem navigatøren og teknologien bliver lettere og ikke sværere.