"Bilindustrin kommer att förändras mer de närmaste fem åren än den gjort under de senaste 50 åren."

Dan Ammann, vd, General Motors.

AI

Publicerat augusti 10th, 2017 | av Sakari Pitkänen

0

Tysklands etiska regler för självkörande bilar

Den tyska regeringen tillsatte 2016 en kommittè vars uppgift var att ta fram etiska regler för självkörande bilar. Det blev 20 bud.

Här är alla 20 i min stolpiga översättning, . Jag har översatt från den engelska texten som uppenbarligen försökt behålla ett slags tysk meningsbyggnad. Mellanrubrikerna nedan är dock mina.

Om du vill läsa hela texten i original finns den här.

En officiell engelsk översättning finns här. Där har man dock bara översatt delar av komittens betänkande. Den som vill läsa hela texten på engelska hittar en icke-officiel  här.

        Syftet är trafiksäkerhet.

  1. Det huvudsakliga syfte med delvis eller helt automatiserade transportsystem är att förbättra trafiksäkerheten för alla trafikanter. Ett annat syfte är att öka möjligheterna till mobilitet och  till ytterligare förbättringar. Teknisk utveckling följer principen om personlig autonomi, vilket innebär att individer ansvarar för sina egna handlingar.

    Individen ska skyddas
  2. Skyddet av individen har företräde framför alla andra utilitariska överväganden.
    Målet är att minska skadenivån tills den är helt borta.  Det är inte berättigat att tillåta automatiserade system om de inte lovar minst en skademinskning i jämförelse med mänskliga förare, med andra ord en positiv riskbalansering.

    Offentliga sektorn bestämmer
  3. Den offentliga sektorn ansvarar för att garantera säkerheten hos den automatiserade och och uppkopplade system som introduceras  och tillåts i offentliga trafikmiljöer. Körsystem behöver därför officiell licensiering och övervakning. Den överordnade principen är undvikandet av olyckor, även om teknisk sett, oundvikliga kvarstående risker inte ska tala mot införandet av automatiserad körning om riskbalansen är i  grunden positiv.

    Balans mellan egen och andras friheter
  4. Individens personliga ansvar för att fatta beslut är ett uttryck för ett samhälle inriktat på enskilda människor och deras rätt till personlig utveckling och skyddsbehov.  Syftet med alla politik och myndighetsutövning är att främja människans fria utveckling samt skydda individen. I ett fritt samhälle där en teknologi är lagstadgad ska en balans skapas mellan maximal personlig frihet i generell mening och andras frihet och säkerhet.

    Använd alla medel för att förhindra olyckor
  5. Automatiserad och uppkopplad teknik bör förhindra olyckor där detta är praktiskt möjligt. Baserat på den bästa tekniken, måste tekniken i första hand utformas på ett sådant bort att kritiska situationer inte uppstår.  Detta inkluderar dilemma situationer, , med andra ord situationer där ett automatiserat fordon har att ”välja” mellan två onda ting, mellan vilka det inte finns något bra lösning, men som det måste välja ändå . I det här sammanhanget bör hela  spektrat av tekniska lösningar användas – från till exempel att begränsa ansökningar till kontrollerbara trafikmiljöer, fordonets sensorer, bromsarnas prestanda och varning för oskyddade trafikanter ända till att förebygga olyckor med “intelligent” väginfrastruktur – användas och utvecklas.
    En betydande förbättring av trafiksäkerheten är målet för utveckling och reglering, det börjar med design och programmering av fordonen så att de kör i en defensiv och på ett förutsägbart vis, och utgör så liten risk som möjligt för att oskyddade trafikanter

    Kan vara obligatorisk att införa
  6. Det kan vara socialt och etiskt godtagbart att införa tvingande automatiska körsystem, särskilt sådan med automatisk  krockprevention, om det kan frigöra tillgänglig potential för skadebegränsning. Omvänt kan en lagstadgad skyldighet att införa ett fullt automatiserat transportsystem , eller ett i praktiken utan återvändo,  vara etiskt tveksamt om det innebär att underkasta sig teknologisk tvång ( förbud att betrakta subjektet som enbart ett element i ett nätverk).

    Skydd av mänsklig liv är viktigast
  7. I farliga situationer,  som trots alla tekniska försiktighetsåtgärder vidtagits  visar sig vara oundvikligt, har skydd av mänskligt liv högsta prioritet i en balansering av rättsligt skyddade intressen. Således måste systemen programmeras att acceptera skador på djur och egendom i en konflikt om detta innebär att personskada kan förhindras.

    Det går inte att programmera moraliska beslut
  8. Genuint svåra beslut, som att välja mellan ett mänskligt liv och ett annat, beror på den faktiska specifika situation, och omfattar “oförutsägbara” beteenden från de inblandade parterna.  De kan därför inte blir helt standardiserade och ej heller programmerade på ett sådant sätt att de blir etisk obestridliga. Men tekniska system måste utformas så att olyckor undviks.
    De kan dock inte standardiseras till en så komplex och intuitiv bedömning av en olyckas inverkan, att de kan ersätta eller förutsäga en ansvarig förare med moralisk förmåga att ta rätt beslut. Om en mänsklig förare dödare en person i en olycka,  för att rädda en eller flera andra,  skulle denna agera mot lagen, utan att nödvändigtvis vara brottslig.
    Sådana rättsliga bedömningar, gjorda i efterhand och där hänsyn tagits till de särskilda omständigheterna, kan inte enkelt förvandlas till i förväg gjorda abstrakta och generella beslut, och därför inte till motsvarande programmerad aktivitet.
    Av det skälet, kanske mer än något annat, vore det önskvärt att en oberoende offentlig myndighet till exempel Den Federala myndigheten för att undersöka olyckor med automatiska transportsystem eller Federala kontoret för säkerhet i automatiserade och uppkopplade transporter) för att systematiskt hanterar lärdomar som gjorts.

    Förbud mot värdering av olika människoliv.
  9. I händelse av oundvikliga olyckssituationer, är all åtskillnad utifrån personliga funktioner (ålder, kön, fysiska eller psykiska konstitution) strängt förbjuden. Det är också förbjudet för att väga offer mot varandra. Generell programmering för att minska antalet personskador kan vara berättigat. De parter som skapat riskerna får inte offra personer som inte är inblandade.

    Ansvaret flyttas från förare till tillverkare
  10. I automatiserade och uppkopplade system förskjuts ansvaret från bilföraren som tidigare var ensamt ansvarig till tillverkare och operatörer och organ med ansvar för infrastruktur, politik och rättsliga beslut.  Det juridiska ansvaret och hur det visar sig i vardagliga domstolsbeslut måste tillräckligt återspegla denna övergång.

    Tillverkaren måste optimera 
  11. Ansvar för skador som orsakas av aktiverade automatiska körsystem styrs av samma principer som för andra produktansvar. Av detta följer  att tillverkare eller aktörer är skyldiga att kontinuerligt optimera sina system och att övervaka de system de redan levererat och förbättra dem där detta är tekniskt möjligt och rimligt.

    Allmänheten ska informeras
  12. Allmänheten har rätt till att på olika sätt underrättas om nya tekniker och deras införande. För det praktiska genomförandet av de principer som utvecklats här, bör vägledning för införande och  programmering av automatiserade fordon göras i en form som är så öppen som möjligt, kommunicerats offentligt och granskas av en lämpligt professionellt oberoende organ.

    Risk för superövervakning
  13. Det är inte möjligt att idag ange om det i framtiden kommer vara möjligt och ändamålsenligt att ha total uppkoppling och central styrning av alla motorfordon inom ramen för en digital transportinfrastruktur, liknande de som finns  i järnvägs- och lufttransporter.En total uppkoppling och central styrning av alla motorfordon inom ramen för en digital transportinfrastruktur är etiskt tveksamt om,  och i den mån, det inte säkert kan utesluta en  övervakningen av trafikanter och möjlighet att styra fordon (centralt).

    Ingen självkörning utan IT-säkerhet
  14. Automatiserad körning är försvarligt endast i den utsträckning som tänkbara attacker, i synnerhet manipulation av IT-system eller egna systems svagheter, inte resulterar i sådan skada att människors förtroende för vägtransporter skadas varaktigt.

    Föraren äger sitt data
  15. När tillåtna affärsmodeller som utnyttjar data som är genereras under automatiserad och uppkopplad körning och som till betydande eller obetydlig del bidrar till  fordonets kontroll kolliderar med begränsningar för datasuveränitet och trafikanters självständighet  är det fordonet ägare  och fordonets användare som avgör om deras fordonsdata som genereras ska vidarebefordras och användas. Den frivilliga karaktären av ett sådant beslut förutsätter att det finns seriösa alternativ och möjligheter.  Åtgärder bör vidtas i ett tidigt skede att motverka en normerande kraft av en de facto situation, såsom den situation som rådde när det gäller tillgång till data till operatörerna av sökmotorer eller sociala nätverk.

    Måste vara tydligt när systemet kör
  16. Det måste vara möjligt att tydligt särskilja om ett förarlöst system används eller om föraren behåller kontrollen med möjlighet att åsidosätta systemet.  När det gäller icke-förarlösa system, måste gränssnittet människa-maskin konstrueras så att alltid  är tydligt reglerat och uppenbart var det individuella/personliga ansvaret ligger, särskilt (gäller det) ansvaret för kontroll.

    Data måste lagras för att hålla ansvar
  17. Fördelningen av ansvar (och därmed av ansvarsskyldighet), exempelvis avseende tid och tillgång (till systemet), bör dokumenteras och lagras. Detta gäller särskilt för förfarandet vid överlämning mellan maskin och människa.  Internationell standardisering av överlämnandeprocessen och dess dokumentation (loggning) behövs för att  säkerställa kompatibilitet av loggning och dokumentationsskyldigheter då fordonsindustrin och digitala tekniker alltmer korsar nationsgränser.

    Högt automatiserad teknik ska inte behöva förarens hjälp
  18. Programvara och teknik i högautomatiserad fordon måste vara utformad så att behovet av en abrupt överlämning av kontroll till föraren (”akut”) är praktiskt taget undanröjd. För att möjliggöra effektiv, tillförlitlig och säker människa-maskin-kommunikation och förhindra överbelastning, måste systemen anpassas mer till mänskligt kommunikativt beteende snarare än att kräva att människan ska förbättra sin adaptiv förmåga.

    Självlärande system till en neutral part

  19. Självlärande system i fordonet och deras anslutning till centrala scenario databaser är etiskt tillåtet om, och i den utsträckning, de skapar säkerhetsvinster. Självlärande system bör inte distribueras om de inte uppfyller de säkerhetskrav på funktioner som är relevanta för fordonskontroll och inte heller om de  undergräver reglerna här. Det förefaller tillrådligt att överlämna relevanta scenarier till en central scenariokatalog hos en neutral part i syfte att utveckla lämpliga universella normer, inklusive eventuella acceptanstester. I nödsituationer måste fordonet självständigt, dvs utan mänskligt bistånd, gå i ett ”felsäkert läge”. Harmonisering, särskilt av  definitionen av ett säkert tillstånd eller rutinerna för överlämning, är önskvärt.

    Körskolorna måste lära ut självkörning
  20. Korrekt användning av automatiserade system bör ingå i människors allmänna digitala utbildning. Korrekt hantering av automatiserade  körsystem bör undervisas och testar på lämpligt sätt i lärarutbildningarna.

 

 

 

 

 

 

 

Tags: , ,



Kommentera

Back to Top ↑