act legal Publicaties

Wanneer robots beslissen!

Geen nieuwe uitvinding van de 21ste eeuw, maar reeds een term sinds Alan Turing rond 1950 de vraag stelde: “Kunnen machines denken?”.

De robot als “baas”

“Mijn baas is een robot” moeten de werknemers van investeringsmaatschappij Deep Knowledge Ventures in Hongkong hebben gedacht toen een computeralgoritme werd benoemd tot volwaardig lid van de directie. Feit is dat robots onze werkomgeving in recordtempo veroveren. Ze doen de orderverzameling, werken zij aan zij met menselijke collega’s aan de lopende band, distribueren goederen via internet en bepalen hoogfrequente transacties. De technologische vooruitgang stelt werknemers in staat intelligente systemen niet alleen ter aanvulling maar, op bepaalde gebieden, tevens ter vervanging van de menselijke arbeid te gebruiken. Dit geldt ook voor leidinggevende functies. Het wordt dan ook hoog tijd aandacht te schenken aan het (arbeidsrechtelijk) juridisch kader hiervan.

Het staat buiten kijf dat benoeming van een computeralgoritme tot lid van de raad van commissarissen of directie van een Duitse naamloze vennootschap vooralsnog onmogelijk is (artikel 76, lid 3, eerste volzin en artikel 100, lid 1, eerste volzin van de Duitse Wet op de naamloze vennootschap – AktG). Dat een robot met een leidinggevende functie echter geen toekomstdroom is, blijkt uit het voorbeeld van Hitachi. Het Japanse elektronicaconcern laat zijn werkinstructies in Duitse vestigingen uitvoeren door intelligente systemen. Wettelijk bestaat er geen belemmering om het recht aanwijzingen te geven aan een machine in plaats van een mens te delegeren, mits de werkgever er door passende programmering voor zorgt dat de wezenlijke omstandigheden per individueel geval worden afgewogen voordat de aanwijzing wordt gegeven en dat afdoende rekening wordt gehouden met de betrokken belangen (artikel 315 van het Duitse Burgerlijk wetboek – BGB, en artikel 106 van de Duitse arbeidswet- GewO). De enige kennelijke beperking wordt aan de robotbaas gesteld in artikel 22, lid 2 van de AVG, waarin is bepaald dat een besluit waaraan “rechtsgevolgen” voor de betrokkene zijn verbonden of dat hem “in aanmerkelijke mate treft” niet op geautomatiseerde verwerking van persoonsgegevens mag berusten. De robotbaas kan derhalve (nog) niet ontslaan. Wat echter nu al werkelijkheid is en na grondige toetsing tegen de gegevensbeschermingswetgeving wettelijk is toegestaan is dat personele besluiten met behulp van algoritmes worden voorbereid, te weten ingeval van volledig geautomatiseerde sollicitatieprocedures en selectietools (“People Analytics”).

Robots vervangen dus menselijke arbeid, maar kunnen zij onder het arbeids- en vennootschapsrecht ook als werknemers worden gekwalificeerd? Tellen zij mee bij het bepalen van de drempel voor het aantal vereiste werknemers met medezeggenschap bij het samenstellen van de raad van commissarissen, de omvang van de ondernemingsraad of de toepasselijkheid van de Duitse wet op ontslagbescherming? Worden robots op gelijke voet als mensen beoordeeld bij sociale selectie? Al pleiten sommige auteurs daarvoor moet dit in ieder geval worden afgewezen. Alle drempelwaarden gaan nog altijd uit van een natuurlijk persoon en de sociale selectie zou hiermee in het absurde worden doorgetrokken. In plaats van het ontslag van twee werknemers geniet de “jonge” robot zonder alimentatieverplichtingen waarschijnlijk minder sociale bescherming. Dit zou de grondwettelijk beschermde ondernemersvrijheid om werkprocessen met behulp van moderne technieken te optimaliseren opheffen. Robotten blijven dingen.

Is de machine aansprakelijk?

Aldus is zelf de mensachtige robot niet aansprakelijk voor aan werknemers/klanten toegebracht letsel en/of aan de reputatie van de vennootschap berokkende schade. Welke persoon verantwoordelijk is,  hangt af van het antwoord op de vraag of de schade door onjuiste programmering of door onjuiste werking van de robot is veroorzaakt. De wetgever is nog niet in actie gekomen. Momenteel wordt besproken of het gebruik van intelligente systemen moet zijn onderwerpen aan het wettelijke voorbehoud van een verplichte verzekering. Met name de volgende voorzorgsmaatregelen worden geadviseerd: uitvoeren van een risicoanalyse (artikel 5 van de Duitse wet op de arbeidsomstandigheden – ArbSchG), naleving van veiligheidsvoorschriften uit de het Duitse Industriële Veiligheidsbesluit en ISO-norm 10218-2011 en betrokkenheid van de ondernemingsraad (artikel 90, 87, lid 1 nr. 7 van de Duitse arbeidsconstitutiewet – BetrVG).

Robotiseringsbeleid vereist!

Hoe behoudt de directie of raad van commissarissen dan de leiding over zelflerende systemen die volgens het principe van vallen en opstaan werken en zichzelf automatisch veranderen? Hoe handelt een directie zorgvuldig op grond van “passende informatie” als zij geen inzicht heeft in de zwarte doos die tussen het invoerniveau en uitvoerniveau ligt? De ondernemingsleiding wordt geacht per individueel geval een afweging van de mogelijke risico’s te maken, de ontwikkelingen in de robots die zij gebruiken nauwlettend te volgen en compliancemechanismen te implementeren om bescherming tegen (wettelijke) inbreuken te bieden. Het lijkt ook wettelijk noodzakelijk te zijn het bovengenoemde juridisch kader schriftelijk vast te leggen in een “robotbeleid”. De ondernemingsleiding doet er goed aan transparant over het kunstmatig intelligentiegebruik te communiceren, in het bijzonder met investeerders, werknemers en zakenpartners. Het staat een ieder vrij te investeren in riskante projecten, te werken met en/of te handelen met robots. Dit moet dan wel bekend zijn.

Dr. Thomas Block, MBA

Attorney at law
act legal Germany AC Tischendorf Rechtsanwälte Frankfurt, Germany
Tel:: +49 69 24 70 97 36