Topic: Publicatie

What do companies have to consider when using artificial intelligence?

“The imagination knows no bounds.” When it comes to the use of artificial intelligence (AI) technology also seems to set hardly any limits to the imagination. This is the impression This is the impression given by the daily media reports about ChatGPT, a generative Kl, which can write texts and poems, do quick researches and take exams at elite pass exams at elite American universities.

Many entrepreneurs are asking themselves how they can use the seemingly limitless technical benefits of “thinking” software and algorithms in a meaningful way in their companies, especially in their working lives. Four areas of application stand out people analytics” is used for performance evaluation and aptitude testing for new jobs in the and suitability testing for new jobs in the search for candidates or the further qualification of talents. Kl for “algorithmic management” is aimed at the planning and control of employee activities. Kl for automation of tasks (“task automation”) takes on simpler activities independently. tasks independently. Finally, employees increasingly use ChatGPT in order to receive templates for texts, programming or the like. But do imagination and technology really know no bounds or are there legal hurdles that make the that make their use risky?

There is still no concrete legal framework for the use of artificial intelligence in Europe. Europe does not yet exist. What is exciting is that in April 2021, the EU Commission will present a presented a first draft regulation on the use of artificial intelligence (AI Regulation), which – as which – as things stand at present – could possibly be adopted this year. could be adopted this year. It is worth taking a closer look at this draft in order to understand in the direction in which the legislative efforts are going. The For example, the legislator uses a very broad Kl definition as a basis. According to this, simple automation processes could fall within the scope of the AI Regulation. A large number of systems that are already in use would have to be be reviewed on the basis of the AI Regulation.

The AI Regulation defines four classes of risk (unacceptable, high, low and minimal), which are subject to varying degrees of regulation. Cl practices, which are considered unacceptable, for example because they violate fundamental values of the EU, are prohibited (Art. 5 AI Regulation). Example: Evaluation of social behaviour (social scoring). For high-risk cl systems, minimum requirements apply. (Art. 8 ff. AI Regulation), which providers and users of the systems must fulfil (Art. 1 6 ff. AI REGULATION). In addition, irrespective of the risk class, the following apply in particular Transparency requirements (Art. 52 AI Regulation). Kl systems with a low or minimal minimal risk, on the other hand, are not subject to any special regulation.

Providers of such systems may voluntarily adhere to codes of conduct. (Art. 69 AI Regulation). Forward-looking entrepreneurs could already validate planned validate the planned and existing use of Kl on the basis of the regulations. which should make the use legally more secure. The AI Regulation provides important and up-to-date and up-to-date information on how the EU Commission envisages the use of AI in legal terms.

But what legal hurdles currently apply to the seemingly limitless possible possible use of AI currently apply? The most applicable are the General Data Protection Regulation (GDPR) (DSGVO), anti-discrimination rules, regulations on consumer protection and product safety and co-determination. For example, if a company uses the speech analysis software from Precire to automatically analyse the suitability of applicants on the basis of their language skills, or does it rely on the video analysis function of Hirevue? Hirevue’s video analysis function to create personality profiles, a prior data protection analysis and documentation is recommended. After the Section 26 of the German Data Protection Act (BDSG), which may be in breach of EU law, data data processing must be (i) suitable to achieve the predefined purpose, (ii) it must be necessary, i.e. there must be no milder interference in rights, and (iii) the interests of the parties involved must be weighed against each other. be weighed against each other.

GDPR and anti-discrimination

As a rule, the creation of personality profiles is inadmissible, unless, justified in individual cases on the basis of specific requirements in the job profile. requirements in the job profile. According to Art. 22 of the GDPR, the software may not be used to make personnel decision (e.g. hiring, promotion, dismissal) itself, but only to itself, but only provide assistance in the decision-making process. In order to ensure the non-discriminatory use of analytics software, the software provider should software provider should explain what precautions it has taken to avoid AGG risks. Finally, the current rulings of the ECJ of 30.03.2023 and 04.05.2023 must be taken into account in order to ensure that the correct legal basis for personnel data processing in each individual case.

Fines in the millions threatened

In conclusion, it can be said that, in addition to imagination, technology is setting ever fewer limits on the use of personal data. technology is setting ever smaller limits on the use of Kl and the more practical. However, the use of Kl should be well thought out beforehand in order to be able to profit from technical progress in the long term. Otherwise there is a risk of unwelcome mail from the supervisory authorities. Against the background of fines in the millions that have been imposed for data protection violations in Germany, it is urgently millions for data protection violations in Germany, it is urgently recommended that a data protection and document a data protection impact assessment before using artificial intelligence.

As a result of the collaboration of BNP Paribas Real Estate with act legal, Hays, the French-Polish Chamber of Commerce, the Dutch-Polish Chamber of Commerce and the Belgian Chamber of Commerce, the report provides an overview of the commercial real estate market, broken down into specific segments, from the perspective of developers and investors in the Central and Eastern Europe.

act legal professionals from Poland, the Czech Republic, Hungary and Romania share their views on current trends in the CEE commercial property market and legal aspects of COVID-19’s impact, while also commenting on recent amendments to legal and tax regulations, which are relevant for investors.

Dr. Thomas Altenbach provides a comprehensive guide to the key issues for supervisory boards. In particular, he also takes into account the current draft legislation on association sanctions and whistleblower protection. The handbook provides a comprehensive presentation of the tasks of the supervisory board as well as the rights and duties of its members and imparts the knowledge necessary for the diligent performance of office.

From the election of supervisory board members, to the competencies and duties of the supervisory board, the work of the supervisory board in detail, remuneration and reimbursement of expenses, internal investigations, conflicts of interest, liability and damages including D&O insurance.

Through its rapid growth in the last few years Esports has shifted into the public focus and has become a new relevant industry generating revenues of $1.1 billion globally in 2019.

Home to one of the Esports leagues ESL – Electronic Sports League, and other relevant Esports companies, leading teams and players, Germany has played a vital role in this development. Besides its rapid growth, the esports ecosystem has also evolved in terms of professionalism, economically as well as legally.

A significant milestone in this regard was the establishment of the German esports association ESBD – ESPORT-BUND DEUTSCHLAND e.V. in 2017 which was initiated in the offices of act legal Germany. Since then, major legal steps have been taken, such as the introduction of the German esports visa in 2020, a dedicated visa category for esports.

De robot als “baas”

“Mijn baas is een robot” moeten de werknemers van investeringsmaatschappij Deep Knowledge Ventures in Hongkong hebben gedacht toen een computeralgoritme werd benoemd tot volwaardig lid van de directie. Feit is dat robots onze werkomgeving in recordtempo veroveren. Ze doen de orderverzameling, werken zij aan zij met menselijke collega’s aan de lopende band, distribueren goederen via internet en bepalen hoogfrequente transacties. De technologische vooruitgang stelt werknemers in staat intelligente systemen niet alleen ter aanvulling maar, op bepaalde gebieden, tevens ter vervanging van de menselijke arbeid te gebruiken. Dit geldt ook voor leidinggevende functies. Het wordt dan ook hoog tijd aandacht te schenken aan het (arbeidsrechtelijk) juridisch kader hiervan.

Het staat buiten kijf dat benoeming van een computeralgoritme tot lid van de raad van commissarissen of directie van een Duitse naamloze vennootschap vooralsnog onmogelijk is (artikel 76, lid 3, eerste volzin en artikel 100, lid 1, eerste volzin van de Duitse Wet op de naamloze vennootschap – AktG). Dat een robot met een leidinggevende functie echter geen toekomstdroom is, blijkt uit het voorbeeld van Hitachi. Het Japanse elektronicaconcern laat zijn werkinstructies in Duitse vestigingen uitvoeren door intelligente systemen. Wettelijk bestaat er geen belemmering om het recht aanwijzingen te geven aan een machine in plaats van een mens te delegeren, mits de werkgever er door passende programmering voor zorgt dat de wezenlijke omstandigheden per individueel geval worden afgewogen voordat de aanwijzing wordt gegeven en dat afdoende rekening wordt gehouden met de betrokken belangen (artikel 315 van het Duitse Burgerlijk wetboek – BGB, en artikel 106 van de Duitse arbeidswet- GewO). De enige kennelijke beperking wordt aan de robotbaas gesteld in artikel 22, lid 2 van de AVG, waarin is bepaald dat een besluit waaraan “rechtsgevolgen” voor de betrokkene zijn verbonden of dat hem “in aanmerkelijke mate treft” niet op geautomatiseerde verwerking van persoonsgegevens mag berusten. De robotbaas kan derhalve (nog) niet ontslaan. Wat echter nu al werkelijkheid is en na grondige toetsing tegen de gegevensbeschermingswetgeving wettelijk is toegestaan is dat personele besluiten met behulp van algoritmes worden voorbereid, te weten ingeval van volledig geautomatiseerde sollicitatieprocedures en selectietools (“People Analytics”).

Robots vervangen dus menselijke arbeid, maar kunnen zij onder het arbeids- en vennootschapsrecht ook als werknemers worden gekwalificeerd? Tellen zij mee bij het bepalen van de drempel voor het aantal vereiste werknemers met medezeggenschap bij het samenstellen van de raad van commissarissen, de omvang van de ondernemingsraad of de toepasselijkheid van de Duitse wet op ontslagbescherming? Worden robots op gelijke voet als mensen beoordeeld bij sociale selectie? Al pleiten sommige auteurs daarvoor moet dit in ieder geval worden afgewezen. Alle drempelwaarden gaan nog altijd uit van een natuurlijk persoon en de sociale selectie zou hiermee in het absurde worden doorgetrokken. In plaats van het ontslag van twee werknemers geniet de “jonge” robot zonder alimentatieverplichtingen waarschijnlijk minder sociale bescherming. Dit zou de grondwettelijk beschermde ondernemersvrijheid om werkprocessen met behulp van moderne technieken te optimaliseren opheffen. Robotten blijven dingen.

Is de machine aansprakelijk?

Aldus is zelf de mensachtige robot niet aansprakelijk voor aan werknemers/klanten toegebracht letsel en/of aan de reputatie van de vennootschap berokkende schade. Welke persoon verantwoordelijk is,  hangt af van het antwoord op de vraag of de schade door onjuiste programmering of door onjuiste werking van de robot is veroorzaakt. De wetgever is nog niet in actie gekomen. Momenteel wordt besproken of het gebruik van intelligente systemen moet zijn onderwerpen aan het wettelijke voorbehoud van een verplichte verzekering. Met name de volgende voorzorgsmaatregelen worden geadviseerd: uitvoeren van een risicoanalyse (artikel 5 van de Duitse wet op de arbeidsomstandigheden – ArbSchG), naleving van veiligheidsvoorschriften uit de het Duitse Industriële Veiligheidsbesluit en ISO-norm 10218-2011 en betrokkenheid van de ondernemingsraad (artikel 90, 87, lid 1 nr. 7 van de Duitse arbeidsconstitutiewet – BetrVG).

Robotiseringsbeleid vereist!

Hoe behoudt de directie of raad van commissarissen dan de leiding over zelflerende systemen die volgens het principe van vallen en opstaan werken en zichzelf automatisch veranderen? Hoe handelt een directie zorgvuldig op grond van “passende informatie” als zij geen inzicht heeft in de zwarte doos die tussen het invoerniveau en uitvoerniveau ligt? De ondernemingsleiding wordt geacht per individueel geval een afweging van de mogelijke risico’s te maken, de ontwikkelingen in de robots die zij gebruiken nauwlettend te volgen en compliancemechanismen te implementeren om bescherming tegen (wettelijke) inbreuken te bieden. Het lijkt ook wettelijk noodzakelijk te zijn het bovengenoemde juridisch kader schriftelijk vast te leggen in een “robotbeleid”. De ondernemingsleiding doet er goed aan transparant over het kunstmatig intelligentiegebruik te communiceren, in het bijzonder met investeerders, werknemers en zakenpartners. Het staat een ieder vrij te investeren in riskante projecten, te werken met en/of te handelen met robots. Dit moet dan wel bekend zijn.

On April 30, 2019, the U.S. Department of Justice (DOJ) published new guidance on the requirements for compliance management systems, a revised and expanded version of a document of the same name published in February 2017, which collected more than 120 test questions to identify the criteria that DOJ prosecutors should use to assess compliance programs when assessing penalties or entering into a deferred or non-prosecution agreement. This article provides a brief overview.

The trial period of the employment relationship: A well-known phenomenon with partly unknown legal consequences. What options are possible if the parties of the employment contract would like to extend the trial period after all, for example, due to an illness of the employee, and what should be considered.

Social interaction at work or sexual harassment?
What employers must do and when.

A short, too tight hug for a birthday, a quick follow-up mail after a nice lunch, a random touch while looking at the screen together: Are these scenes examples of good social interaction at work or sexual harassment? What employers must do and when.

The legislator has once again provided companies with a provision whose unclear interpretation could in practice be contested in court. In addition to “normal” part-time employment, bridge part-time employment will apply from 2019.