EU Artificial Intelligence Act: The European Approach to AI →

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 2/2021

New Stanford tech policy research: “EU Artificial Intelligence Act: The European Approach to AI”.

EU regulatory framework for AI

On 21 April 2021, the European Commission presented the Artificial Intelligence Act. This Stanford Law School contribution lists the main points of the proposed regulatory framework for AI.

The Act seeks to codify the high standards of the EU trustworthy AI paradigm, which requires AI to be legally, ethically and technically robust, while respecting democratic values, human rights and the rule of law. The draft regulation sets out core horizontal rules for the development, commodification and use of AI-driven products, services and systems within the territory of the EU, that apply to all industries.

Legal sandboxes fostering innovation

The EC aims to prevent the rules from stifling innovation and hindering the creation of a flourishing AI ecosystem in Europe. This is ensured by introducing various flexibilities, including the application of legal sandboxes that afford breathing room to AI developers.

Sophisticated ‘product safety regime’

The EU AI Act introduces a sophisticated ‘product safety framework’ constructed around a set of 4 risk categories. It imposes requirements for market entrance and certification of High-Risk AI Systems through a mandatory CE-marking procedure. To ensure equitable outcomes, this pre-market conformity regime also applies to machine learning training, testing and validation datasets.

Pyramid of criticality

The AI Act draft combines a risk-based approach based on the pyramid of criticality, with a modern, layered enforcement mechanism. This means, among other things, that a lighter legal regime applies to AI applications with a negligible risk, and that applications with an unacceptable risk are banned. Stricter regulations apply as risk increases.

Enforcement at both Union and Member State level

The draft regulation provides for the installation of a new enforcement body at Union level: the European Artificial Intelligence Board (EAIB). At Member State level, the EAIB will be flanked by national supervisors, similar to the GDPR’s oversight mechanism. Fines for violation of the rules can be up to 6% of global turnover, or 30 million euros for private entities.

CE-marking for High-Risk AI Systems

In line with my recommendations, Article 49 of the Act requires high-risk AI and data-driven systems, products and services to comply with EU benchmarks, including safety and compliance assessments. This is crucial because it requires AI infused products and services to meet the high technical, legal and ethical standards that reflect the core values of trustworthy AI. Only then will they receive a CE marking that allows them to enter the European markets. This pre-market conformity mechanism works in the same manner as the existing CE marking: as safety certification for products traded in the European Economic Area (EEA).

Trustworthy AI by Design: ex ante and life-cycle auditing

Responsible, trustworthy AI by design requires awareness from all parties involved, from the first line of code. Indispensable tools to facilitate this awareness process are AI impact and conformity assessments, best practices, technology roadmaps and codes of conduct. These tools are executed by inclusive, multidisciplinary teams, that use them to monitor, validate and benchmark AI systems. It will all come down to ex ante and life-cycle auditing.

The new European rules will forever change the way AI is formed. Pursuing trustworthy AI by design seems like a sensible strategy, wherever you are in the world.

Read more

Workshop Juridische Aspecten AI & Data bij TNO - NL AIC Startups & Scaleups TekDelta Event →

Op 24 september 2020 gaf Stanford Law School Fellow Mauritz Kop een masterclass over de juridische dimensie van kunstmatige intelligentie en informatie aan de getalenteerde deelnemers van de Werkgroep Startups & Scaleups van de Nederlandse AI Coalitie (NL AIC), in het kantoor van TNO Research in Den Haag. De workshop maakte onderdeel uit van het TekDelta | NL AIC startup accelerator event, met als centraal thema het versnellen en faciliteren van innovatie door het verbinden van startende ondernemingen met bestaande leading organisaties met slagkracht: het samen bouwen aan een succesvol high tech ecosysteem in Nederland.

Masterclass 'Juridische Aspecten van AI & Data’

De 2,5 uur durende masterclass 'Juridische Aspecten van AI & Data' bij TNO verschafte de cursisten duidelijkheid over de regels voor data delen, privacy en gegevensbescherming, alsmede juridisch en economisch eigendom van informatie. We behandelden onderwerpen variërend van de bescherming van intellectueel eigendom op het AI-systeem, de software, hardware en apps, clearance van data tot het anticiperen op de aanstaande AI & Data Governance wetten van de Europese Commissie.

Multidisciplinair Panel voor Verantwoord Data Delen

Dezelfde middag vond er vanuit het TNO gebouw een online seminar plaats speciaal voor startups, onder leiding van Anita Lieverdink, Senior Orchestrator of Innovation at TNO, Directeur van TekDelta en Program Manager van de Werkgroep Startps & Scaleups van de Nederlandse AI Coalitie.

AIRecht managing partner Mr. Kop nam als juridisch expert deel in het panel dat ging over verantwoord data delen. Het was goed om deel te nemen aan dit multidisciplinaire panel en samen met onze collega's oplossingen te verkennen voor het versneld en verantwoord delen van gegevens. Het is cruciaal en urgent om belemmeringen voor de inzet van benevolente AI weg te nemen en organisaties begeleiding te bieden die rechtszekerheid en vertrouwen in de snelle introductie van deze veelbelovende transformatieve technologie aanmoedigt!

Juridische Cursussen van AIRecht

Onze cursussen ‘AI en Recht – Juridische aspecten van AI, Machine Learning en Data’ bieden een compleet overzicht van de juridische facetten van kunstmatige intelligentie, big (structured/labelled en unstructured, raw) data en de verschillende typen machine learning (supervised, unsupervised, deep reinforcement, transfer, federated). De invalshoek is breed: van beschermen idee tot en met marktintroductie van het product. Cursusdoel is het wegnemen van juridische obstakels voor innovatie. Onderwerpen die hierbij aan de orde komen zijn privacywetgeving, het maximaliseren van uw IP-portfolio (intellectueel eigendom), normering, standaardisering (interoperabiliteit) en certificering (CE mark, keurmerken, conformiteit), het stimuleren van internationaal zakendoen, en het realiseren van (training)data delen op basis van EU regelgeving, licenties, toestemmingen en rechtsgeldige contracten. Maatwerk is mogelijk.

De workshops en masterclasses zijn cross-disciplinair en verbinden de ontwikkeling en toepassing van technologie met geldend nationaal en EU recht.

Read more

Nieuw naburig recht voor uitgevers schiet zijn doel voorbij →

Dit blog is een transcript van het interview dat AIRecht Managing Partner en Stanford Law School Fellow mr. Mauritz Kop op 1 februari 2021 gaf aan Reinier Kist, Redacteur Digitale Media bij NRC Handelsblad, over intellectueel eigendom en nieuwsaggregatie. Het artikel in NRC is hier te raadplegen: Techbedrijven versus Nieuwsmedia - De grootste nieuwsgrazers betalen liever niet voor journalistiek.

Vergoedingen voor nieuwsaggregatie

Regeringen in Australië, Frankrijk en Nederland proberen machtige tech platforms zoals Google en Facebook te dwingen om te betalen voor het met commercieel oogmerk linken naar en weergeven van korte stukken tekst uit nieuwsartikelen. Het gaat hier om vergoedingen voor nieuwsaggregatie. Hierbij spelen auteursrechten, naburige rechten, fiscaal recht, het contractenrecht en het mededingingsrecht een rol. We zoomen hieronder in op het nieuwe naburige recht voor uitgevers van nieuwsmedia en journalistieke content, dat door de Europese wetgever in artikel 15 van de recente Richtlijn inzake auteursrechten in de digitale eengemaakte markt (Directive on Copyright in the Digital Single Market) wordt geïntroduceerd.

Wordingsgeschiedenis van de nieuwe EU Copyright Directive

1. Een belangrijke vraag in het artikel is hoe de implementatie van de Europese copyrighthervorming in Nederland ervoor staat, en of we een Franse licentiedeal ook hier ten lande kunnen verwachten.

Laten we beginnen bij de wordingsgeschiedenis van de nieuwe Copyright Directive. Het gaat bij de EU Copyright Reform om 3 doelstellingen die in de huidige marktconstellatie niet goed verenigbaar zijn. Dit zijn toegang tot hoge kwaliteit legale content voor consumenten (1), een innovatievriendelijk klimaat voor SME’s waaronder startups (2) en handhaving van auteursrechten (3). Daarnaast werd er bij de totstandkoming van deze richtlijn, en tijdens de publieke consultatie stevig gelobbyd door belanghebbenden. Zoals auteursrechthebbenden, collectieve rechteninstanties, consumentenbelangengroepen, online platforms en uitgeverijen. We zagen vervolgens bepaalde wensen van deze partijen terugkomen in de wetsvoorstellen, zowel op Europees als op nationaal niveau. Omdat die wensen vaak compleet tegengesteld zijn aan elkaar, is het resultaat van deze Europese wetgevingsinspanning een ingewikkeld compromis.

Het introduceren van nieuwe lagen IP rechten is zelden een goed idee

We zien dat de verdienmodellen van de oude contentindustrie, het momenteel afleggen tegen de verdienmodellen van de grote internetplatforms. Overheden willen een gezonde markt en een divers ecosysteem voor nieuwsgaring in stand houden. Dat is belangrijk in een democratie. Dat betekent dat je soms corrigerend moet optreden door het introduceren van wetgeving. De vraag is echter of die wetgeving effectief zal zijn. Want als het over 10 jaar niet blijkt te werken, kom je er moeilijk vanaf! Dit geldt des te meer voor intellectuele eigendomsrechten. Het introduceren van nieuwe lagen IP rechten om de effecten van technologische innovatie op de markt en de maatschappij in balans te brengen, is zelden een goed idee. Een voorbeeld van zo’n mislukt wetgevingsproject is de Databankenrichtlijn, die bedoeld was om EU bedrijven een minder nadelige concurrentiepositie te geven ten opzichte van Amerikaanse bedrijven. Maar ook de Copyrightrichtlijn dreigt te ontaarden in een mislukt project en wordt door experts inmiddels algemeen beschouwd als een degeneratie van het auteursrecht.

Read more

Machine Learning & EU Data Sharing Practices →

Stanford - Vienna Transatlantic Technology Law Forum, Transatlantic Antitrust and IPR Developments, Stanford University, Issue No. 1/2020

New multidisciplinary research article: ‘Machine Learning & EU Data Sharing Practices’.

In short, the article connects the dots between intellectual property (IP) on data, data ownership and data protection (GDPR and FFD), in an easy to understand manner. It also provides AI and Data policy and regulatory recommendations to the EU legislature.

As we all know, machine learning & data science can help accelerate many aspects of the development of drugs, antibody prophylaxis, serology tests and vaccines.

Supervised machine learning needs annotated training datasets

Data sharing is a prerequisite for a successful Transatlantic AI ecosystem. Hand-labelled, annotated training datasets (corpora) are a sine qua non for supervised machine learning. But what about intellectual property (IP) and data protection?

Data that represent IP subject matter are protected by IP rights. Unlicensed (or uncleared) use of machine learning input data potentially results in an avalanche of copyright (reproduction right) and database right (extraction right) infringements. The article offers three solutions that address the input (training) data copyright clearance problem and create breathing room for AI developers.

The article contends that introducing an absolute data property right or a (neighbouring) data producer right for augmented machine learning training corpora or other classes of data is not opportune.

Legal reform and data-driven economy

In an era of exponential innovation, it is urgent and opportune that both the TSD, the CDSM and the DD shall be reformed by the EU Commission with the data-driven economy in mind.

Freedom of expression and information, public domain, competition law

Implementing a sui generis system of protection for AI-generated Creations & Inventions is -in most industrial sectors- not necessary since machines do not need incentives to create or invent. Where incentives are needed, IP alternatives exist. Autonomously generated non-personal data should fall into the public domain. The article argues that strengthening and articulation of competition law is more opportune than extending IP rights.

Data protection and privacy

More and more datasets consist of both personal and non-personal machine generated data. Both the General Data Protection Regulation (GDPR) and the Regulation on the free flow of non-personal data (FFD) apply to these ‘mixed datasets’.

Besides the legal dimensions, the article describes the technical dimensions of data in machine learning and federated learning.

Modalities of future AI-regulation

Society should actively shape technology for good. The alternative is that other societies, with different social norms and democratic standards, impose their values on us through the design of their technology. With built-in public values, including Privacy by Design that safeguards data protection, data security and data access rights, the federated learning model is consistent with Human-Centered AI and the European Trustworthy AI paradigm.

Read more