AI-ethiek

IBM en Microsoft hebben vrijdag 28 februari 2020 in het Vaticaan een gezamenlijke verklaring ondertekend over kunstmatige instelligentie oftewel artificial intelligence (AI). Het document roept op tot bescherming van de planeet en de rechten van alle mensen, in het bijzonder de zwakken, en regulering op het gebied van nieuwe technieken zoals gezichtsherkenning. Er moet een 'plicht tot uitleggen' komen. Niet alleen moet duidelijk zijn hoe de algoritmes tot beslissingen komen maar ook wat het doel ervan is.

"Het Vaticaan is geen expert in technologie maar in waarden", zegt Francesca Rossi, hoofd AI-ethiek van IBM, in de Financial Times. De samenwerking moet het Vaticaan en de maatschappij laten zien hoe we deze technologie op een ethisch verantwoorde manier kunnen gebruiken.

De verklaring komt kort nadat de Europese Commissie haar visie publiceerde over regulering van AI. Volgens deze visie moeten risicovolle AI-toepassingen aan een strenge keuring worden onderworpen voordat ze in de EU geïntroduceerd kunnen worden, waarbij de risico's worden afgewogen tegen de voordelen.

Meerdere bronnen, o.a. Financial Times

Volledige tekst van de verklaring: Rome Call for AI Ethics

Fundamental principles: 

... to promote “algor-ethics”, the ethical use of AI by the following principles:

1. Transparency: in principle, AI systems must be explainable;

2. Inclusion: the needs of all human beings must be taken into consideration so that everyone can benefit and all individuals can be offered the best possible conditions to express themselves and develop;

3. Responsibility: those who design and deploy the use of AI must proceed with responsibility and transparency;

4. Impartiality: do not create or act according to bias, thus safeguarding fairness and human dignity;

5. Reliability: AI systems must be able to work reliably;

6. Security and privacy: AI systems must work securely and respect the privacy of users.