Gegevensbescherming en kunstmatige intelligentie: uitdagingen en oplossingen

Auteur: Jana Biermann

Kunstmatige intelligentie, beter bekend als AI, verwijst naar computersystemen of programma’s die taken kunnen uitvoeren waarvoor normaal gesproken menselijke intelligentie nodig is. Deze systemen zijn ontworpen om problemen op te lossen, patronen te herkennen, conclusies te trekken en in sommige gevallen zelfs autonoom te handelen. AI-algoritmen en -technieken maken het mogelijk om te leren van gegevens, patronen te herkennen en beslissingen te nemen. 

Zakelijke voordelen van AI

Het belang van AI groeit snel in bedrijven wereldwijd, omdat AI onder meer repetitieve taken in een bedrijfscontext kan stroomlijnen. De belangrijkste voordelen zijn:

• Automatiseren van processen: AI-technologieën kunnen repetitieve taken en processen automatiseren, wat leidt tot efficiëntiewinst en kostenbesparingen. Dit stelt werknemers in staat zich te concentreren op de meer uitdagende en strategische taken.

• Betere besluitvorming: AI-systemen kunnen grote hoeveelheden data analyseren en patronen identificeren om weloverwogen beslissingen te nemen. Dit kan bedrijven helpen betere strategische beslissingen te nemen en hun concurrentievermogen te verbeteren.

• Personaliseren van klantinteracties: Met behulp van AI kunnen bedrijven gepersonaliseerde klantervaringen creëren door gegevens te analyseren om individuele behoeften en voorkeuren te begrijpen en hierop in te spelen. Dit leidt tot een hogere klanttevredenheid en loyaliteit.

• Effectievere marketingstrategieën: Door AI aangedreven analyses kunnen bedrijven hun marketingstrategieën optimaliseren door hun doelgroepen beter te begrijpen, relevante content aan te bieden en gepersonaliseerde marketingcampagnes te voeren.

• Risicobeheer en voorspellingen: AI kan organisaties helpen om risico’s vroegtijdig te identificeren en preventieve maatregelen te nemen door data te analyseren, om potentiële bedreigingen of kansen te identificeren en toekomstige voorspellingen te doen.

• Verbetering van productontwikkeling en efficiënter gebruik van middelen: Met AI kunnen bedrijven het innovatieproces versnellen door klantbehoeften beter te analyseren, nieuwe productideeën te genereren en bestaande producten te verbeteren. Het kan ook helpen knelpunten te identificeren en productieprocessen te versnellen.

Bedrijfsrisico’s verbonden aan AI

De voordelen van AI gaan gepaard met enkele bijbehorende risico’s en aandachtspunten. We benoemen er een aantal: 

Gegevensbescherming in AI

AI-systemen verwerken vaak grote hoeveelheden gegevens, waaronder persoonlijke gegevens. Het beschermen van deze gegevens is cruciaal om de privacy en rechten van individuen te waarborgen.

Het is vaak niet duidelijk welke gegevens een AI verwerkt en hoe deze worden verwerkt. Dit kan leiden tot ongewenste openbaarmaking van persoonlijke informatie of ongeautoriseerde toegang tot gegevens. In het ergste geval kan dit juridische of financiële problemen veroorzaken.

Gevoelige gegevens of informatie moeten worden geanonimiseerd om het moeilijker te maken om individuen te identificeren, terwijl zinvolle gegevens nog steeds kunnen worden verwerkt voor analyse.

Wetgeving inzake gegevensbescherming

De Algemene Verordening Gegevensbescherming (AVG) van de Europese Unie, die op 25 mei 2018 in werking is getreden, heeft als doel om de bescherming van persoonsgegevens in de EU en de rechten van individuen met betrekking tot hun gegevens te versterken.

De AVG is van toepassing op alle bedrijven die persoonsgegevens van inwoners van de EU verwerken, ongeacht of het bedrijf binnen of buiten de EU is gevestigd. De AVG stelt strenge eisen aan de toestemming voor de verwerking van persoonsgegevens. Toestemming moet vrij worden gegeven, specifiek, geïnformeerd en ondubbelzinnig zijn. Toestemming kan te allen tijde worden ingetrokken.

In het geval van een datalek moeten bedrijven dit melden aan de relevante gegevensbeschermingsautoriteit binnen 72 uur nadat ze hiervan op de hoogte zijn gebracht, tenzij het lek waarschijnlijk geen risico vormt voor de rechten en vrijheden van individuen.

Omdat AI-systemen persoonsgegevens voor verschillende doeleinden verwerken, heeft de AVG invloed op hoe AI’s functioneren.

Om het gebruik van AI verder te reguleren, neemt de EU echter momenteel de zogenaamde “AI Act” aan. Deze wetgeving vereist dat AI-systemen worden beoordeeld op basis van hun risicopotentieel. Hoe groter het risico, hoe groter de nalevings- en risicobeheersverplichtingen.

Waarschijnlijk zullen andere wetten in de toekomst worden aangepast aan de veranderende omstandigheden die door AI worden veroorzaakt.

Ethische zorgen bij het gebruik van AI

Naast privacykwesties speelt ethiek ook een belangrijke rol bij het gebruik van AI.

• Vooroordelen en discriminatie: AI-algoritmen kunnen discriminerende beslissingen nemen als gevolg van vooroordelen in de trainingsgegevens, wat kan leiden tot onrechtvaardigheid en benadeling. Dit is vaak het geval bij AI-gegenereerde afbeeldingen, die meestal foutloze mensen weergeven.

• Privacy en surveillance: Het gebruik van AI om grote hoeveelheden gegevens te analyseren kan de privacy van individuen in gevaar brengen door het verzamelen, analyseren en mogelijk misbruiken van persoonlijke informatie. Dit geldt met name voor het gebruik van surveillance-technologieën en het verzamelen van persoonlijke gegevens zonder passende toestemming of transparantie.

• Verantwoordelijkheid en aansprakelijkheid: Verantwoordelijkheid voor de acties van AI-systemen is complex en roept de vraag op wie aansprakelijk moet worden gehouden in geval van fouten of schade. Dit geldt met name voor autonome systemen zoals zelfrijdende auto’s of medische diagnosesystemen.

• Baanverlies en sociale ongelijkheid: De automatisering van banen door AI-technologieën kan leiden tot baanverlies en sociale ongelijkheid doordat bepaalde beroepen overbodig worden of laaggeschoolde werknemers worden benadeeld.

• Manipulatie en misinformatie: AI kan worden gebruikt om misinformatie te verspreiden, meningen te manipuleren of nepinhoud te creëren, wat invloed kan hebben op het publieke debat en democratische processen.

• Langetermijneffecten en existentiële risico’s: Sommige experts waarschuwen voor de potentiële langetermijneffecten van AI op de menselijke samenleving, waaronder existentiële risico’s zoals de ontwikkeling van superintelligenties die aan menselijke controle kunnen ontsnappen.

AI en auteursrecht

Of door kunstmatige intelligentie gecreëerde inhoud beschermd wordt door auteursrecht is een complexe juridische kwestie die afhankelijk is van een aantal factoren, waaronder de wetten van een bepaald land en de specifieke situatie waarin de inhoud is gecreëerd.

In veel rechtsstelsels wordt auteursrechtbescherming verleend aan “oorspronkelijke werken van auteurschap”. Dit betekent dat een werk een zekere mate van originaliteit moet hebben om door het auteursrecht te worden beschermd. In het geval van door AI gegenereerde inhoud hangt de vraag naar bescherming af van de mate waarin de AI wordt beschouwd als de “auteur” of maker van het werk, en of de gegenereerde inhoud voldoende origineel is.

Sommige rechtsgebieden beweren dat door AI gegenereerde inhoud mogelijk niet in aanmerking komt voor auteursrechtelijke bescherming als er geen menselijke input of creativiteit betrokken was bij het creatieproces. Als de AI simpelweg algoritmische instructies uitvoert zonder menselijke tussenkomst of creatieve besluitvorming, kan dit de beschermbaarheid van de geproduceerde inhoud beïnvloeden. Denk bijvoorbeeld aan het gebrek aan menselijke creatie in het Duitse rechtssysteem, waardoor AI-gebaseerde werken in Duitsland niet door het auteursrecht worden beschermd.

In sommige gevallen kan de auteursrechtbescherming van door AI gegenereerde inhoud worden geregeld door contractuele of licentieovereenkomsten tussen de ontwikkelaars van de AI en de gebruikers of exploitanten van de AI. Deze overeenkomsten kunnen de rechten en verplichtingen definiëren met betrekking tot het gebruik en de bescherming van de gegenereerde inhoud.

Waarop te letten bij het gebruik van AI

• Organisaties moeten ervoor zorgen dat gegevensverzameling en -verwerking wordt uitgevoerd in overeenstemming met de toepasselijke gegevensbeschermingswetten, waaronder, maar niet beperkt tot de AVG. Dit omvat het naleven van principes zoals doelbinding, gegevensminimalisatie en rechtmatigheid van verwerking.

• Waar nodig moeten bedrijven de toestemming van betrokkenen verkrijgen voor de verwerking van hun gegevens. Toestemming moet vrij worden gegeven, geïnformeerd, specifiek en ondubbelzinnig zijn, en kan in bepaalde gevallen worden ingetrokken.

• Bedrijven die hun eigen AI-systemen ontwikkelen, moeten transparante informatie verstrekken over hoe hun AI-systemen gegevens verwerken en hoe dit de privacy van individuen kan beïnvloeden. Dit kan gebeuren via een privacybeleid, de servicevoorwaarden of andere informatiebronnen.

• Organisaties moeten passende beveiligingsmaatregelen nemen om de vertrouwelijkheid, integriteit en beschikbaarheid van gegevens te waarborgen. Dit kan gegevensversleuteling, toegangscontroles, gegevensback-up en andere beveiligingsmaatregelen omvatten.

• Bedrijven moeten beoordelingen van gegevensbeschermingseffecten uitvoeren om potentiële privacyrisico’s in verband met hun AI-systemen te identificeren en te evalueren. Op basis van deze beoordelingen kunnen ze vervolgens passende maatregelen voor risicobeperking implementeren.

Gerichte, passende AI versterkt bedrijven

Rekening houdend met alle risico’s en overwegingen rond AI in bedrijven, profiteer je het meest van AI wanneer deze gericht, goed ontworpen en nauwkeurig is. Het is essentieel om AI-bedrijfsoplossingen te implementeren van betrouwbare leveranciers die de specifieke use-cases begrijpen waar AI kan helpen. Bij empower® hebben we onze reputatie en oplossingen opgebouwd rond hoe zakelijke gebruikers werken met bedrijfssoftware. Neem dan ook vrijblijvend contact met ons op bij vragen.