Plus

Zoom CEO Eric Yuan ziet een hele nieuwe wereld voor zich. Volgens hem zou onze Digital Twin, zeg maar ons AI spiegelbeeld, in de toekomst onze dagdagelijkse repetitieve taken kunnen overnemen. Geen 8 uur durende meetings meer of eindeloze mailboxen te managen. Vanaf nu kunnen wij naar het strand en het werk over laten aan onze Digital Twin! Op dit moment is dit enkel maar een visie en nog geen realiteit. Gelukkig maar! Want hoe veelbelovend deze toekomst ook mag zijn, er is natuurlijk een keerzijde aan de medaille.

Deepfake Phishing

Ook al ontvangt 47% van ons AI met open armen op de werkplek (Bron: Randstad Pulse Survey 2023) , we vergeten wel dat diezelfde technologie werd gebruikt in een deepfake phishing-zwendel. Deze zwendel kostte een multinational ruim 25 miljoen dollar nadat een werknemer tijdens een telefonische vergadering voor de gek werd gehouden door digitale imitaties van zijn collega’s waaronder ook de CFO van de multinational. Dat deepfakes steeds vaker voorkomen mag geen verassing meer zijn. Volgens Onfido, een identiteitsverificatie bedrijf, was er in 2023 een stijging van 3000% op het gebied van deepfake fraude ten aanzien van 2022. Om ons hiertegen te wapenen, dringt de nood aan een aangepaste awareness training zich op. De analogie met phissing is niet ver zoek. Ook hier wordt misbruik gemaakt van het gebrek aan face-to-face contact en wordt een medewerker overhaalt om toegang te geven tot het bedrijfsnetwerk of om in naam van de organisatie handelingen uit te voeren. Medewerkers opleiden en coachen om deze vorm van fraude te herkennen is dus van groot belang.

Privacy

Behalve het fraude aspect, wil ik ook even stilstaan bij het privacy aspect. Wanneer we Zoom een Digital Twin van ons willen laten creëren, dan moeten we deze trainen in onze gedragingen,  handelwijze en besluitvormingen. Het creëren van een Digital Twin omvat dus het verzamelen en verwerken van enorme hoeveelheden persoonlijke gegevens, waaronder spraak-, video- en mogelijk zelfs besluitvormingspatronen. Dit laat bij een doorwinterde security liefhebber zoals ik verschillende belletjes afgaan.

Wettelijke gevolgen

Als laatste aandachtspunt wil ik even stilstaan bij de wettelijke gevolgen. Vandaag ben ik nog steeds verantwoordelijk voor de beslissingen die ik neem. Maar wat als mijn Digital Twin voor mij beslist? We horen wel vaker over AI die bevooroordeeld of gebrekkig is. Dit kan uiteraard leiden tot merkwaardige beslissingen en wat als mijn collega’s dit niet opmerken? Ben ik dan nog steeds verantwoordelijk?

Begrijp met niet verkeerd, ik ben nog steeds een groot voorstander van de ontwikkelingen die AI doormaakt. We mogen deze vernieuwingen verwelkomen, maar moeten wel aandachtig blijven voor de risico’s die hieraan verbonden zijn. Dus bezint eer ge begint en ontdek hoe wij bij 4net u hiermee kunnen helpen. https://www.fournet.be/nl/services/network-services/security-by-design

#DigitalTwin #Cybersecurity #Privacy