Apple heeft recent een nieuwe AI-functie geïntroduceerd, waarmee scamberichten en -e-mails worden herschreven en realistischer ogen. Dit maakt ze geloofwaardiger en markeert ze soms zelfs als prioriteit, wat leidt tot zorgen over de verhoogde kans dat gebruikers erin trappen.
Eind vorig jaar rolde Apple de AI-gedreven update ‘Apple Intelligence’ uit naar miljoenen iPhone-, iPad- en Mac-gebruikers in Australië. De belangrijkste functies omvatten het samenvatten en prioriteren van meldingen. Hiermee kan de AI bijvoorbeeld meerdere meldingen comprimeren tot één bericht of bepaalde e-mails als urgent markeren.
Fraudegevoeligheid
Hoewel de technologie gebruikers overzicht zou moeten bieden, heeft het al geleid tot controverses. Zo werden BBC-headlines onjuist samengevat, wat tot misleidende meldingen leidde. Dit probleem is ook zichtbaar in persoonlijke communicatie. Screenshots van gebruikers tonen aan dat de AI soms scamberichten als prioriteit markeert en samenvat, waardoor de kans op misleiding en fraudegevoeligheid toeneemt.
Een gebruiker, bekend onder de schuilnaam Steve, ontving een samenvatting van een frauduleuze e-mail waarin werd beweerd dat hij een belastingopgave moest indienen. Tot zijn verbazing markeerde Apple Intelligence deze als urgent, ondanks dat het overduidelijk om een scam ging. “Het is teleurstellend dat deze functie scamberichten juist versterkt in plaats van ze te herkennen”, aldus Steve.
Fraude
Professor Daswin De Silva van La Trobe University waarschuwt dat deze technologie het vertrouwen van gebruikers in Apple’s samenvattingen kan vergroten, wat scammers een voordeel geeft. Door meldingen te vereenvoudigen, verdwijnen mogelijk cruciale signalen die normaal zouden wijzen op fraude.
De Silva benadrukt dat bedrijven voorzichtig moeten zijn met de lancering van nieuwe AI-functies. “De introductie moet geleidelijk plaatsvinden, zodat gebruikers kunnen wennen aan het omgaan met AI.”
Verantwoordelijkheid Apple heeft beloofd de functie bij te werken en duidelijk te maken wanneer een tekst is samengevat door hun AI. Tot die tijd roept het incident vragen op over de verantwoordelijkheid van technologiebedrijven in het beschermen van hun gebruikers tegen fraude.