“Ga in dialoog met kinderen over AI”

“Ga in dialoog met kinderen over AI”

Relationele vaardigheden van kinderen zijn unieke inspiratiebronnen voor de ontwikkeling van mensgerichte Kunstmatige of Artificiële Intelligentie (AI). Maar we betrekken kinderen nog te weinig bij de publieke dialoog over AI-systemen. DesignLab van de Universiteit Twente te Enschede en kinderrechtenorganisatie KidsRights te Amsterdam deden in Nederland uniek onderzoek. Ze richtten zich volledig kinderen en jongeren.

Doel van het onderzoek is om ethische en sociale waarden op te halen, zowel over huidige inter-acties van kinderen met AI-systemen als over hun blik op toekomst. Hiermee willen DesignLab en KidsRights bijdragen aan het bevorderen van brede en betekenisvolle participatie van kinderen.

Snelle ontwikkelingen

Hoofdonderzoeker Karolina La Fors van DesignLab: “De ontwikkelingen op het gebied van AI gaan zo snel, dat we niet moeten vergeten ook naar de ethische beperkingen te kijken en wat het betekent voor kinderen. Kinderen dragen ethische standaarden aan waar volwassenen niet aan denken”.

Voorzitter Marc Dullaert van KidsRights roept de Nederlandse overheid op kinderen en jongeren te betrekken bij het opstellen van ethische normen voor mensgerichte AI. ‘Nu lijkt alles wat technisch mogelijk is ons te overkomen, ook de schadelijke effecten. Kinderen en jongeren zijn hierbij uiterst kwetsbaar. We moeten ze daarom beschermen en betrekken en ons door hen laten inspireren. Met dit onderzoek lezen kinderen en jongeren de overheid de les’.

Onderzoek biedt nieuwe inzichten

Het representatieve onderzoek (1) onder 374 kinderen in de leeftijd tussen de 4 en 16 jaar – de meeste deelnemende kinderen waren tussen de 6 en 13 jaar – levert nieuwe, verrassend interessante inzichten op. Die zijn van groot belang voor de ontwikkeling van AI-systemen.

Zo vroegen de onderzoekers de kinderen naar positieve en negatieve ervaringen met AI-systemen in hun dagelijks leven. Denk aan het overnemen van diverse maatschappelijke rollen. Op de vraag of kinderen geholpen willen worden door een robotverkoper in winkels antwoordt 55,3% van wel en 41% van niet.

Op de vraag of een politieagent een robot mag zijn is 54,8% tegen en 41,5% voor. De groep die tegen is denkt dat robotagenten hun veiligheid kunnen bedreigen. Een robothuisarts vinden de meeste kinderen een slecht idee: 61,3%, ten opzichte van 35,3% die dat wel willen.

Gedachten van kinderen vertaald in ethische en sociale waarden

1. Menselijke geletterdheid – ‘Robots missen menselijke eigenschappen’
2. Emotionele intelligentie – ‘Robots hebben geen emoties’
3. Liefde en vriendelijkheid – ‘Robots geven geen liefde’
4. Authenticiteit – ‘Robots hebben geen eigen mening’
5. Menselijke zorg en bescherming – ‘Robots kunnen niet troosten’
6. Autonomie – ‘Robots mogen niet de wereld overnemen’
7. AI in dienstbaarheid – ‘Robots moeten mij helpen’
8. Uitbundigheid – ‘Robots moeten met mij kunnen spelen’

Brede en vroegtijdige dialoog helpt

Daar waar veel kinderen (70,6%) voor het onderzoek de term AI niet kenden, wist uiteindelijk iedereen dat zij dagelijks met een grote verscheidenheid aan AI-systemen te maken hebben. Voorbeelden van slimme systemen waar kinderen AI in herkennen zijn onder andere computers, smart tv’s, thermostaten, smartphones, slimme deurbellen en robotgrasmaaiers en -stofzuigers. Het tweede waar kinderen AI in herkennen of mee associëren zijn verschillende merken, denk aan Google, Playstation, Youtube, TikTok, Netflix, Apple Watch, NS ov-chipkaart of de bestelzuil van de McDonald’s.

Onduidelijke implicaties

Het zijn enkele resultaten uit het onderzoeksrapport AI-register van kinderen in Nederland. Het bewustzijn, ethische en maatschappelijke waarden en ideeën van kinderen over AI-systemen. La Fors en Dullaert lichten toe dat er nog veel onduidelijk is over de implicaties van AI-systemen op de ontwikkeling van kinderen. Een brede en vroegtijdige dialoog helpt hierbij.

Kinderen ondervragen naar hun bewustzijn van en ideeën over AI is cruciaal in de ontwikkeling naar meer mensgerichte AI-systemen en voor de discussie wat het betekent mensgericht te zijn. Zeker in een wereld waar technische ontwikkelingen als chatGPT, GPT Force en internet of things al niet meer weg te denken zijn.