De roep om een AI-pauze van op zijn minst 1 tot 2 jaar jaar groeit. De laatste in de rij die dat verklaart is Vitalik Buterin, mede-oprichter van Ethereum.
Buterin ziet volgens Windows Central graag een “wereldwijde soft-pauzeknop” van een jaar of twee de ontwikkeling van AI computing met 90 tot 99% terug te schroeven. Dit zou voldoende tijd moeten zijn om de controle over de snelle opmars van AI te stoppen voor het catastrofale proporties aanneemt. Want daar zijn veel mensen bang voor.
AGI (kunstmatige algemene intelligentie) bereikt steeds grotere hoogten. Dit ondanks rapporten die beweren dat grote technische AI-laboratoria, als OpenAI, Anthropic en Google, moeite hebben om geavanceerde AI-systemen te ontwikkelen. Dat komt vooral door gebrek aan hoogwaardige inhoud voor modeltraining. Dit zou de ontwikkeling juist remmen.
AGI wellicht eerder dan verwacht, volgens Altman
CEO van OpenAI, Sam Altman, gaf onlangs aan dat AGI wellicht eerder wordt gerealiseerd dan verwacht, en dat superintelligentie slechts “een paar duizend dagen verwijderd is”.
Privacy- en veiligheidsproblemen rond AI spelen een rol in de zorgen, maar een groeiende groep vreest dat die zal leiden tot existentiële ondergang. Volgens een AI-veiligheidsonderzoeker en directeur van het Cyber Security Laboratory van de Universiteit van Louisville, Roman Yampolskiy, is er een kans van 99,999999% dat AI een einde zal maken aan de mensheid. De onderzoeker beweert dat de enige manier om dit te vermijden is om in de eerste plaats geen AI meer te bouwen.
Door die cruciale behoefte aan vangrails en regelgeving om te voorkomen dat AI ontspoort, stelt Buterin een ‘wereldwijde zachte pauzeknop’ op mondiale hardware voor. Zo kun je volgens hem voorkomen dat deze technologie de mensheid overneemt. “Het doel zou zijn om de mogelijkheid te hebben om de wereldwijd beschikbare rekenkracht gedurende 1-2 jaar in een kritieke periode met 90 tot 99% te verminderen, om zo meer tijd te kopen voor de mensheid om zich voor te bereiden. De waarde van 1 tot 2 jaar mag niet worden overschat. Er zijn manieren onderzocht om die ’pauze’ in te voeren. Concrete voorstellen zijn bijvoorbeeld het eisen van registratie en verifiëren van de locatie van hardware.’
Tip:
- Nederland zet grote stappen in de bouw van een ‘AI-fabriek’