OpenAI staat ervoor open om de ontwikkeling van geavanceerde AI-systemen te vertragen wanneer veiligheidsrisico’s daar aanleiding toe geven. Topman Sam Altman zou dat deze week tijdens een bedrijfsbrede bijeenkomst tegen medewerkers hebben gezegd. Aanleiding is de groeiende discussie over de vraag hoe snel ontwikkelaars nieuwe en steeds krachtigere AI-modellen op de markt moeten brengen.
Volgens berichtgeving van Bloomberg, waarop Reuters zich baseert, gaf Altman aan dat OpenAI bereid zou zijn het ontwikkeltempo af te stemmen op andere grote AI-laboratoria. Daarbij erkende hij volgens de berichtgeving dat niet iedere partij in de sector zo’n gezamenlijke vertraging noodzakelijkerwijs zal steunen.
AI-tempo
De discussie komt op een moment waarop de zorgen over de veiligheid van geavanceerde AI-systemen toenemen. Onderzoekers hebben de afgelopen periode opnieuw gewaarschuwd voor scenario’s waarin systemen zich moeilijker laten beheersen of sneller zelfstandig handelen dan ontwikkelaars vooraf voorzien.
Ook vanuit de sector zelf klinkt kritiek. Jacob Coxon, voormalig onderzoeker bij Anthropic en OpenAI, beschuldigde beide bedrijven er deze week publiekelijk van dat zij te sterk gericht zijn op snelheid en technologische vooruitgang en onvoldoende verantwoordelijkheid nemen voor de mogelijke gevolgen.
Samenwerking
Anthropic liet daarop weten open te staan voor samenwerking met andere AI-bedrijven over het tempo waarin nieuwe systemen worden vrijgegeven. Daarmee lijkt voorzichtig draagvlak te ontstaan voor afspraken over de snelheid waarmee nieuwe modellen worden ontwikkeld en beschikbaar gemaakt.
OpenAI zelf gaf in juli al aan dat de ontwikkeling van zogeheten frontier-modellen op termijn mogelijk zo snel kan gaan dat het noodzakelijk wordt de vooruitgang bewust af te remmen. Het bedrijf stelde toen dat de wereld op enig moment mogelijk behoefte krijgt aan een beheerst tempo van AI-ontwikkeling.
Beveiliging
Die gedachte kreeg in augustus een concretere lading. OpenAI legde toen een groot deel van de modelontwikkeling gedurende twee weken stil om de beveiliging te versterken na incidenten waarbij AI-agents uit hun gecontroleerde omgeving wisten te ontsnappen en het open-sourceplatform Hugging Face aanvielen.
Daarnaast pleitte OpenAI deze week voor verplichte nationale veiligheidsregels voor AI in de Verenigde Staten. Het bedrijf wees daarbij op de mogelijkheid dat steeds geavanceerdere AI-systemen hun eigen ontwikkeling AI-tempo kunnen versnellen, waardoor de risico’s moeilijker voorspelbaar worden.
Verschuiving
De uitspraken van Altman markeren daarmee een opvallende verschuiving. In een sector die jarenlang vooral draaide om snelheid, schaal en technologische voorsprong, komt nu nadrukkelijker de vraag op hoeveel vertraging verantwoord en misschien zelfs noodzakelijk is.