AI bouwt zichzelf: Anthropic waarschuwt voor snelle zelfverbetering

Het Amerikaanse AI-laboratorium Anthropic, bekend om zijn waarschuwingen over de risico’s van kunstmatige intelligentie, meldt dat er vroege aanwijzingen zijn dat AI niet alleen software ontwikkelt, maar zichzelf ook kan verbeteren. Deze ontwikkeling, bekend als recursieve zelfverbetering, zou de komende jaren exponentieel kunnen versnellen.

Co-founder Jack Clark, tevens hoofd van het nieuwe Anthropic Institute, voorspelt dat er tegen het einde van 2028 meer dan 60% kans is op een AI-systeem dat volledig autonoom een betere versie van zichzelf kan creëren. Tijdens een interview met Axios lichtte hij toe:

"Ik zie een technologische trend waarbij de snelheid alleen maar verder zal toenemen. Tegen 2028 is het waarschijnlijker dan niet dat we een AI hebben die je simpelweg kunt instrueren: ‘Maak een betere versie van jezelf’, en die dat vervolgens volledig zelfstandig uitvoert."

Deze voorspelling staat in een recent gepubliceerd onderzoeksdocument van het Anthropic Institute, dat voor het eerst met Axios werd gedeeld. Daarin waarschuwt het instituut voor een mogelijke ‘intelligentie-explosie’ – een term die voorheen vooral circuleerde in AI-veiligheidskringen. Clark beschrijft dit als een situatie waarin AI-systemen plotseling met ongekende snelheid verbeteren, wat zowel enorme kansen als ernstige bedreigingen met zich meebrengt.

Volgens Clark kan een dergelijke explosie leiden tot zowel positieve als negatieve scenario’s. Enerzijds zou het de wetenschap en technologie in een stroomversnelling brengen, bijvoorbeeld door snellere medicijnontwikkeling of oplossingen voor klimaatverandering. Anderzijds waarschuwt hij voor risico’s zoals cyberaanvallen, biologische dreigingen of een verlies aan menselijke controle.

"Hoe verwerken we een plotselinge overvloed aan kennis en mogelijkheden? Onze huidige systemen zijn niet voorbereid op zo’n schok."

Vier focusgebieden van het onderzoek

Het Anthropic Institute, dat functioneert als zowel onderzoeksafdeling als vroege waarschuwingssysteem, richt zich op vier kerngebieden:

• Economische verspreiding: De impact op banen, productiviteit en wie de vruchten van deze technologie plukt.
• Bedreigingen en veerkracht: Cybersecurity, biologische risico’s en surveillance.
• AI in de praktijk: Toepassingen zoals autonome agents en governance.
• AI-gedreven R&D: De vraag hoe AI zichzelf kan verbeteren en wat dat betekent voor de toekomst.

Een opvallende belofte van Anthropic is dat het transparanter zal communiceren over de eigen ontwikkelingen. Het instituut zal regelmatig rapporteren over hoe AI-tools de eigen onderzoeksprocessen versnellen en welke implicaties dit heeft voor de toekomst van zelflerende systemen. Dit is de eerste keer dat een grensverleggend AI-lab publiekelijk belooft het publiek te waarschuwen zodra machines zichzelf gaan verbeteren.

De toekomst van AI-ontwikkeling

De vraag rijst of AI-bedrijven zoals Anthropic nog wel nodig zijn als AI zichzelf kan verbeteren. Clark benadrukt echter dat de rol van menselijke begeleiding en ethische kaders cruciaal blijft.

"Wij en andere bedrijven zullen deze technologie inzetten om het goede in de wereld te bevorderen, bijvoorbeeld in de geneeskunde of biologie. Maar we moeten wel voorbereid zijn op de gevolgen."

Anthropic’s onderzoeksagenda markeert een belangrijke stap in de discussie over de toekomst van AI. Of de voorspelde intelligentie-explosie daadwerkelijk zal plaatsvinden, is nog onzeker. Wel maakt het instituut duidelijk dat de wereld zich moet voorbereiden op een tijdperk waarin AI niet langer alleen een hulpmiddel is, maar een zelfstandige kracht die zich razendsnel ontwikkelt.