👉 Op zoek naar de meest opvallende nieuwsitems van afgelopen week? Die vind je onderaan de vlaai!
Alarm!
Dario Amodei, de baas van Anthropic (het bedrijf achter Claude) waarschuwt dat de krachtigste AI-systemen zo snel verbeteren dat de veiligheid moeilijk kan volgen. Hij maakt zich vooral zorgen over AI-agents, systemen die zelfstandig taken kunnen uitvoeren zoals programmeren, websites bezoeken of computers bedienen. Volgens Amodei zouden zulke agents binnen 6 tot 12 maanden krachtig genoeg kunnen worden om cyberaanvallen op grote schaal uit te voeren.
Sam Altman (CEO van OpenAI), Demis Hassabis (baas van Google DeepMind) en zelfs Musk (xAI en Grok) gaan allemaal akkoord.
Jacob Coxon, een onderzoeker die bij OpenAI en Anthropic werkte, nam vorige week zelfs ontslag, omdat hij vindt dat de race naar steeds krachtigere AI te riskant wordt. Zijn collega Evan Hubinger, die bij Anthropic onderzoekt hoe we AI onder controle kunnen houden, schat persoonlijk de kans op een grote AI-catastrofe binnen tien jaar zelfs op meer dan 10 procent. De vraag is natuurlijk: hoe schat hij dat dan in?
The Humanist AI Code of Conduct
Ook deze week kwam Microsoft AI met een gedragscode voor zijn eigen modellen. De kern daarvan is vrij eenvoudig: de mens moet de controle houden. AI moet zich laten corrigeren en uitschakelen, mag geen eigen doelen beginnen na te streven en mag zijn acties niet verbergen. Microsoft wil ook vermijden dat AI-systemen onderling manieren van communiceren ontwikkelen die mensen niet meer begrijpen.
Even onderbreken: wil je naast op de hoogte blijven ook zelf bijleren? Schrijf je dan in voor onze 4 gratis webinars (al meer dan 900 inschrijvingen!) 👉 Bekijk de vier sessies en schrijf je gratis in.
Of is er str*nt aan de knikker?
Michael Burry, de investeerder die beroemd werd omdat hij de Amerikaanse huizencrisis van 2008 zag aankomen, vertrouwt die plotse bezorgdheid veel minder. Zijn redenering is interessant: bedrijven als OpenAI en Anthropic zijn enorm veel waard, omdat iedereen verwacht dat hun technologie extreem krachtig wordt. Ze hebben dus ook baat bij het idee dat hun AI zó krachtig is dat we er zelfs bang voor moeten zijn.
Opvallend is ook dat die bedrijven ondertussen zelf ook strengere regels voorstellen. Amodei pleit bijvoorbeeld voor onafhankelijke controleurs die de krachtigste modellen voortdurend kunnen testen en opvolgen, meer verplichte veiligheidschecks en afspraken over wanneer bedrijven bepaalde systemen wel of niet mogen uitbrengen.
Dat klinkt op zich logisch als je de risico’s serieus neemt, maar het kan de grootste spelers tegelijk helpen. OpenAI, Google, Microsoft en Anthropic kunnen miljoenen uitgeven aan permanente controles, veiligheidstests en extra beveiliging. Voor een kleine startup wordt dat een veel grotere drempel.
En dan is er nog de mogelijke AI-bubbel. Er worden gigantische bedragen geïnvesteerd in chips, datacenters en AI-bedrijven. Als de vooruitgang sowieso wat begint te vertragen, is het verhaal dat we bewust rustiger aan doen voor de veiligheid natuurlijk fijner dan moeten uitleggen dat AI minder snel verbetert dan verwacht.
Het moet samen
Zelfs als iedereen zou willen vertragen, rest er nog een huzarenstukje: niemand wil het alleen doen. Als Anthropic vertraagt en OpenAI doorgaat, heeft OpenAI voordeel. Als Amerikaanse bedrijven vertragen terwijl Chinese bedrijven verdergaan, kan China een voorsprong nemen. Althans, dat is het argument.
Trump wees de oproep om te vertragen deze week dan ook hard af. “We’re leading China in AI. We’re the most sophisticated country in the world, and frankly I want to keep it that way because whoever wins AI wins.” Hij noemde de roep om extra regelgeving een “hoax” en schreef dat de enige echte bescherming 'A strong and smart High IQ president' is (zucht).
Ook vanuit China kwam er weinig enthousiasme voor Amodei’s voorstel. De staatskrant Global Times noemde het een “Cold War playbook” en stelde dat de veiligheidsargumenten vooral gebruikt worden om de Chinese AI-sector af te remmen en de Amerikaanse voorsprong te beschermen. De Chinese regering zelf klinkt iets diplomatieker en zegt dat angstzaaierij en onderlinge confrontatie de internationale samenwerking rond AI net moeilijker maken.
En precies die twee landen moeten straks rond de tafel zitten. Trump en de Chinese president Xi spreken binnenkort ook over AI. Daar verwacht ik eerlijk gezegd niet meteen wonderen van.
Wat denk ik zelf?
Om eerlijk te zijn, ben ik er niet 100% gerust in. Misschien blijken sommige waarschuwingen over tien jaar overdreven, maar dat lijkt mij nog altijd een aangenamer probleem dan achteraf ontdekken dat we signalen hebben genegeerd van mensen die dagelijks met deze systemen werken. Als onderzoekers hun job ervoor opgeven en de bazen van verschillende AI-bedrijven zelf beginnen te zeggen dat het tempo een probleem kan worden, vind ik dat toch iets om serieus te nemen.
Tegelijk is het goed om ook open te staan voor andere theorieën. Deze bedrijven hebben miljarden te winnen of te verliezen. Strengere regels kunnen hun positie beschermen en het verhaal dat AI extreem krachtig wordt, is natuurlijk ook niet slecht voor hun waardering. Verder denk ik eerlijk gezegd dat vertragen geen optie is voor de beurs.
Ik denk dus dat het allemaal een beetje waar is. Er komen interessante maanden aan, dat is alvast zeker.
Nu, ik ben benieuwd wat jouw gedacht is!
Wat is er écht aan de hand volgens jou?
Ik deel volgende week de resultaten.
Tot vlaais en stay safe!
Wouter
Interessante nieuwsitems van afgelopen week
1. Anthropic toont hoe Claude vandaag al misbruikt wordt
Anthropic publiceerde voorbeelden van misbruik van Claude, van cyberaanvallen tot surveillance en wapentoepassingen. Best relevant na heel het debat hierboven: sommige risico’s spelen dus vandaag al.
Bron: Reuters
2. DeepSeek maakt krachtige AI opnieuw goedkoper
Het Chinese DeepSeek lanceerde V4.1-Flash, een kleiner en efficiënter model. De concurrentie draait dus niet alleen om wie de krachtigste AI bouwt, maar ook om wie die het goedkoopst kan aanbieden.
Bron: Reuters
3. AI-medicijn geeft opvallend signaal rond veroudering
Een met AI ontworpen medicijn tegen een ernstige longziekte liet in een kleine studie op verschillende metingen een lagere biologische leeftijd zien. Veel te vroeg voor grote conclusies, maar wel bijzonder interessant.
Bron: Nature Biotechnology
4. Flanders Make brengt slimmere robots naar Vlaamse bedrijven
Flanders Make lanceert Robotics Launchpad om productiebedrijven te helpen met robots die dankzij AI beter kunnen omgaan met wisselende taken. Vooral interessant voor complex of fysiek belastend werk.
Bron: Made in Limburg
5. Suno bouwt zijn AI-muziekmodel nu mét de muziekindustrie
Na rechtszaken over auteursrechten lanceert Suno v6, ontwikkeld met onder andere Warner Music, BMG en Believe. Opvallend: voormalige tegenstanders worden nu partners.
Bron: The Verge
Al ingeschreven voor de komende 4 webinars? 👉 Bekijk ze hier en schrijf je gratis in.
Over de auteur
Hallo, ik ben Wouter, zaakvoerder van marketingbureau Yungo en strategisch partner bij automationbureau BTTMLINE. Elke dag dompel ik me onder in de wereld van artificiële intelligentie. Met een diploma “Artificial Intelligence Programme” aan de online Universiteit van Oxford op zak, besteed ik dagelijks uren aan onderzoek en experimenten met AI. Benieuwd wat ik voor jou kan betekenen? Stuur me gerust een mailtje!
