Technologie-experts roepen op ontwikkeling van AI-systemen te pauzeren

Meer dan duizend vooraanstaande mensen uit de technologiesector zijn erg bezorgd over de snelle ontwikkeling van kunstmatige intelligentie. In een open brief roepen onder anderen Tesla-baas Elon Musk en medeoprichter van Apple Steve Wozniak op de AI-ontwikkeling tijdelijk te pauzeren.
Musk, Wozniak, de Israëlische historicus Yuval Noah Harari en andere opstellers van de brief wijzen erop dat krachtige AI-systemen het werk van mensen kunnen overnemen. Daardoor lopen we het risico dat veel mensen hun baan kwijtraken. Dat heeft grote maatschappelijke gevolgen, waarschuwen de ondertekenaars van de brief.

Daarnaast bestaat het risico dat deze programma's "onze informatiekanalen overspoelen met propaganda en onwaarheden".

De ondertekenaars vragen ontwikkelaars van AI-systemen daarom om zes maanden lang geen programma's te bouwen die krachtiger zijn dan GPT-4. Dat is de nieuwste versie van het taalmodel van technologiebedrijf OpenAI. Dat model kan met eenvoudige opdrachten bijvoorbeeld complete teksten schrijven en beelden creëren.

Ondertekenaars van brief willen meer toezicht op AI
Tijdens de ontwikkelingspauze zouden AI-onderzoekers en onafhankelijke experts afspraken moeten maken over de veiligheid van AI, vinden de ondertekenaars. Daar moet vervolgens onafhankelijk toezicht op worden gehouden. Tegelijkertijd zouden overheden nieuwe instellingen moeten oprichten die toezien op de ontwikkeling van AI.

"Moeten we alle banen automatiseren, inclusief het werk dat voldoening geeft? Zouden we niet-menselijk verstand moeten ontwikkelen dat ons uiteindelijk kan overklassen en vervangen? Moeten we het verlies van onze beschaving riskeren? Die beslissingen zouden niet moeten worden overgelaten aan niet-verkozen techmanagers", staat in de brief.

De ontwikkelingspauze staat volgens de ondertekenaars niet gelijk aan opschorting van de ontwikkeling van AI: er moet eerder pas op de plaats worden gemaakt in de "gevaarlijke wedloop richting steeds grotere, onvoorspelbare modellen met nieuwe capaciteiten".

De open brief is woensdagmiddag al door ruim elfhonderd vooraanstaande mensen uit de technologiesector ondertekend.