Kunstmatige intelligente, killer robot: grootste dreiging voor de mensheid?

Kunstmatige intelligentie grootste dreiging voor de mensheid?

Moeten we angstig zijn voor de ontwikkeling van AI of wordt het een zegen voor de mensheid?

Rob van den Hoven van Genderen

Artificial intelligence is

“the biggest risk we face as a civilisation”;

Dit zijn de woorden van  Elon Musk, de CEO van Tesla en inmiddels een soort van futurologische goeroe. Hoe realistisch is zijn voorspelling en  hoe gevaarlijk is AI voor onze samenleving? Musk en andere ‘heilige’ toekomstdenkers als Steve Hawking en Bill Gates waarschuwen voor de gevaren van AI als we die ontwikkeling niet uitermate zorgvuldig reguleren. Zij waarschuwen met name voor het gebruik van AI in autonome wapensystemen (LAWS) en stuurden een brief aan een commissie van de VN om af te zie van de ontwikkeling van deze ‘killer robots”.[1] De angst voor de onmogelijkheid om de verdere ontwikkeling te controleren als deze systemen zijn geoperationaliseerd zit diep. Misbruik door machtsbeluste dictators en terroristen en niet te stoppen escalatie is het grootste gevaar. Als de deksel van deze doos van Pandora af is zal hij niet meer gesloten kunnen worden. Beperkende regelgeving is noodzakelijk.

AI is a rare case where we need to be proactive in regulation instead of reactive because if we’re reactive in AI regulation it’s too late”.[2] (Elon Musk)

Overigens is Musk niet zo pessimistisch als hij zijn eigen AI ontwikkelingsbedrijf ‘Neuralink’ presenteert waardoor directe koppeling van onze hersenen aan AI mogelijk wordt:

Ultimately Neuralink wants to change how we interact with devices by linking our brains to the machines we interact with most often: cars, mobile devices, and even smart items in our smart home’[3]

 

Afgezien van het feit dat velen die koppeling toch als tamelijk griezelig zullen ervaren geeft het wel aan dat de ‘versmarting’ van onze samenleving door AI niet te stoppen zal zijn.

Wordt nu AI een dreiging of een zegen voor de mensheid? Putin stelde bij een toespraak bij de opening van het nieuwe studiejaar in Rusland het volgende:

“Artificial intelligence is the future, not only for Russia, but for all humankind”.

“It comes with colossal opportunities, but also threats that are difficult to predict. Whoever becomes the leader in this sphere will become the ruler of the world.”

Dit is niet direct een geruststellende gedachte maar ‘gelukkig’ voegt Putin hier het volgende aan toe:

If we become leaders in this area, we will share this know-how with entire world, the same way we share our nuclear technologies today,”[4]

Op welke wijze die technologie en met wie die technologie zal worden gedeeld is gezien de analogie met nucleaire technologie evenmin geruststellend. Het bracht Elon Musk er toe de volgende tweet de wereld in te sturen:

China, Russia, soon all countries will have strong computer science. Competition for AI superiority at national level most likely will be the cause of WW3.”

Is de AI ontwikkeling nu werkelijk zo angstaanjagend? Daniela Rus, hoogleraar informatica aan het gerenommeerde MIT gelooft er niets van. In een interview in NRC stelt zij dat die ontwikkeling nog lang niet zo ver is als in de media wordt gepresenteerd.[5] Robots hebben  nog lang niet het met de mens vergelijkbare coördinatievermogen voor tal van taken. Zij gelooft ook niet in de theorie van singularity, in de zin van oneindige ontwikkeling van AI door het gebruik van AI. Met andere woorden: AI wordt oneindig veel slimmer dan de mens.

Zij staat hierin niet alleen. Ook Rodney Brooks van dat zelfde MIT ziet singularity meer als een soort religie, je kan er in geloven maar erg rationeel is het niet.[6] Hij gelooft niet dat AI dezelfde sociale en emotionele intelligentie kan ontwikkelen als de mens. Mede daarom verwerpt hij de opvatting dat de helft van de banen zal verdwijnen door robotica en AI. Ook de angst voor de ontwikkeling van killer robots acht hij irrationeel. Zijn motivering is echter niet al te sterk en zijn verwijzing naar Amara’s law geeft zeker geen aanleiding om de invloed van AI op de samenleving te onderschatten:

“We tend to overestimate the effect of a technology in the short run and underestimate the effect in the long run.”

De onzekerheid over de richting die AI ons zal doen inslaan maakt het erg moeilijk om bij voorbaat alle risico’s van AI uit te sluiten door regelgeving. Ook bestaat het gevaar dat te stringente regelgeving ‘chilling effects’ zal hebben op de verdere ontwikkeling. Dat AI de efficiëntie en effectiviteit van productieprocessen zal doen toenemen en de verspilling van natuurlijke hulpbronnen zal beperken lijkt mij geen moeilijke voorspelling. Dat dit wel gepaard moet gaan met een zorgvuldig afgewogen systeem van ‘checks and balances’ op zowel het ontwerpen van AI systemen alsook het gebruik daarvan is zeker een zaak die onze aandacht moet blijven houden. Het gevaarlijkste aspect van AI in onze samenleving zal niet de AI component maar de toepassing door de mens blijken te zijn.

[1]https://www.dropbox.com/s/g4ijcaqq6ivq19d/2017%20Open%20Letter%20to%20the%20United%20Nations%20Convention%20on%20Certain%20Conventional%20Weapons.pdf?dl=0

[2] http://www.telegraph.co.uk/technology/2017/07/17/ai-biggest-risk-face-civilisation-elon-musk-says/

[3] https://thenextweb.com/insider/2017/03/28/elon-musks-new-company-wants-to-merge-humans-and-machines-via-brain-implants/#.tnw_MGCGmFYV

[4] https://www.rt.com/news/401731-ai-rule-world-putin/

[5] https://www.nrc.nl/nieuws/2017/09/08/robots-naar-mars-sturen-is-makkelijker-dan-robots-de-was-laten-vouwen-12901939-a1572794

[6] http://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai/

DOOR communicatie & vorm