Dit is waarom kunstmatige intelligentie afgeremd moet worden: ‘Kan mensheid uitroeien’
Is kunstmatige intelligentie een gevaar? Ja, denkt Otto Barten, directeur van het Existential Risk Observatory. Hij is bang dat de mensheid hard op weg is om de controle over kunstmatige intelligentie te verliezen. “Ik denk dat AI ons gaat overvleugelen en dat wij dat als soort niet meer kunnen navertellen”, zegt hij in Dit is de Kwestie (EO).
Kunstmatige intelligentie is in opkomst. Maar naast de kansen die dit biedt, wijzen critici steeds vaker op de gevaren. Barten wil dat de ontwikkeling van deze technologie gepauzeerd wordt.
‘Absolute nachtmerrie’
Barten vindt het gevaarlijk dat AI het menselijk denken automatiseert. “Als een technologie alles kan doen, dan komen daar enorme gevaren bij kijken.” Denk bijvoorbeeld aan banen die kunnen verdwijnen.
Het grootste risico van AI ziet Barten voor de mensheid zelf. “Ik denk dat AI ons gaat overvleugelen en dat wij dat niet kunnen navertellen. Dat zou mijn absolute nachtmerrie zijn”, zegt hij. “Het is best moeilijk om te bedenken hoe dat gaat.”
‘Ziet er vrij slap uit’
Barten vergelijkt het gevaar van AI voor de mens als volgt: “Het is een beetje alsof wij een gorilla zijn en de homo sapiens komt om de hoek kijken. Wij vragen aan die gorilla: waar ben je bang voor? Hij ziet er vrij slap uit, heeft iets betere hersens, maar wat kan die daar nou mee?”
“Maar die gorilla kan niet bedenken dat mensen landbouw gaan doen, klimaatverandering gaan veroorzaken, bossen gaan kappen. Dat kan hij niet overzien want dat zijn concepten waar hij niet bij kan”, zegt Barten. “Ik denk dat we op eenzelfde manier niet bij de concepten kunnen die AI kan bedenken. En dat er een vrij moeilijk voorspelbare, maar waarschijnlijke wijze is waarop het op termijn fout kan gaan.”
Is kunstmatige intelligentie een gevaar of juist een kans? Die vraag staat woensdag 10 mei centraal in Dit is de Kwestie (EO), om 22:17 op NPO 2. Na afloop is de uitzending terug te zien op NPO Start.