'Peetvader' van AI waarschuwt voor wapenwedloop in ontwikkeling van AI en 'bovenmenselijke' systemen

Yoshua Bengio, een van de grondleggers van kunstmatige intelligentie (AI), waarschuwt voor een opkomende wapenwedloop in de ontwikkeling van AI, vooral na de recente onrust over DeepSeek. Bengio, vaak de 'godfather van AI' genoemd, heeft het grootste deel van zijn carrière gewijd aan de vooruitgang van AI en is daarmee een van de meest vertrouwde stemmen in het veld.

Nu waarschuwt de Canadese pionier in machine learning dat de haast om krachtigere AI-modellen te bouwen ernstige gevolgen kan hebben als dit niet goed wordt beheerd. "De inspanning gaat naar wie de race gaat winnen, in plaats van hoe we ervoor zorgen dat we niet iets bouwen dat in ons gezicht ontploft," zei Bengio. Hij is ook de auteur van het eerste Internationale AI Veiligheidsrapport, dat volgende week op een internationale AI-top in Parijs zal worden gepresenteerd.

Ethiek, verantwoordelijkheid en veiligheid

Of het nu voor economische of militaire doeleinden is, de race naar geavanceerde AI-technologie kan "resulteren in het afsnijden van bochten op het gebied van ethiek, verantwoordelijkheid en veiligheid," aldus Bengio, toevoegend dat dit "onvermijdelijk" is. Hij is momenteel in Londen met andere AI-pioniers om de Queen Elizabeth Prize for Engineering in ontvangst te nemen, een wereldwijde prijs die het potentieel van AI erkent. Echter, Bengio legde uit dat zijn grootste zorg de onzekere gevolgen zijn van het gebrek aan AI-regulering en de race onder techgiganten om steeds krachtigere AI-modellen te bouwen.

'Bovenmenselijk'

Deze wapenwedloop zorgt ervoor dat systemen 'krachtiger' en bijna 'bovenmenselijk in sommige dimensies' worden, beschreef hij. Bengio verklaarde: "Naarmate deze systemen krachtiger worden, worden ze ook buitengewoon waardevoller, economisch gezien. Dus de omvang van 'wauw, dit gaat me veel geld opleveren' motiveert veel mensen. En natuurlijk, als je producten wilt verkopen, wil je niet praten over de risico's." Echter, niet alle AI 'godfathers' zijn het hiermee eens. (lees verder onder de afbeelding)

Taken uitvoeren zonder specifieke training

Yann LeCun, hoofd AI-wetenschapper bij Meta, maakt zich veel minder zorgen over AI die uit de hand loopt. Sterker nog, hij gelooft dat mensen overschatten hoe slim AI werkelijk is. "We zijn misleid om te denken dat grote taalmodellen intelligent zijn, maar echt, dat zijn ze niet," zei hij. "We hebben geen machines die bijna zo slim zijn als een huiskat, in termen van het begrijpen van de fysieke wereld." Dat gezegd hebbende, voorspelt LeCun wel dat AI binnen de komende drie tot vijf jaar bepaalde aspecten van menselijke intelligentie zal bereiken. Daarmee bedoelt hij dat sommige robots taken kunnen uitvoeren zonder specifieke training of programmering om dit te doen.

DeepSeek

Wijzend naar het Chinese chatbotbedrijf DeepSeek, zei LeCun dat er bewijs is dat geen enkel land of bedrijf de AI-race voor lange tijd zal domineren. Met de release van hun eerste chatbot in januari 2025 heeft het bedrijf al laten zien dat het kan concurreren met de beste van Amerika's big tech met een fractie van de rekenkracht. "Als de VS besluit om zich terug te trekken op het gebied van AI om geopolitieke of commerciële redenen, dan zal je innovatie ergens anders in de wereld zien. DeepSeek heeft dat laten zien," concludeerde hij.

(Bron: LADBible - Intropic YouTube)