TNW Conference 2019: Voor eens en voor altijd, is AI gevaarlijk?
Maar wat als AI cognitief beter is dan wij, de simpele stervelingen? “Pen en papier is cognitief beter dan jij. Het onthoudt dingen beter. Een emmer is beter dan jij, want het is beter in water vasthouden. Het zijn tools, niets meer dan dat. Daarom kiezen we ze, omdat ze ergens beter in zijn. AI is simpelweg een tool om software te schrijven. Als het een andere naam had gehad, dan had je waarschijnlijk nooit geweten dat het bestond. Dan zou je eerder denken dat de programmeurs plots veel beter zijn geworden.”
Ze verduidelijkt haar visie met het voorbeeld tussen traditioneel programmeren en programmeren via machine learning of AI (ze gebruikt de twee termen door elkaar). Traditioneel programmeren is gebaseerd op input, verwerking en output. De programmeur dient alle instructies te definiëren en de computer voert die opdrachten vervolgens uit. Wat als je echter een programma wil ontwikkelen dat foto’s scant en zegt of er al dan niet een kat in zit? Bij traditioneel programmeren zou je zo elke pixel van de foto moeten aanspreken en er een manueel gedefinieerde controle op uitvoeren. Daarom worden zo’n zaken geprogrammeerd op basis van voorbeelden in plaats van instructies. AI is dus niets meer dan een communicatierevolutie. Het geeft mensen nieuwe mogelijkheden om met computers te praten.
Voorzichtigheid geboden
Science fiction is een gevaarlijke afleiding, zegt Cassie. Alle technologie wordt gemaakt door mensen. Het is een echo van de wensen van de ontwikkelaars. Toch moet er enige voorzichtig gepaard gaan bij het inzetten van AI.
Als ontwikkelaar moet je je realiseren dat je opdrachten subjectief zijn. Je maakt een wens. Dus wens verantwoordelijk. Ze moedigt alle ontwikkelaars aan om zichzelf te zien als leerkrachten die de machines moeten aanleren.
Als leerkracht is het belangrijk om wijze lesdoelstellingen te hebben, net zoals dat ook moet bij het werken met AI. Een leerkracht heeft echter nog een belangrijke verantwoordelijkheid, en dat is om ervoor te zorgen dat de kennis die wordt doorgegeven objectief is. “Iedereen kan een boek schrijven. Wat voor leerkracht neemt een boek en geeft de inhoud zomaar door aan zijn leerlingen zonder na te gaan wie het boek heeft geschreven en of de informatie wel klopt.” De auteur kan namelijk gevaarlijke visies hebben, die dan worden doorgegeven aan de leerlingen. Bij AI heeft de ontwikkelaar dezelfde verantwoordelijkheid. Die moet namelijk zorgvuldig kiezen welke datasets er worden gebruikt. Op jezelf kan je dat nooit uitmaken, want jou mening is per definitie alweer subjectief. Daarom laat je ook anderen naar de datasets kijken. Diversiteit is geen nice to have, het is een must have. Ontwikkelaars dienen zichzelf steeds af te vragen: “willen we wel dat de informatie uit dit dataset wordt doorgegeven aan duizenden of zelfs miljoenen mensen?”
Maar wat als AI cognitief beter is dan wij, de simpele stervelingen? “Pen en papier is cognitief beter dan jij. Het onthoudt dingen beter. Een emmer is beter dan jij, want het is beter in water vasthouden. Het zijn tools, niets meer dan dat. Daarom kiezen we ze, omdat ze ergens beter in zijn. AI is simpelweg een tool om software te schrijven. Als het een andere naam had gehad, dan had je waarschijnlijk nooit geweten dat het bestond. Dan zou je eerder denken dat de programmeurs plots veel beter zijn geworden.”
Ze verduidelijkt haar visie met het voorbeeld tussen traditioneel programmeren en programmeren via machine learning of AI (ze gebruikt de twee termen door elkaar). Traditioneel programmeren is gebaseerd op input, verwerking en output. De programmeur dient alle instructies te definiëren en de computer voert die opdrachten vervolgens uit. Wat als je echter een programma wil ontwikkelen dat foto’s scant en zegt of er al dan niet een kat in zit? Bij traditioneel programmeren zou je zo elke pixel van de foto moeten aanspreken en er een manueel gedefinieerde controle op uitvoeren. Daarom worden zo’n zaken geprogrammeerd op basis van voorbeelden in plaats van instructies. AI is dus niets meer dan een communicatierevolutie. Het geeft mensen nieuwe mogelijkheden om met computers te praten.
Voorzichtigheid geboden
Science fiction is een gevaarlijke afleiding, zegt Cassie. Alle technologie wordt gemaakt door mensen. Het is een echo van de wensen van de ontwikkelaars. Toch moet er enige voorzichtig gepaard gaan bij het inzetten van AI.
Als ontwikkelaar moet je je realiseren dat je opdrachten subjectief zijn. Je maakt een wens. Dus wens verantwoordelijk. Ze moedigt alle ontwikkelaars aan om zichzelf te zien als leerkrachten die de machines moeten aanleren.
Als leerkracht is het belangrijk om wijze lesdoelstellingen te hebben, net zoals dat ook moet bij het werken met AI. Een leerkracht heeft echter nog een belangrijke verantwoordelijkheid, en dat is om ervoor te zorgen dat de kennis die wordt doorgegeven objectief is. “Iedereen kan een boek schrijven. Wat voor leerkracht neemt een boek en geeft de inhoud zomaar door aan zijn leerlingen zonder na te gaan wie het boek heeft geschreven en of de informatie wel klopt.” De auteur kan namelijk gevaarlijke visies hebben, die dan worden doorgegeven aan de leerlingen. Bij AI heeft de ontwikkelaar dezelfde verantwoordelijkheid. Die moet namelijk zorgvuldig kiezen welke datasets er worden gebruikt. Op jezelf kan je dat nooit uitmaken, want jou mening is per definitie alweer subjectief. Daarom laat je ook anderen naar de datasets kijken. Diversiteit is geen nice to have, het is een must have. Ontwikkelaars dienen zichzelf steeds af te vragen: “willen we wel dat de informatie uit dit dataset wordt doorgegeven aan duizenden of zelfs miljoenen mensen?”
