Als je niet oplet, werk je zonder dat je het doorhebt mee aan het verspreiden van nepnieuws.
Het nieuwe jaar startte op 1 januari met de Wereldvredesdag. Hiervoor publiceerde paus Franciscus zijn boodschap: Kunstmatige intelligentie en vrede.
De paus staat in zijn boodschap voor de Wereldvredesdag stil bij de gevaren van kunstmatige intelligentie, maar ziet ook kansen en mogelijkheden. Hij houdt een pleidooi voor een moreel beraad dat kaders vastlegt waarbinnen digitale technologieën zich kunnen ontwikkelen: een algor-ethiek.
Volgens de paus biedt de technologie grote kansen. God blies zijn Geest in de mens zodat hij vaardigheid, kennis en een veelvoudige bekwaamheid bezit. Wetenschap en kennis zijn volgens de paus uitingen van de scheppende vermogens van de mens. Paus Franciscus toont zich in deze boodschap dan ook dankbaar voor de technische vooruitgang die het lijden van veel mensen heeft verminderd.
De opmerkelijke vooruitgang in de nieuwe informatietechnologie biedt grote kansen, maar draagt ook grote risico’s in zich voor de rechtvaardigheid en vrede onder de volkeren. De paus stelt vast dat nieuwe technologie veel vragen oproept. Wat is bijvoorbeeld de impact van de digitaliteit op individuele levens, op de internationale stabiliteit en de wereldvrede?
“Nieuwe digitale hulpmiddelen veranderen nu al het gezicht van communicatie, openbaar bestuur, onderwijs, consumptie, persoonlijke interacties en talloze andere aspecten van ons dagelijks leven”, schrijft de paus. Bovendien kunnen technologieën die gebruik maken van verschillende algoritmen gegevens halen uit de digitale voetafdrukken die over het hele internet zijn verspreid, en die inzetten voor commerciële en politieke doeleinden.
“Technologieën zijn niet ‘neutraal’ en hebben altijd een ethische dimensie.”
Paus Franciscus: “Vaak gebeurt dat zonder dat we het weten, waardoor onze bewuste uitoefening van keuzevrijheid wordt beperkt. In een ruimte als het internet, gekenmerkt door een overvloed aan informatie, kunnen ze de stroom gegevens structureren volgens selectiecriteria die de gebruiker niet altijd opmerkt.”
Deze technologieën zijn niet “neutraal”. Ze zijn het resultaat van menselijke handelingen en hebben daarom altijd een ethische dimensie.
Dit geldt ook voor de kunstmatige intelligentie. We kunnen er niet a priori vanuit gaan dat de ontwikkeling en het gebruik ervan bijdragen aan de wereldvrede. Dat kan enkel als wij waarden als inclusie, transparantie, veiligheid, gelijkheid, privacy en betrouwbaarheid respecteren.
De waardigheid van de mens en de broederschap die ons onderling bindt, reiken criteria aan om digitale technologieën te evalueren.
Computers vervullen bepaalde taken zeer efficiënt, maar mensen bepalen hoe ze werken. Er bestaat een kans dat de criteria achter bepaalde besluiten onduidelijk worden en de verantwoordelijkheden ondoorzichtig. De paus wijst op het risico van een economische logica die voorbij gaat aan de menselijke maat. We kunnen de mens niet reduceren tot een set data. Paus Franciscus wijst ook op negatieve gevolgen van automatisering, zoals het verlies van werkgelegenheid, en roept op tot respect voor de waardigheid van arbeiders. Er bestaat het gevaar dat sommigen buitengewoon rijk worden, terwijl er armoede dreigt voor velen.
Foto: Robin Worrall via Unsplash
De paus wijst ook op militaire implicaties van kunstmatige intelligentie. “Als we naar de wereld om ons heen kijken ontkomen we niet aan ernstige ethische vragen met betrekking tot de bewapeningssector”, zegt hij. “De mogelijkheid om militaire operaties uit te voeren door middel van afstandsbedieningssystemen heeft geleid tot een verminderde perceptie van de verwoesting die deze wapensystemen veroorzaken en de last van de verantwoordelijkheid voor het gebruik ervan, wat resulteert in een nog koudere en afstandelijkere benadering van de immense tragedie van oorlog.”
Er is reden tot “ernstige ethische zorg” zegt hij ten aanzien van opkomende technologieën op het gebied van dodelijke autonome wapensystemen. “Autonome wapensystemen kunnen nooit moreel verantwoordelijke subjecten zijn. Het unieke menselijke vermogen tot morele oordeelsvorming en ethische besluitvorming is meer dan een complexe verzameling algoritmen en dat vermogen kan niet worden gereduceerd tot het programmeren van een machine, die hoe ‘intelligent’ ook, een machine blijft. Daarom is het noodzakelijk om te zorgen voor adequaat, zinvol en consistent menselijk toezicht op wapensystemen.”
“We kunnen ook de mogelijkheid niet negeren dat geavanceerde wapens in de verkeerde handen terechtkomen en bijvoorbeeld terroristische aanvallen of interventies gericht op het destabiliseren van de instellingen van legitieme regeringssystemen vergemakkelijken”, aldus de paus.
Foto: Chris Ried via Unsplash
In een aparte paragraaf gaat paus Franciscus in op de uitdagingen voor opvoeding en onderwijs. Het onderwijs moet bevorderen dat leerlingen kritisch leren denken en een onderscheidend vermogen ontwikkelen om goed om te kunnen gaan met datgene wat op het web wordt aangeboden.
Wil kunstmatige intelligentie ook een positieve rol kunnen spelen in de menselijke ontwikkeling, dan is het noodzakelijk te komen tot ethische richtlijnen voor het gebruik van algoritmes, een zogenaamde algor-ethiek. Deze bepaalt het morele raamwerk waarbinnen nieuwe technologieën zich kunnen ontwikkelen. Bij de totstandkoming van deze kaders moeten alle stakeholders betrokken worden, ook de armen. “Dit proces van ethisch en juridisch beraad kan een waardevolle gelegenheid zijn om samen na te denken over de rol die technologie zou moeten spelen in ons individuele en gemeenschappelijke leven, en hoe het gebruik ervan kan bijdragen aan het creëren van een rechtvaardigere en menselijkere wereld”, aldus de paus.
