Concentratie van technologische macht

Concentratie van technologische macht (digitale activa, kennis, strategische technologieën): Concentratie van kritieke technologische middelen, capaciteiten of kennis bij een klein aantal individuen, bedrijven of staten die de toegang tot sleuteltechnologieën kunnen controleren. Als gevolg van, maar niet beperkt tot: het falen van antitrustregulering; onvoldoende investeringen in het innovatie-ecosysteem; of staatscontrole over sleuteltechnologieën. “Technologische versnelling” is een structurele kracht die verwijst naar technologische ontwikkelingen die mogelijk worden gemaakt door exponentiële groei in rekenkracht en analyse. Het heeft het potentieel om de grenzen tussen technologie en mensheid te doen vervagen en snel nieuwe en onvoorspelbare wereldwijde risico’s te veroorzaken. De vraag in dit artikel is wat die concentratie aan technologische macht aan risico’s met zich meebrengt. Daartoe bekijk ik dit verschijnsel vanuit de STEEPLD standpunten. (Social, Technical, Economic, Environment, Political, Legal, Demographic)In deze bijdrage geef ik mijn eigen mening, niet die van enige organisatie.   Het 2024 Global Risk Report – WEF geeft deze definities (quotes uit het rapport zijn met een vertaalprogramma naar het Nederlands vertaald)  
Auteur: Manu Steens

Wat het WEF zegt over “concentratie van technologische macht”

“Entrenched market concentration”: (vrij naar het document 2024 Global Risk Report – WEF)

De nadruk ligt op cyberonzekerheid en technologische machtsconcentratie als de enige risicofactoren voor nadelige resultaten van AI als sterk geconcentreerde technologie. Er zijn problemen te voorzien met de toeleveringsketen. Zoals daar zijn kosten voor mineralen, toegang tot halfgeleiders, afhankelijkheid van een enkele cloudprovider….

Nationale veiligheidsdoelstellingen kunnen door het belang van AI de primaire doelstelling van het innovatie- en industriebeleid in verschillende economieën blijven als reactie op marktconcentratie. Staten zullen waar mogelijk streven naar het veiligstellen van hun toeleveringsketens, onshoring en friend-shoring.

Wat ‘zegt’ STEEPLD over “concentratie van technologische macht”?

Sociaal – Maatschappelijk

Innovatie

Sommigen denken aan minder innovatieve prestaties door de grote bedrijven zelf op termijn omdat er te weinig kansen zijn voor een echte concurrentie, die de innovatie moet aandrijven. Vernieuwing wordt gecreëerd door exponentiële organisaties, die de zaken van een volledig andere kant bekijken. Dit werkt creatieve disruptie in de hand. Betekent dit verlies aan loopbanen doordat men projecten die op stapel stonden afgelast? Een voorbeeld is het managen van het verkeer met behulp van data van smartphones: “Throughout the developed world, road agencies acquire the data used to manage traffic on their roads from roadside sensors such as induction loops, radar or cameras – a monitoring infrastructure that is costly and requires ongoing maintenance.” Op die manier lijkt de creatieve disruptie tegelijk vooruitgang voor velen, maar baanverlies voor een aantal anderen. Een ander voorbeeld is de opkomst van auto’s en Henry ford’s assemblagelijn : “Examples of creative destruction in history include Henry Ford’s assembly line and how it revolutionized the automobile manufacturing industry. However, it also displaced older markets and forced many laborers out of work.”

Door concentratie van de innovaties tot een beperkt aantal bedrijven, treedt ook een ander probleem op: te hoge prijzen voor de beschikbare technische producten. Mensen met een migratieachtergrond hebben vaak minder mogelijkheden om digitale vaardigheden te ontwikkelen. Dit kan leiden tot een “digitale kloof”.

Daarnaast treedt ook de beperkte variatie van aanbod op. Dit hoeft niet steeds het geval te zijn. Een tegenvoorbeeld is de uitvinding van de CD en de CD speler door Phillips, als nieuwe standaard voor audio installaties. Dit voorkwam dat de prijzen torenhoog werden, maar ook dat de producenten rekening hielden met de wensen van de klanten. De vinylplaten-markt veranderde grondig. Hetzelfde gebeurde later met de videocassettes ten gevolge van de komst van de DVD.

Misbruik van gebruikersdata

Een zeer groot gevaar zijn bedrijven die veel gebruikersdata verzamelen, zoals sommige sociale websites. Zij brengen met psychometrie het gedrag en de voorkeuren van hun gebruikers in kaart. Daarna gebruiken ze deze gegevens om gericht advertenties te sturen. Daarmee kunnen ze mensen verleiden tot nutteloze aankopen binnen hun interessesfeer. Ze kunnen bovendien kwetsbare mensen beïnvloeden in hun stemgedrag, door hen voorgekauwde foute informatie te bezorgen over politieke kandidaten. Daardoor wijzigen sociale media de verkiezingsuitslagen, op simpel verzoek van (en betaling door) geïnteresseerde derden. (Brexit?) Een bijzonder gevaarlijke situatie is wanneer deze gebruikersdata gehackt worden. Daarnaast is de kans op ‘censuur op maat’ waarbij bepaalde ideeën onderdrukt kunnen worden een belangrijk gevaar voor de vrije meningsuiting.

Het belangrijkste extra gevaar van het gebruik van dergelijke gegevens, maar ook van de dure prijzen, is dat bedrijven met dergelijke mogelijkheden, de rijken rijker maken, maar de armen niet. Daardoor ontstaat een groter maatschappelijk verschil in welvaart, rijkdom en macht.

Problemen van de jeugd

Een belangrijk sociaal verschijnsel van gebruik van sociale media is het verschijnsel bij de jeugd van angst en vervreemding door het gebruik van sociale media. Jonathan Haidt schreef hierover in zijn boek ‘the anxious generation’.

Technisch

Er zijn technische risico’s van concentratie van technologische macht voor Europa en de wereld. Deze risico’s omvatten:

Innovatie

Kleine, innovatieve bedrijven kunnen het moeilijk hebben om te concurreren met giganten, wegens het niet beschikken over benodigde budgetten. Dat resulteert in een verstikking van innovatie doordat originele ideeën niet kunnen uitgewerkt worden behoudens in die grote bedrijven. Hierdoor kan er een gebrek aan nieuwe producten en diensten voor consumenten ontstaan, op hun maat en volgens hun exacte noden. Er is daarom altijd de nood voor grote bedrijven om de noden van de eindklanten te blijven detecteren. Daarom, in plaats van zelf te innoveren, kunnen grote technologiebedrijven ervoor kiezen om innovatieve start ups op te kopen. Dit kan dan opnieuw leiden tot een concentratie van innovatieve capaciteiten in handen van slechts een of enkele bedrijven.

In de mate dat Europa afhankelijk is van andere landen voor technologie, zoals ontwikkeling van computersystemen en verwante hardware en software, kan het de controle verliezen over zijn eigen digitale toekomst. Dit kan leiden tot grote onzekerheid voor verdere technische innovaties, door een kwetsbaarheid op militair, politiek en economisch vlak door deze derde landen. Het is niet onrealistisch te denken dat derde landen bepaalde mogelijkheden van deze systemen niet leveren aan andere landen. Daardoor kan Europa achteroplopen bij andere regio’s en zijn innovatiepotentieel te verliezen. Dit kan leiden tot een verlies van banen en economische, financiële, maatschappelijke en wetenschappelijke groei.

Cybercrime

Verhoogde kwetsbaarheid van de landen voor gerichte cyberaanvallen, met verstoringen van de infrastructuur en andere technologische bedreigingen. Dit kan omdat de cybercriminelen zich kunnen focussen op een klein aantal bedrijven, waarbij de gevolgen zich laten voelen bij hun klanten. Ook de evolutie van de zorg bijv. kan er onder lijden. Zo werd in 2017 WannaCry gericht op ziekenhuizen in Groot-Brittannië. Er ontstaat afhankelijkheid van een beperkt aantal technologieleveranciers. Dit leidt tot ‘vendor lock-in’, waardoor overschakelen naar alternatieve oplossingen bijzonder moeilijk is.

Mogelijke redenen van verhoogde kwetsbaarheid zijn verder een gebrek aan redundantie met andere technische oplossingen, de aantrekkelijkheid van de gegevens die de bedrijven verzamelen, gebrekkige of onbestaande eigen controle van eigen IT systemen, de mogelijkheden van omkoperij om technologie kwaadaardig in te zetten voor sociaal-maatschappelijke, economische, milieu of andere doeleinden. Dit kan leiden tot enorme financiële verliezen, reputatieschade en verstoringen van essentiële diensten van bedrijven en overheden. Zoals de cyberaanval op Antwerpen in december 2022. Mutatis mutandis is het niet moeilijk om te bedenken dat cyberaanvallen op kritieke infrastructuur de nationale veiligheid in gevaar kunnen brengen.

Compatibiliteit

De technologie van de dominante bedrijven zijn mogelijk onderling niet compatibel. Bijvoorbeeld door het gebruik van andere standaarden of een ander eenhedenstelsel in een ander team in een ander land. Dat maakt het moeilijk voor organisaties om samen te werken en gegevens uit te wisselen. Dit kan leiden tot verspilling. Een voorbeeld hiervan is het mislukte NASA project met de Mars Climate Orbiter.

Aard van de technologie als factor

De impact kan per technologie en context sterk uiteenlopen. De belangrijkste factor hier is de aard van de technologie:

  • Technologieën die essentieel zijn voor het dagelijks leven of voor de nationale veiligheid
  • Technologieën die zowel voor civiele als militaire doeleinden kunnen worden gebruikt.
  • De impact van nieuwe technologieën, is moeilijk te voorspellen.

Environment (Milieu)

Milieurisico’s van concentratie van technologische macht in Europa en de wereld zijn divers. Enkele belangrijke risico’s zijn:

Concurrentie

Een gebrek aan concurrentie kan leiden tot minder nieuwe technologieën die de milieudruk kunnen verminderen. Voorbeelden van (een tekortkoming aan) innovatie zijn meelwormen en bacteria die voldoende plastiek verteren, en petroleumbedrijven die onderzoek doen naar de mogelijkheden van biobrandstoffen op basis van zeewier.

Energietransitie

Beperking van duurzame ontwikkeling door vertraging van de energietransitie en beperking van toegang tot schone technologieën wanneer deze ontwikkelingen financieel ongunstig zouden zijn. Dit kan ontwikkelingslanden kwetsbaarder maken voor de gevolgen van klimaatverandering en andere milieudreigingen.

Beleid

Naast deze specifieke risico’s kan concentratie van (technologische) macht ook leiden tot een verzwakking van milieubeleid en -regelgeving. Dit kan men onder andere terugvinden in het beleid van ontwikkelingslanden die het ongezond ontginnen van ertsen en mineralen in mijnen toestaan. Een tekort aan concurrentie van de afname kan hier de ontwikkeling van gezonde mijn-technieken tegenwerken. Dergelijke innovaties vereisen aanzienlijke investeringen upfront, met een langere terugverdientijd.

Transparantie en andere hindernissen

Ontwikkeling van schadelijke technologieën door technologische macht in handen van een klein aantal actoren kan leiden tot afval die schadelijk zijn voor het milieu. Zo was chroom VI vrijgekomen bij werkzaamheden door PG&E.

Een verminderde transparantie en controle over de ontwikkeling en het gebruik van technologieën kan negatieve gevolgen voor het milieu met zich meebrengen. Een voorbeeld dat enige tijd aan de aandacht ontsnapte is PFAS.

Intellectuele eigendomsrechten, controle over grondstoffen, handelsbarrières, ondeskundige technische ondersteuning, maar wellicht bovenal door een cultuur- en taalkloof kunnen voor problemen zorgen door een beperkte toegang tot schone technologieën te creëren.

Er is een voortdurende vergroting van milieueffecten door schaalvergroting. De laatste dag in het jaar waarna de aarde kan herstellen van het verbruik van de aardse bronnen, schuift steeds meer naar voor in het jaar.  Dit komt door een toename van het absolute verbruik van hulpbronnen, toename in verspilling, een gebrek aan flexibiliteit van bedrijven aan veranderende milieueisen en invloed door wereldwijde toeleveringsketens. Het leidt tot milieueffecten, zoals klimaatverandering, vervuiling en biodiversiteitsverlies, gezondheidsproblemen voor mensen en ecosystemen, en economische schade.

Kunstmatige Intelligentie

Er zijn specifieke milieurisico’s verbonden aan bepaalde technologische gebieden: kunstmatige intelligentie (AI) geeft een verhoogd energieverbruik en e-waste.

Fatalisme

Er is een algehele vermindering van het milieubewustzijn en de verantwoordelijkheidsgevoel mogelijk doordat bedrijven en individuen kunnen minder geneigd zijn om zich zorgen te maken over de milieueffecten van hun acties als ze het gevoel hebben dat er weinig tegen kan worden gedaan.

Economisch en financieel

Er zijn economisch-financiële risico’s bij de concentratie van technologische macht:

Concurrentie

Een eerste is een verminderde concurrentie. Er kunnen bijvoorbeeld hogere prijzen gevraagd worden of men gaat concurrerende producten hinderen. Dit leidt tot een tragere economische groei en minder banen. Bij het verhaal van Microsoft werd een dynamiek van competitiviteit behouden doordat er concurrentiedruk is.

Grote bedrijven met een dominante marktpositie kunnen hun macht gebruiken om hun eigen belangen te bevorderen, ten koste van het algemeen belang. Dit kan leiden tot oneerlijke concurrentie, misbruik van marktmacht en een verlies van controle over belangrijke technologieën.

Een bedrijf kan oneerlijke concurrentie creëren door een monopolypositie. De overheid komt in dergelijk geval tussen om dergelijke bedrijven op te splitsen.

Afhankelijkheid

De maatschappij is te afhankelijk van technologiebedrijven, zeker in verband met kritieke technologieën. Dit houdt het risico in van geopolitieke druk en efficiëntie- en effectiviteitsproblemen van de toeleveringsketens (ook de technische), wat een negatieve impact heeft op de wereldeconomie. Een voorbeeld is de computerchip industrie die te maken kreeg met overstromingen in 2011.

Misbruik van gebruikergegevens

Criminele organisaties kunnen bedrijven met veel gebruikersgegevens hacken en deze misbruiken voor het verkopen van deze gegevens aan derden op het dark web. Daar kan men deze aanschaffen om ze te gebruiken voor bijvoorbeeld gerichte advertenties.

Ook door algoritmische manipulatie kunnen sociale media platforms content vaker aan gebruikers presenteren om het aankoopgedrag te stimuleren. Ook daarbij zal men emoties uitbuiten. Eigenlijk is dit een toepassing  op verlies van privacy en gegevensbescherming. Doordat technologiebedrijven grote hoeveelheden gegevens over hun gebruikers bezitten, kunnen ze deze via psychometrie gebruiken voor gerichte reclame of andere doeleinden.

Politiek

Politieke risico’s van de concentratie van technologische macht zijn onder andere als volgt.

Concurrentie en intransparantie

Gebrek aan concurrentie in de technologische sector leidt tot machtsconcentratie in andere sectoren. Dit geeft aanleiding tot economische ongelijkheid en een verlies van democratische controle door niet-transparant zijn van technologische toepassingen zoals bijvoorbeeld algoritmen die gebruikt worden op het internet. Misbruik van technologie geeft gemakkelijk aanleiding tot schendingen van de privacy, verspreiding van desinformatie en cybercriminaliteit.

Welzijn

Dergelijke zaken leiden tot machtsconcentratie, ongelijkheid en een verlies van psychologisch en fysiek welzijn van het individu. (Zie ook het boek ‘the anxious generation’ van Jonathan Haidt eerder vermeld.) Daardoor, op grotere schaal, levert dit een verlies aan welvaart voor de samenleving.

Fatalisme

Door het geheim houden van hun algoritmen en dataprocessen Is het voor overheden en burgers moeilijk om deze technologieën te controleren. Bedrijven verantwoordelijk houden voor hun  gebruik is daardoor quasi onbegonnen werk. Ook wat betreft het opstellen van wetgeving daarvoor.

Eigenbelang

Dergelijke bedrijven kunnen censuur opleggen als dit nodig is voor hun eigenbelang. Vrijheid van meningsuiting, privacy en het recht op vrije mededinging komen daarmee in het gedrang. Grote technologiebedrijven kunnen de verspreiding van informatie op die manier controleren, politieke meningen beïnvloeden en eventueel verkiezingen manipuleren. Voor dit laatste bestaat momenteel grote angst vermits er nieuwe verkiezingen aan komen.

Autoritaire regimes gebruiken reeds technologieën om burgers sociaal te controleren of dissidenten te onderdrukken.

Beperkte toegang en gebrek aan samenwerking

Bij een beperkte toegang van Europa tot nieuwe technologieën en bij een vlucht van het intellectuele kapitaal naar beter betalende landen is het moeilijker om toegang te krijgen tot nieuwe, innovatieve technologieën. Bijvoorbeeld doordat er versies op de markt komen voor andere landen dan het land van productie. Dit geeft aanleiding tot een verlies van politiek, economisch en wetenschappelijk concurrentievermogen. Dit protectionisme komt voort uit de concurrentiedrang om technologische suprematie, kan aanleiding geven tot economische en militaire spionage en zelfs tot (cyber)conflicten. Drang tot technologische dominantie kan aanleiding geven tot handelsconflicten, embargo’s en de wereld opsplitsen in ‘technisch-politieke blokken’. Een voorbeeld daarvan is lange tijd de ontwikkeling van atoomwapens geweest.

Er zijn dus altijd politieke en ethische uitdagingen voor internationale samenwerking. Dit maakt het moeilijker om een consensus te bereiken over gemeenschappelijke normen en regels.

Legaal – Juridisch

Juridische risico’s van concentratie van technologische macht kunnen worden onderverdeeld als volgt.

Mededinging beperken

Bedrijven met een dominante marktpositie kunnen mededinging beperken en innovatie smoren. Dit kan leiden tot antitrustonderzoeken en boetes door de toezichthouder.

Overheden kunnen binnenlandse bedrijven bevoordelen door technische kennis binnen het eigen land te houden. Technische boeken over bijv. cryptografie waarbij sommige edities enkel voor binnen de USA zijn, en andere voor de rest van de wereld.

Het kan bij mededinging-beperking gaan om monopolistische praktijken wat kan leiden tot: prijsdiscriminatie en vermindering van keuzevrijheid voor consumenten

Bij misbruik van de machtspositie kan het gaan om koppelverkoop, exclusieve overeenkomsten of predatieprijzen

Gevolgen daarvan kunnen boetes en sancties, zoals gedwongen splitsing van het bedrijf of verbeurdverklaring van activa; reputatieschade met verlies van klanten en investeerdersvertrouwen. Verder kunnen er rechtszaken met schadevergoeding van komen.

Misbruik van intellectuele eigendomsrechten

In de context van de concentratie van technologische macht kan misbruik van intellectuele eigendomsrechten (IE) significante economische gevolgen hebben voor concurrentie en de creatieve sector. Vormen van inbreuk op IE daarbij zijn namaakproducten, piraat software, patentschending, auteursrechtenschending, merkenrechtenschending en handelsnaamschending. Gevolgen van dergelijke inbreuken zijn financiële verliezen, reputatieschade en oneerlijke concurrentie.

Schending van gegevensbescherming

Privacy- en gegevensbeschermingsschendingen kan gebeuren door hacking, datalekken en ongeautoriseerd gebruik van gegevens. Mogelijke gevolgen voor individuen zijn identiteitsdiefstal, financiële verliezen, reputatieschade en emotionele schade.

Gegevensbeschermingsschendingen zijn het niet naleven van wetten en regels betreffende persoonsgegevens. Dit kan door onvoldoende beveiligingsmaatregelen, onzorgvuldig gebruik van gegevens en gebrek aan transparantie. Mogelijke gevolgen zijn boetes, rechtszaken, reputatieschade en verlies van klantenvertrouwen.

Juridische ongelijkheid

Versterking van juridische ongelijkheid is een laatste belangrijke factor. Gevolgen van ongelijke toegang tot technologie zijn onder meer oneerlijke processen omdat toegang tot juridische software een onevenredig voordeel geeft in rechtszaken. Daarnaast is discriminatie door algoritmen mogelijk die men gebruikt in het rechtssysteem die bepaalde groepen mensen, met name degenen die minder goed vertegenwoordigd zijn in de datasets waarop de algoritmen zijn gebaseerd, discrimineert. Een voorbeeld hiervan was SyRI.

Dergelijke zaken kunnen het vertrouwen in het rechtssysteem eroderen en versterkt de maatschappelijke ongelijkheid.

Demografisch

Demografische problemen van concentratie van technologische macht zijn in de eerste plaats een economische ongelijkheid. Daaruit kunnen andere problemen voortkomen.

Economische ongelijkheid en gevolgen

Door een versterking van de kloof tussen arm en rijk profiteert een kleine elite ten koste van de rest van de bevolking. In extremis kan een dergelijke kloof in sommige landen leiden tot sociale onrust en instabiliteit.

Versterking van de kloof tussen arm en rijk door concentratie van technologische macht kan, naast hierboven reeds aangehaalde elementen, vergroten door banenverlies, o.m. door automatisatie en het niet kunnen werken met digitale oplossingen.

Dit geldt vooral voor mensen met een lage opleiding of mensen die in sectoren werken die routinematig en repetitief zijn. Er kan een toename zijn van tijdelijke banen, deeltijdse banen en klusbanen. Deze bieden minder zekerheid en voordelen aanleiding geeft tot armoede en ongelijkheid.

Tevens geeft het in veel landen een verminderde onderhandelingspositie van werknemers.

Arme gezinnen en ontwikkelingslanden hebben tevens minder toegang tot onderwijs en ontwikkeling. Dit geeft nadelen op de arbeidsmarkt in een steeds meer technologische wereld. Daardoor hebben deze huishoudens ook minder toegang tot kapitaal om een ​​bedrijf te starten.

Demografische problemen komen vaak samen met de geografische locatie. Arme huishoudens wonen vaak in gebieden met minder kansen, slechte scholen en weinig werkgelegenheid. Dit kan leiden tot sociale onrust. Een voorbeeld hiervan is Gaza.

Andere gevolgproblemen

Door dergelijke demografische problemen ontstaan andere problemen, zoals negatieve gevolgen voor de mentale en emotionele gezondheid van mensen. Dit kan onder meer een reactie zijn op het gevoel hebben dat ze geen controle hebben over hun eigen leven. Dit kan het gevoel geven dat het systeem oneerlijk is, dat bedrijven en overheden hun verantwoordelijkheden niet of onvoldoende nemen.

Verder kan de concentratie van technologische macht leiden tot de destabilisatie van regio’s. Dit gebeurt dan typisch als men ergens voordelen zoekt, zoals grondstoffen, toegang tot water of territoriale aanspraken.

Dergelijke zaken maken het moeilijker om internationale samenwerking op te zetten en mondiale problemen aan te pakken.

Conclusie

De oplossingen moeten mondiaal gevonden worden.

Het WEF stelt, specifiek voor AI als de belangrijkste geconcentreerde technologische macht, het volgende: (vrij naar het document 2024 Global Risk Report – WEF)

“Acting today”:

Er zijn op mondiaal niveau al verschillende AI-governancekaders ontstaan om op hoog niveau richtsnoeren te bieden voor de ontwikkeling van AI, waaronder het meest recente G7-proces van Hiroshima over generatieve kunstmatige intelligentie, evenals de Verklaring van Bletchley. Daarnaast zijn er al oproepen geweest voor een “AI-versie” van het IPCC.

Deze entiteit zou, in samenwerking met de particuliere sector, een wereldwijde wetenschappelijke consensus mogelijk kunnen maken over de risico’s en kansen van grensverleggende AI. Evenzo zou het bevindingen kunnen communiceren aan besluitvormers, op basis van de best beschikbare projecties van wereldwijde AI-hardware en -software, zij het noodzakelijkerwijs met snellere beoordelingscycli. Het toezicht zou zich ook kunnen uitstrekken tot een rapportagedatabase en een register van cruciale AI-systemen. De meest existentiële van deze risico’s vereist echter uitgebreide samenwerking tussen mogendheden, om wederzijdse terughoudendheid te bereiken rond de proliferatie van technologieën met een hoge impact, evenals de onbedoelde escalatie van militaire AI.

Manu Steens

Manu werkt bij de Vlaamse Overheid in risicomanagement en Business Continuity Management. Op deze website deelt hij zijn eigen mening over deze en aanverwante vakgebieden.

Leave a Reply

Your email address will not be published. Required fields are marked *

Recent Posts