Artikels

Een ander soort artificiële intelligentie is mogelijk

Evgeny Morozov

—16 augustus 2024

De vooruitgang op het gebied van artificiële intelligentie (AI) is duizelingwekkend, maar roept ook vragen op: slaat de technologie de plank niet mis? In de jaren zeventig droomden hippie computerwetenschappers van machines die zouden helpen bij het ontwikkelen van onze ‘natuurlijke’ intelligentie en onze relatie met de wereld.

Shutterstock

Een spook waart rond in Amerika – het spook van het communisme. Deze keer is het digitaal. “Zou communisme gestuurd door artificiële intelligentie kunnen werken?” vraagt Daron Acemoğlu, een econoom aan het Massachusetts Institute of Technology (MIT), terwijl durfkapitalist Marc Andreessen zich zorgen maakt of China op het punt staat een communistische artificiële intelligentie (AI) te creëren1. Zelfs de Republikeinse onruststoker Vivek Ramaswamy heeft zijn eigen analyse te bieden en beweert op X dat pro-communistische AI een bedreiging vormt die vergelijkbaar is met die van Covid-19.

Maar wie weet, te midden van de algemene paniek, waar we het echt over hebben? Zou een communistische AI het Chinese model volgen, met platforms gemodelleerd naar die van de grote Amerikaanse bedrijven en onderworpen aan strenge staatscontrole, of eerder een Europese welvaartsstaat-benadering, met gecentraliseerde ontwikkeling in handen van publieke instellingen?

De tweede optie heeft een zekere aantrekkingskracht, vooral omdat de AI-race tegenwoordig snelheid boven kwaliteit stelt – zoals we afgelopen mei zagen toen de AI-overzichtsfunctie van Google adviseerde om lijm in je pizza’s te doen en stenen te eten.2 Overheidsfinanciering voor generatieve AI, in combinatie met strenge dataselectie en streng toezicht, zou de kwaliteit van de tools en de prijs die aan klanten wordt berekend, kunnen verhogen en zo een betere beloning voor contentmakers kunnen garanderen.

Naast het modelleren van menselijke mentale processen zouden computers een oneindige variëteit aan concepten, gedragingen en situaties en al hun correlaties moeten kunnen beheersen.

Maar capituleer je niet voor Silicon Valley als je gaat streven naar een gesocialiseerde artificiële intelligentie-economie? Moet “communistische” of “socialistische” AI beperkt blijven tot het beslissen wie de eigenaar is en wie de controle heeft over de gegevens, of tot het wijzigen van IT-modellen en infrastructuren? Zou het geen verdergaande veranderingen teweeg kunnen brengen?

Twee voorbeelden uit de hedendaagse geschiedenis suggereren een positief antwoord. Het eerste is CyberSyn, het visionaire initiatief van de Chileense president Salvador Allende.3 Dit ambitieuze maar kortstondige project (1970-1973) werd geleid door een charismatische Britse consultant met de naam Stafford Beer en had als doel een efficiëntere manier te vinden om de economie te beheren door gebruik te maken van de bescheiden IT-middelen van het land.

Evgeny Morozov is een schrijver en denker over de sociale en politieke implicaties van informatietechnologie. Hij is de auteur van The Net Delusion (Penguin, 2011) en To Save Everything, Click Here (Penguin, 2013). Hij is ook de oprichter van The Syllabus, een nieuwsbrief die online content verzamelt.

CyberSyn, vaak het “socialistische internet” genoemd, gebruikte het Chileense telexnetwerk om alle productiegegevens van genationaliseerde bedrijven naar een centrale computer in Santiago te sturen. Om de valkuilen van Sovjetcentralisatie te vermijden, introduceerde het echter een vorm van machinaal leren die zijn tijd ver vooruit was, ontworpen om werknemers meer macht te geven.

Overheidstechnici bezochten fabrieken en werkten samen met arbeiders om de productie- en managementprocessen in kaart te brengen zoals ze op het terrein werden toegepast. Deze waardevolle informatie, die ontoegankelijk was voor managers in een kapitalistisch bedrijf, werd vervolgens vertaald naar operationele modellen en gecontroleerd met behulp van speciale statistische software. Op deze manier konden arbeiders-managers bijna in real time worden gewaarschuwd voor problemen.

De kern van CyberSyn was de visie van een hybride systeem waarin computerkracht de menselijke intelligentie versterkte. Door impliciete kennis om te zetten in geformaliseerde, concrete kennis zouden arbeiders – de nieuwe klasse aan het roer van het land – zelfverzekerd en verstandig kunnen handelen, ongeacht hun eerdere ervaring met management of economie. Zou dit een leidraad kunnen zijn voor onze zoektocht naar een socialistische AI?

Om de betekenis van dit unieke idee verder te onderzoeken, moeten we kijken naar de avonturen van Warren Brodey, een psychiater die zich wendde tot de cybernetica voordat hij een hippie werd, en die ondertussen 100 jaar oud is.

Ecologische rationaliteit

Aan het eind van de jaren zestig richtte Brodey met geld van een rijke partner een experimenteel laboratorium op in Boston: het Environmental Ecology Lab (EEL). Een paar metrostations verderop waren zijn vrienden Marvin Minsky en Seymour Papert van MIT – een instituut waaraan hij een tijd verbonden was geweest – bezig met het ontwikkelen van AI-projecten die volgens hem de verkeerde kant opgingen. Minsky en Papert gingen ervan uit dat het menselijk redeneren geleid wordt door een reeks abstracte algoritmische regels en processen die alleen maar opgesomd en ontcijferd hoeven te worden om een computer “artificiële intelligentie” te geven.

Het industriële kapitalisme berooft onze wereld van haar ecologische dimensie, niet de technologie.

In tegenstelling tot deze visie geloofden Brodey en zijn vijf collega’s dat intelligentie niet opgesloten zit in onze hersenen, maar voortkomt uit interacties met onze omgeving. Zij noemden dat “ecologische intelligentie”. Volgens hen hebben abstracte regels en mechanismen op zichzelf geen zin; alles zit immers in de context. Ze gebruikten een eenvoudig voorbeeld om deze theorie te illustreren: het bevel om je uit te kleden betekent helemaal niet hetzelfde als het wordt uitgesproken door een arts, door een geliefde of door een vreemdeling die je tegenkomt in een donker steegje.

Het ontwerpen van een AI die in staat is om deze subtiele nuances autonoom te begrijpen leek hen een behoorlijke uitdaging. Naast het modelleren van menselijke mentale processen zouden computers een oneindige variëteit aan concepten, gedragingen en situaties en al hun correlaties moeten kunnen beheersen – met andere woorden: ze zouden het hele culturele kader van de menselijke beschaving moeten begrijpen, wat de enige manier is om betekenis te produceren.

In plaats van zichzelf uit te putten in het nastreven van dit schijnbaar onbereikbare doel, droomde Brodey’s team ervan om computers en cybernetische technologieën in dienst te stellen van mensen, zodat ze hun omgeving en vooral zichzelf kunnen verkennen en verrijken. Vanuit dit perspectief zijn informatietechnologieën niet slechts hulpmiddelen om taken uit te voeren, maar instrumenten om over de wereld na te denken en ermee in interactie te komen. Stel je bijvoorbeeld een reactieve cybernetische douche voor die met je praat over klimaatverandering en de schaarste van waterbronnen, of een auto die je tijdens je reis vertelt over de staat van het openbaar vervoer. Het lab heeft zelfs een pak uitgevonden dat, wanneer je het aantrekt om te dansen, de muziek in realtime verandert, wat de complexe verbanden tussen geluid en beweging benadrukt.

Het Environmental Ecology Lab nam resoluut stelling tegen de Frankfurter Schule en haar kritiek op de instrumentele rede: het is het industriële kapitalisme, niet de technologie, dat onze wereld berooft van haar ecologische dimensie en ons dwingt om ons te wenden tot de doel-middel rationaliteit die aan de kaak werd gesteld door Theodor Adorno, Max Horkheimer en Herbert Marcuse. Om deze verloren dimensie te herstellen, wil het ons met behulp van sensoren en computers bewust maken van de complexiteit die schuilgaat achter de aspecten van het bestaan die ons het meest banaal lijken.

Brodey’s grillige ideeën hebben een diepe, maar paradoxaal genoeg bijna onzichtbare stempel gedrukt op onze digitale cultuur. Tijdens zijn korte carrière aan het MIT nam Brodey een zekere Nicholas Negroponte onder zijn hoede, een avant-gardistische techno-utopist wiens werk aan het MIT-Media Lab grotendeels bijdroeg aan het bepalen van de voorwaarden van het debat rond de digitale revolutie.4 Toch verschilden de respectievelijke filosofieën van de twee mannen volledig.

Brodey was van mening dat de nieuwe generatie cybernetische apparaten zich vooral moest onderscheiden door hun ‘reactievermogen’, een middel om de dialoog tussen mens en machine te vergemakkelijken en ons ecologisch bewustzijn aan te scherpen. Hij postuleerde dat individuen er oprecht naar streefden om te evolueren en zag de computer als een bondgenoot in deze onderneming van permanente transformatie. Zijn pupil Negroponte paste het concept aan om het hanteerbaarder te maken: de primaire functie van machines was het begrijpen, voorspellen en bevredigen van onze onmiddellijke behoeften. Kortom, Negroponte probeerde originele en excentrieke machines te creëren, terwijl Brodey, ervan overtuigd dat intelligente omgevingen – en intelligentie in het algemeen – niet zonder mensen konden, probeerde originele en excentrieke mensen te creëren. Silicon Valley nam de visie van Negroponte over.

Brodey postuleerde dat individuen er oprecht naar streefden om te evolueren en zag de computer als een bondgenoot in deze onderneming van permanente transformatie.

Er was nog een element dat Brodey onderscheidde van zijn collega’s: terwijl de computerwetenschappers van die tijd AI zagen als een hulpmiddel om het mensen te vergemakkelijken – machines die het vuile werk opknapten om de productiviteit te verhogen –  was het zijn doel om mensen te verbeteren, een concept dat veel verder ging dan louter efficiëntie.5

Het onderscheid tussen deze twee paradigma’s is subtiel, maar cruciaal. Vergemakkelijken is wanneer je de GPS op je mobiele telefoon gebruikt om je weg te vinden in onbekend terrein: het maakt het sneller en gemakkelijker om je bestemming te bereiken. Maar de winst is van korte duur. Als deze technologische steun onvoorzien wegvalt, word je (nog) hulpelozer. Verbeteren gaat over het gebruik van technologie om nieuwe vaardigheden te ontwikkelen –  in dit geval het verfijnen van je aangeboren richtingsgevoel door gebruik te maken van geavanceerde geheugentechnieken of het leren ontcijferen van natuursignalen.

In essentie ontneemt vergemakkelijking ons mogelijkheden in de naam van efficiëntie, terwijl verbetering ons nieuwe mogelijkheden geeft en onze interactie met de wereld verrijkt. Uit dit fundamentele verschil komt de manier voort waarop we technologie in ons leven integreren; waardoor we ofwel passieve operatoren ofwel creatieve ambachtslieden worden.

Brodey kwam tot deze overtuiging toen hij als psychiater meewerkte aan een min of meer geheim programma van de Central Intelligence Agency (CIA) in het begin van de jaren zestig. De Amerikaanse inlichtingendienst had het briljante idee om een zelfgekozen team van blinde mensen Russisch te laten leren en ze vervolgens te laten luisteren naar onderschepte Sovjetcommunicatie. De veronderstelling was dat, omdat ze blind waren, hun andere zintuigen scherper waren dan die van ziende analisten. Na een aantal jaren met deze mensen gewerkt te hebben om de interne en externe signalen te identificeren – lichaamswarmte, luchtvochtigheid, kwaliteit van het licht, etc. – die ze gebruikten om hun waarnemingen te verbeteren, ontdekte Brodey dat hun aanleg voor zintuiglijke verbetering in feite universeel gedeeld werd.

Hoewel dit verbeteringsprogramma, dat ons allemaal een potentiële artistieke gevoeligheid verleent, resoluut poëtisch was, achtte Brodey, een onverbeterlijke pragmaticus, het onmogelijk om het zonder de hulp van computers te implementeren. Toen hij probeerde het te importeren naar MIT en er een officieel onderzoeksgebied van te maken, stuitte hij op felle tegenstand, en niet alleen van de conservatieve AI-elite. Anderen zagen ook duistere nazi-tonen: Stelde Brodey niet experimenten op mensen voor? Deze verontwaardiging dwong hem uiteindelijk om zich tot particuliere donateurs te wenden.

Het grote verschil tussen menselijke vergemakkelijking en menselijke verbetering – en de gevolgen ervan voor de automatisering – werd pas decennia later duidelijk. Vergemakkelijking heeft als doel machines te maken die denken en voelen zoals wij, waardoor het risico bestaat dat onze vaardigheden overbodig worden. De huidige tools, gebaseerd op generatieve AI, zijn niet alleen bedoeld om het werk van kunstenaars en auteurs te verbeteren, maar dreigen hen zelfs helemaal te vervangen. Brodey’s intelligente technologieën waren daarentegen niet bedoeld om de mensheid zo te automatiseren dat ze overbodiog werd of dat alle levens werden gestandaardiseerd. Neen, hij wilde onze smaak verrijken en onze mogelijkheden uitbreiden. Met andere woorden: hij wilde de menselijke ervaringen verbeteren in plaats van ze te verminderen.

Sluimerende menselijke capaciteiten vrijmaken

Het was een moedig standpunt in de context van die tijd waarin de meeste vertegenwoordigers van de tegencultuur technologie zagen als een anonieme, zielloze kracht die gewantrouwd moest worden; of waarin gemeenschappen een “terugkeer naar het land” voorstonden als een instrument voor louter individuele emancipatie. Toen hij deze ideeën halverwege de jaren 60 formuleerde, zag Brodey zijn professionele en gezinsleven uiteenvallen. De standpunten die hij innam brachten hem steeds meer in de avant-gardistische marge van het Amerikaanse establishment. Zoals velen in de hippiebeweging erkende hij de legitimiteit van de politiek niet, waardoor hij zijn theorieën niet in eisen kon omzetten.

In essentie ontneemt vergemakkelijking ons mogelijkheden in de naam van efficiëntie, terwijl verbetering ons nieuwe mogelijkheden geeft en onze interactie met de wereld verrijkt.

Aan de andere kant van de wereld stelde een Sovjetfilosoof met de naam Evald Ilyenkov, net als hij geboren in 1924, zichzelf soortgelijke vragen, maar binnen het conceptuele kader van een “creatief marxisme”. Zijn werk geeft een beter begrip van het concept van menselijke verbetering in het communistische en socialistische denken.

Net als Brodey werkte Ilyenkov veel met blinde mensen. Uit zijn studies concludeerde hij dat cognitieve en zintuiglijke capaciteiten voortkomen uit socialisatie en interactie met technologie. Mits we de juiste educatieve en technologische omgevingen vinden, kunnen we vaardigheden cultiveren die we in latente staat bezitten. Het communisme streeft er dus naar om, onder leiding van de staat, sluimerende menselijke capaciteiten vrij te maken zodat iedereen zijn volledige potentieel kan realiseren, ongeacht sociale of natuurlijke barrières.

Geërgerd door de fascinatie van de Sovjetbureaucraten voor AI naar Amerikaans model, leverde Ilyenkov een bijzonder overtuigende kritiek in een artikel uit 1968 met de titel “Idolen en idealen”.6 In zijn ogen stond het ontwikkelen van artificiële intelligentie gelijk aan het bouwen van een enorme en ruïneuze kunstmatige zandfabriek in het hart van de Sahara. Zelfs als het perfect zou werken, was het absurd om niet te profiteren van de overvloedige natuurlijke hulpbronnen die buiten de muren lagen te wachten.

Bijna zestig jaar later heeft de aanklacht van Iljenkov niets aan relevantie ingeboet. We zitten nog steeds vast in deze woestijn om de verdiensten van de fabriek te verdedigen, zonder te beseffen dat niemand, behalve het personeel en de architecten van de economische orde, ze echt nodig heeft. Brodey gebruikte ook een ander beeld, geleend van Marshall McLuhan: zijn ecologische technologieën hadden de kracht om ons wakker te schudden, zoals een vis zich plotseling bewust wordt van het bestaan van water. Op dezelfde manier is het tijd dat iemand degenen die geobsedeerd zijn door AI laat zien dat ze omringd zijn door een gigantisch reservoir aan menselijke, creatieve, onvoorspelbare en poëtische intelligentie.

De grote vraag blijft: kunnen we echt beter worden als we volharden in het hanteren van concepten als AI, die in tegenspraak lijken te zijn met het idee van menselijke ontwikkeling?

De ambitie om artificiële intelligentie te bouwen heeft niet alleen miljarden dollars opgeslokt; van sommigen heeft het ook een persoonlijke tol geëist. De onverzettelijkheid van de jonge wolven die de expansie hebben geleid – met hun ongebreidelde fondsenwerving en rigide definitie van de grenzen van de discipline – heeft geleid tot de marginalisatie van visionaire denkers als Stafford Beer en Warren Brodey, die zich altijd al ongemakkelijk voelden bij het label AI.

De twee mannen, die elkaar kort voor Beers dood in 2002 ontmoetten, hadden een diametraal tegenovergestelde achtergrond. Beer, een voormalig directeur van een bedrijf, was lid van de zeer elitaire British Athenaeum Club; Brodey was opgegroeid in Toronto in een joods gezin uit de middenklasse. Dit weerhield hen er niet van dezelfde minachting te hebben voor AI als wetenschappelijke discipline en voor de dogmatiek van haar beoefenaars. Ze deelden ook een geestelijke vader: cybernetica-gigant Warren McCulloch.

Cybernetica ontstond vlak na de Tweede Wereldoorlog onder leiding van de wiskundige Norbert Wiener. Talrijke onderzoekers, pioniers in hun respectievelijke gebieden (wiskunde, neurofysiologie, techniek, biologie, antropologie, enz.), hadden een gemeenschappelijk probleem vastgesteld: ze werden allemaal geconfronteerd met complexe, niet-lineaire processen waarin het onmogelijk werd om oorzaak van gevolg te onderscheiden – het ogenschijnlijke gevolg van een bepaald natuurlijk of sociaal proces bleek tegelijkertijd soms met andere processen verbonden.

We moeten beginnen met de overgang van de “vergemakkelijking voor de mens” naar de “verbetering van de mens”.

Gebouwd rond dit idee van wederzijdse causaliteit en de vervlechting van schijnbaar onafhankelijke fenomenen, was cybernetica minder een wetenschappelijke discipline dan een filosofie. De grote denkers verlieten hun oorspronkelijke onderzoeksgebied niet, maar verrijkten hun analyses met een nieuw perspectief. De interdisciplinaire benadering betekende dat de processen die zich afspelen in machines, menselijke hersenen en samenlevingen begrepen konden worden met behulp van dezelfde reeks concepten.

Toen AI halverwege de jaren 50 zijn intrede deed, werd het gezien als een natuurlijke uitloper van cybernetica; in werkelijkheid was het eerder een achteruitgang. Cybernetica had inspiratie gezocht bij machines om de menselijke intelligentie beter te begrijpen, niet om die te reproduceren. De opkomende AI-discipline begon een nieuwe weg in te slaan door machines te bouwen die net als wij konden “denken”. Het doel was niet om de mysteries van het menselijke kenvermogen te ontrafelen, maar om te voldoen aan de eisen van de belangrijkste klant: het leger. Het onderzoek werd onmiddellijk gedicteerd door defensie-eisen en dit zou bepalend blijken voor de toekomstige ontwikkeling.

Sommige van de eerste projecten die geïnspireerd waren door de cybernetische filosofie, zoals de poging om kunstmatige neurale netwerken te bouwen, werden al snel omgebogen naar militaire doeleinden. Plotseling waren deze netwerken niet langer gericht op het ontrafelen van de fijne kneepjes van het denken, maar op het analyseren van luchtbeelden om vijandelijke schepen of olietankers te lokaliseren. De ambitieuze zoektocht naar artificiële intelligentie heeft er dus uiteindelijk toe geleid dat triviale militaire contracten werden bedekt met een laagje wetenschappelijk prestige.

In deze context was interdisciplinariteit uit den boze. AI werd gedomineerd door briljante jonge wiskundigen en computerwetenschappers die cybernetica te abstract, te filosofisch en vooral potentieel subversief vonden. Norbert Wiener, het moet gezegd, had zich intussen toegelegd op het steunen van vakbondsstrijd en het bekritiseren van het leger, wat waarschijnlijk geen financiering van het Pentagon zou aantrekken.

Artificiële intelligentie, die beloofde het menselijke operatoren te vergemakkelijken en autonome wapens te ontwikkelen, had niet te kampen met zo’n imagoprobleem. Vanaf het begin was het een volwaardige wetenschappelijke discipline. Terwijl de traditionele wetenschappen de wereld proberen te begrijpen, soms met behulp van modellen, besloten de pioniers van AI vereenvoudigde modellen te bouwen van een echt fenomeen – intelligentie – en ons er vervolgens van te overtuigen dat er niets was om het eerste van het tweede te onderscheiden. Het is een beetje alsof afvallige geografen een nieuwe discipline, “kunstmatig territorium”, in het leven riepen en mensen probeerden wijs te maken dat door de vooruitgang in de technologie kaarten en territorium binnenkort één en hetzelfde ding zouden zijn. In veel opzichten lijkt het traject – en de tragedie – van AI tijdens de Koude Oorlog op dat van de economie, met name de Amerikaanse economie. Economie in de Verenigde Staten was het onderwerp van een uitbundig, pluriform denken, afgestemd op de dynamiek van de echte wereld, zich ervan bewust dat macht en instellingen (variërend van vakbonden tot de Federal Reserve) invloed hadden op productie of groei. De prioriteiten van de Koude Oorlog maakten er een discipline van die geobsedeerd was door abstracte modellen (optimalisatie, evenwicht, speltheorie, enz. ). Hoewel bepaalde digitale toepassingen, zoals online advertenties of diensten voor automatische rijbijstand in voertuigen tegenwoordig gebaseerd zijn op deze wiskundige constructies, is het enkele feit dat een bevooroordeelde aanpak soms werkt, niet voldoende om die te rechtvaardigen. Feit is dat de moderne orthodoxe economie weinig andere oplossingen te bieden heeft voor problemen als ongelijkheid of klimaatverandering dan oplossingen die op de markt gebaseerd zijn.

Dezelfde analyse geldt voor artificiële intelligentie, die weliswaar wordt beschreven als een technologische triomf, maar vaak een eufemisme is voor militarisme of kapitalisme. Voorstanders ervan erkennen misschien de noodzaak van een minimum aan controle en regulering, maar ze kunnen zich moeilijk een toekomst voorstellen waarin ons begrip van intelligentie niet wordt gedomineerd door AI. Vanaf het begin is AI minder een wetenschap geweest – gekenmerkt door niet vooraf vastgestelde resultaten – dan een mengeling van religie en techniek. Het uiteindelijke doel was het creëren van een universeel computersysteem dat in staat is om elk type taak uit te voeren zonder daar expliciet voor te zijn opgeleid – een besluit dat bekend is komen te staan als Generatieve Artificiële Intelligentie (GAI).

Hier komen we bij een andere parallel met de economie: tijdens de Koude Oorlog werd GAI op dezelfde manier gezien als economen de vrije markt zagen, dat wil zeggen als een autonome, zelfregulerende kracht waaraan de mensheid zich zou moeten aanpassen. Aan de ene kant verdoezelt het economische denken de rol van koloniaal geweld, het patriarchaat en racisme in de expansie van het kapitalisme, alsof het een natuurlijke uitbreiding is van de menselijke neiging “om te handelen [en] het ene ding voor het andere te ruilen”7, om de beroemde zin van Adam Smith aan te halen. Aan de andere kant erkent het traditionele verhaal over de oorsprong van AI de bijdragen van cybernetica, wiskunde en logica, maar het zwijgt over de historische of geopolitieke context. Het is alsof we eugenetica en frenologie simpelweg beschrijven als takken van genetica en biologie, zonder hun racistische dimensie te noemen. Laten we niet vergeten, zoals Yarden Katz schrijft in zijn opmerkelijke essay Artificial Whiteness8, dat artificiële intelligentie nooit zou hebben bestaan zonder het militarisme, het corporatisme en het opgedreven patriottisme van de Koude Oorlog.

Bedrijven kozen voor Negroponte’s conservatievere versie, waarin interactiviteit machines vooral in staat stelt om onze angsten te identificeren en ons meer te laten kopen.

Kan een concept dat zo geperverteerd is ooit nog ten dienste worden gesteld van progressieve ambities? Is het niet net zo zinloos om te roepen om “communistische artificiële intelligentie” als het is om te dromen van sweatshops met een menselijk gezicht of van lieftallige martelwerktuigen?

De experimenten van Stafford Beer en Warren Brodey suggereren dat we er beter aan zouden doen om de fantasie van een socialistische artificiële intelligentie te laten varen en ons te concentreren op het definiëren van een post-AI socialistisch technologiebeleid. In plaats van te proberen bestaande producten menselijker te maken door er linkse toepassingen voor te bedenken of nieuwe modellen van economisch eigendom uit te vinden, moeten we de toegang openstellen tot instellingen, infrastructuren en technologieën die creatieve autonomie bevorderen en mensen in staat stellen hun volledige potentieel te realiseren, ongeacht hun klasse, hun etniciteit of hun geslacht. Met andere woorden, we moeten beginnen met de overgang van de “vergemakkelijking voor de mens” naar de “verbetering van de mens”.

Leven in een ballon, niet in een zeepbel

Een dergelijk beleid zou gebaseerd zijn op de onderdelen van de welvaartsstaat die het verst afstaan van de conservatieve leuzen van het kapitalisme, namelijk: onderwijs en cultuur, bibliotheken, universiteiten en publieke omroepen. Het zou dus de weg vrijmaken voor een socialistisch onderwijs- en cultuurbeleid, in plaats van de neoliberale economie te versterken zoals de huidige aanpak doet.

Brodey begreep zelf al snel dat er geen socialistische AI kon zijn zonder socialisme. Aan het begin van de jaren zeventig zag hij in dat de context van de Koude Oorlog in de VS zijn zoektocht naar de “verbeterde mens” en  naar “ecologische technologie’” zinloos maakte – om nog maar te zwijgen van het feit dat hij er een punt van maakte om geld te weigeren van het Pentagon en zelfs van instellingen als het MIT, als teken van zijn verzet tegen de oorlog in Vietnam.

Volgens Negroponte wilde Brodey nooit iets horen over een vaste aanstelling bij MIT. Hij was niet geïnteresseerd in comfort. Hij bouwde liever een huis van schuim en ballonnen midden in het bos van New Hampshire; een “responsieve en intelligente” omgeving die bij hem paste. Maar dat ging te ver, zelfs voor zijn bewonderaars. “Niet iedereen wil in een ballon wonen”, grapte Negroponte destijds.

Brodey’s denken was doordrenkt van utopisme. Hij en zijn naaste collega, Avery Johnson, koesterden de hoop dat de Amerikaanse industrie hun visie zou overnemen: responsieve, interactieve producten ontwerpen om nieuwe smaken en interesses op te wekken bij de gebruiker in plaats van tegemoet te komen aan de wensen van de consument. Maar bedrijven kozen voor Negroponte’s conservatievere versie, waarin interactiviteit machines vooral in staat stelt om onze angsten te identificeren en ons meer te laten kopen.

In 1973 verhuisde Brodey gedesillusioneerd naar Noorwegen. Daar ontpopte hij zich opnieuw als maoïst, actief lid van de Communistische Arbeiderspartij en reisde hij zelfs naar China om met ingenieurs te praten over zijn concept van “reactieve technologieën”. Voor een man die tijdens de Koude Oorlog nauw betrokken was geweest bij projecten voor het leger, de National Aeronautics and Space Administration (NASA) en de CIA, was dit geen geringe ommekeer.

Uit de lange gesprekken die ik de afgelopen tien jaar met hem heb gevoerd in Noorwegen, waar hij nog steeds woont, blijkt dat Brodey nog altijd de belichaming is van het open evolutieproject dat hij in de jaren zestig voorstond. Het is duidelijk dat menselijke verbetering voor hem werkte. Dat betekent dat het voor ons allemaal zou kunnen werken – mits we de juiste technologieën kiezen en een gezonde dosis scepsis cultiveren over artificiële intelligentie, communistisch of hoe dan ook.

In samenwerking met Le Monde Diplomatique, augustus 2024. Vertaald door Jan Reyniers.

Footnotes

  1. Daron Acemoğlu, “Would AI-enabled communism work ?”, 28 juni 2023, www.project-syndicate.org. Zie ook: “Marc Andreessen : Future of the Internet, technology, and AI”, podcast van Lex Fridman, no 386, 21 juni 2023.
  2. Stephen Morris en Madhumita Murgia, “Google’s AI search tool tells users to “eat rocks” for your health”, Financial Times, Londen, 24 mei 2024.
  3. Zie podcast “The Santiago Boys”, 2003. En zie Philippe Rivière, “Allende, l’informatique et la révolution”, Le Monde diplomatique, juli 2010.
  4. Meer specifiek via zijn boek Being Digital, naar het Frans vertaald  als L’Homme numérique, Robert Laffont, Parijs, 1995.
  5. Brodey’s eerste publicatie over deze benadering dateert uit 1967, hoewel hij er al sinds 1964 mee bezig was: Warren Brodey en Nilo Lindgren, “Human enhancement through evolutionary technology”, IEEE Spectrum, vol. 4, no. 9, New York, september 1967.
  6. Onvertaald. Voor een samenvatting, zie Keti Chukhrov, “The philosophical disability of reason: Evad Ilvenkov’s critique of machinic intelligence”, Radical Philosophy, nr. 207, Londen, voorjaar 2020.
  7. Adam Smith, An Inquiry into the Nature and Causes of the Wealth of Nations (1776), boek 1.
  8. Yarden Katz, Artificial Whiteness : Politics and Ideology in Artificial Intelligence, Columbia University Press, New York, 2020.