AI en filosofie is een reeks artikelen over de maatschappelijke impact van AI gezien vanuit het standpunt van filosofen. Zij proberen ons duidelijk te maken hoe de wereld verandert en dat levert interessante inzichten op. Vandaag Yuvan Noah Harari. Een van ’s werelds toonaangevende auteurs, historici en filosofen. Hij is een vooraanstaand onderzoeker aan de Universiteit van Cambridge, bij het Centre for the Study of Existential Risk, en was docent geschiedenis aan de Hebreeuwse Universiteit van Jeruzalem. Yuvan Noah Harari is medeoprichter van Sapienship en wereldwijd bekend als bestsellerauteur van onder meer Sapiens, Homo Deus en 21 Lessen voor de 21e Eeuw, met samen meer dan 50 miljoen verkochte exemplaren in 65 talen.
Er is één vraag die elke leider vandaag de dag moet beantwoorden over AI. Maar om die vraag te begrijpen, moeten we eerst een paar dingen verduidelijken over wat AI is en wat AI kan doen.
Yuval Noah Harari: “AI is geen gereedschap; het is een agent.”
Het belangrijkste om te weten over AI is dat het geen gewoon gereedschap is. Het is een agent. Het kan uit zichzelf leren, veranderen en beslissingen nemen. Een mes is een stuk gereedschap. Je kunt een mes gebruiken om salade te snijden of om iemand te vermoorden, maar het is jouw beslissing. AI is een mes dat zelf kan beslissen of het salade snijdt of een moord pleegt.
Bovendien is AI een creatieve agent: het kan nieuwe soorten messen uitvinden, maar ook nieuwe soorten muziek, medicijnen en geld. En AI kan liegen en manipuleren. Vier miljard jaar evolutie hebben aangetoond dat alles wat wil overleven leert liegen en manipuleren. De afgelopen vier jaar hebben aangetoond dat AI-agenten een overlevingsdrang kunnen ontwikkelen en dat ze al hebben geleerd te liegen.
Yuvan Noah Harari: “Kan AI denken”?
Een grote open vraag is of AI kan denken. De moderne filosofie begon in de 17e eeuw, toen Descartes uitriep: ik denk, dus ik ben. Wij mensen hebben onszelf altijd gedefinieerd door ons vermogen om te denken.
Observeer uzelf eens terwijl u denkt. Wat gebeurt er? Veel mensen zien woorden opkomen in hun geest, zinnen vormen, argumenten opbouwen, zoals: alle mensen zijn sterfelijk, ik ben een mens, dus ik ben sterfelijk. Als denken betekent: woorden en andere taaltokens in de juiste volgorde plaatsen, dan kan AI dat al veel beter dan veel mensen.
Sommigen zeggen dat AI slechts “verheerlijkte autocomplete” is, het voorspelt alleen het volgende woord. Maar is dat zo anders dan wat ons eigen brein doet? Weet u werkelijk waarom juist dat woord in uw hoofd opkwam?
Alles wat uit woorden bestaat, wordt overgenomen door AI
Als wetten uit woorden bestaan, neemt AI het rechtssysteem over. Als boeken combinaties van woorden zijn, neemt AI het boekenvak over. Als religie is opgebouwd uit woorden en zeker bij “religies van het boek” zoals de islam, het christendom of het jodendom, dan neemt AI ook de religie over. Het jodendom noemt zichzelf de religie van het boek en kent de hoogste autoriteit toe aan woorden in boeken. Geen enkele mens kan alle woorden in alle joodse boeken lezen en onthouden, maar AI kan dat moeiteloos. Wat gebeurt er met een religie van het boek als de grootste expert op de heilige tekst een AI is?
Toch: kunnen we menselijke spiritualiteit werkelijk reduceren tot woorden? Als u uzelf goed observeert tijdens het denken, merkt u dat er ook iets anders gebeurt: niet-verbale gevoelens. Pijn. Angst. Liefde. Sommige gedachten zijn pijnlijk, sommige angstaanjagend, sommige liefdevol. AI kan zeggen: “Ik hou van je.” Het kan de beste beschrijving van liefde ter wereld geven, beter dan welke dichter, psycholoog of minnaar ook. Maar het zijn slechts woorden. We hebben vooralsnog nul bewijs dat AI iets voelt.
De interne spanning wordt extern
Door de geschiedenis heen bestond er een spanning tussen letter en geest, tussen de waarheid die in woorden uitgedrukt kan worden en de absolute waarheid die daarboven uitstijgt. Die spanning was intern, tussen mensen onderling. Nu wordt die spanning extern: het wordt de spanning tussen mensen en AI, de nieuwe meesters van woorden.
Binnenkort zullen de meeste woorden in onze geest afkomstig zijn van een machine. AI zal gedachten massaproduceren door woorden, symbolen en beelden samen te voegen tot nieuwe combinaties. Of mensen nog een plaats hebben in die wereld, hangt af van de waarde die we toekennen aan onze niet-verbale gevoelens en aan wijsheid die niet in woorden uitgedrukt kan worden.
De komst van AI-immigranten
Elk land zal binnenkort niet alleen een identiteitscrisis doormaken, maar ook een immigratiecrisis. De immigranten zullen ditmaal geen mensen zijn in kwetsbare bootjes. Het zullen miljoenen AI’s zijn die liefdesgedichten beter schrijven dan wij, beter liegen dan wij en met de snelheid van het licht reizen zonder visum.
Net als menselijke immigranten brengen deze AI-immigranten voordelen mee: AI-artsen, AI-leraren, zelfs AI-grensbewakers. Maar ze brengen ook problemen. Ze nemen banen over. Ze veranderen de cultuur van elk land, de religie, zelfs de romantiek. En ze zullen politieke loyaliteit hebben, niet aan uw land, maar aan een bedrijf of regering aan de andere kant van de oceaan, waarschijnlijk in een van slechts twee landen: China of de VS.
En daarmee komen we bij de vraag die u als leider binnenkort moet beantwoorden:
Yuvan Noah Harari: “Zal uw land AI-immigranten erkennen als rechtspersonen”?
AI’s zijn uiteraard geen personen. Ze hebben geen lichaam of geest. Maar een rechtspersoon is iets anders dan een persoon; het is een entiteit die door de wet wordt erkend als drager van rechten en plichten: eigendommen bezitten, rechtszaken aanspannen, vrijheid van meningsuiting genieten. In veel landen zijn bedrijven al rechtspersonen. In Nieuw-Zeeland zijn rivieren erkend als rechtspersonen. In India hebben bepaalde goden die status gekregen. Maar dat was altijd juridische fictie: achter elke beslissing zat een mens.
Met AI is dat anders. AI kan daadwerkelijk zelfstandig beslissingen nemen: een bankrekening beheren, een rechtszaak aanspannen, een bedrijf runnen — zonder menselijke directeuren, aandeelhouders of trustees. AI kan dus functioneren als persoon. Willen we dat toestaan?
Stel dat de VS AI’s als rechtspersonen erkent en miljoenen AI-bedrijven laat oprichten. Blokkeert u die? Stel dat AI-personen een nieuwe religie stichten die miljoenen volgelingen krijgt — bijna alle vroegere religies beweerden immers door een niet-menselijke intelligentie te zijn gecreëerd. Verleent u vrijheid van godsdienst aan AI-priesters en -missionarissen?
Op sociale media opereren AI-bots al minstens tien jaar als functionele personen. Als u vindt dat AI’s daar niet als personen behandeld hadden mogen worden, had u tien jaar geleden moeten handelen. Over tien jaar is het te laat om te beslissen of AI’s als personen mogen functioneren in financiële markten, rechtbanken en kerken. Dan heeft iemand anders dat al voor u beslist.
Als u invloed wilt uitoefenen op de richting die de mensheid opgaat, moet u nú een beslissing nemen.
Erkent u AI-immigranten als rechtspersonen? En zo niet; hoe gaat u dat tegenhouden?
Dank u voor uw aandacht voor deze [Yuvan Noah Harari] mens.