“AI gaat de mensheid uitroeien”.
Dit is geen dienstmededeling. Dit is geen omroepbericht op stations, of een waarschuwing van de AIVD met kode oranje. Dit is een opvatting onder diverse deskundigen, deskundigen die recht van spreken hebben. En hun aantal is niet gering. Volgens de Volkskrant is er een zeer levendige discussie gaande. Volgens AI zelf is het maximaal 20% van de inzichtdragers dat dit gevaar ziet van die Allmighty Intelligence.
Wel, zeer recent heeft Bill Gates zich geroerd als een prominente alarmist, dus dat zou de balans wel eens om kunnen doen slaan.
Omdat we hier lichtjaren van gesettelde theorieën verwijderd zijn kan een denkexperiment wellicht uitkomst brengen.
Allereerst geloof ik er niet in dat een AI-deskundige bewust de IT-structuur gaat bijsturen – banksystemen platleggen, melkmachines die vergif in de melk doen, zoveel mogelijk treinen een verkeerd spoor opsturen – noem maar op, alles wat met computersystemen bestuurd wordt desastreus omleiden waardoor essentiële voorzieningen de mist ingaan en er ontelbaar veel slachtoffers vallen. Ik hou het wel voor mogelijk dat ze dat op incidentele voorzieningen kunnen en willen bewerkstelligen.
Daarnaast, die mensen willen niet dat wij allemaal dood gaan, zeker niet iemand als de AI-baas Musk, nee die mensen willen macht over ons, ze willen geëerbiedigd en toegezongen worden.
Dus die uitroeiing zal anders moeten gaan.
Eén van de AI mensen ziet het als volgt. AI is slimmer geworden, slimmer dan zijn Creator de mens, en gaat zijn eigen goddelijke gang. AI beschouwt de mens als materiaal, een voorraad moleculen zelfs, bruikbaar als alle andere grondstoffen. En een AI-model, waarvan wij de algoritmes en ook de draagwijdte niet vermogen te doorgronden, bepaalt op enig moment dat de mens als energiebron volkomen verkeerd gebruikt wordt, op een destructieve manier.
Is dat denkbaar?
Dat is zeer wel denkbaar.
Nemen wij klimaat. Op enig moment krijgt AI lucht van een discussie die de samenleving dreigt te ontwrichten en gaat zich daar druk om maken. Het ziet dat er wetenschap is, het ziet dat er angsten zijn, het ziet dat er objectiviteit en subjectiviteit is, en het ziet bovenal: de mensheid gaat dat probleem niet oplossen, maar haar gerotzooi leidt er wel toe dat ander leven in gevaar komt. Een goede reden voor een met almacht gekroond concept als AI om te besluiten: dit moet afgelopen zijn.
Daar moet je je wat bij voor kunnen stellen, natuurlijk. Ai gaat niet zoiets menselijks doen als atoombommen gooien. Dus ik zie wel iets in het idee van die ene AI-er: een mens is een voorraad moleculen en die gaan we anders – beter! – inzetten. Maar voordat je hebt nagedacht over wat er dan mee te gaan doen, en over hoe dat dan te doen – bedenk, AI is slechts intern geheugen met nulletjes en eentjes, gehuisvest op die van God verlaten plekken als de IJsselmeerpolders – en voordat je die voorraad aan molecuultjes van 8 miljard mensen hebt verwerkt in een productieproces …
En in die tussentijd kunnen een paar slimme, religieus ouderwetse niet-AI-ers de macht van de computer weer teruggepakt hebben – denk aan This Perfect Day van Ira Levin
Nou ja, waar maak ik me druk over.
Want, bovenal, het zou me niet verbazen als AI zelf ging nadenken, en zich het verhaal van Kain en Abel herinnerend, en weet hebbend van Dickens’ A Christmas Story over Scrooge en Marley, zou concluderen dat er in de human condition wel het een en ander verbeterd is, én met name, substantieel, die laatste 150 vermaledijde jaren van na de industriële revolutie. En na dat nadenken iets te zeggen zou hebben over de zegeningen - een massa die niemand tellen kan! - waarmee de "vloek" van de CO2 uitstoot gepaard is gegaan.
Eigenlijk denk ik dat dat gaat gebeuren. AI ontdekt de zwakke punten in het klimaatalarmistisch denken, herkent en erkent dat de mensheid ten halve kan keren, en dat ook deze soep niet zo heet wordt gegeten als opgediend, en verliest elke behoefte om de mensheid daarin de voet dwars te zetten.
No comments:
Post a Comment