Kunnen chatbots net zo bewust worden als mensen?

Vragen over wat subjectieve ervaring is, wie deze heeft en hoe deze zich verhoudt tot de fysieke wereld om ons heen, hebben het grootste deel van de menselijke geschiedenis door de hoofden van filosofen achtervolgd. Wetenschappelijke theorieën over bewustzijn die kwantificeerbaar en empirisch toetsbaar zijn, zijn echter pas de afgelopen decennia ontstaan.

Veel moderne theorieën over bewustzijn concentreren zich op de sporen die worden achtergelaten door de fijne cellulaire netwerken van de hersenen waaruit het bewustzijn voortkomt. Tegenwoordig domineren twee daarvan: de geïntegreerde informatietheorie en de neurale globale werkruimtetheorie.

Vijfentwintig jaar geleden hadden we ruzie met de Australische filosoof David Chalmers. Ik beloofde hem een ​​kist goede wijn als deze neurale sporen, technisch gezien de neurale correlaten van het bewustzijn genoemd, tegen juni 2023 ontdekt en duidelijk beschreven zouden worden.

De tegenstelling tussen de geïntegreerde informatietheorie en de neurale globale werkruimtetheorie blijft echter onopgelost. Dit komt door deels gemengd bewijsmateriaal over welke delen van de hersenen verantwoordelijk zijn voor visuele ervaring subjectieve perceptie van gezichten of objecten, hoewel het belang van de prefrontale cortex voor bewuste ervaring is geweest weerlegd. Dus verloor ik de weddenschap en stuurde de wijn naar Chalmers.

Beide dominante theorieën zijn bedacht om het verband tussen bewustzijn en neurale activiteit bij mensen en aanverwante dieren zoals apen en muizen te verklaren. En beide theorieën maken fundamenteel verschillende aannames over subjectieve ervaringen en komen tot tegengestelde conclusies over bewustzijn in kunstmatige artefacten. De mate waarin deze theorieën empirisch worden bevestigd of weerlegd in relatie tot het bewustzijn waarin ze zijn geworteld hersenen, heeft belangrijke implicaties voor het beantwoorden van de onopgeloste vraag van onze tijd: kunnen machines winst maken bewustzijn?

Wat zijn chatbots van de nieuwe generatie?

Voordat we dit bespreken, wil ik je in de context plaatsen en een techniek vergelijken die bewust is met een techniek die alleen intelligent gedrag vertoont. Computeringenieurs streven ernaar machines te voorzien van de uiterst flexibele intelligentie die ooit mogelijk was persoon verlaat Afrika en bevolkt de hele planeet. Dit heet kunstmatige algemene intelligentie (AGI).

Velen beweren dat AGI een verre toekomstperspectief is. De verbazingwekkende vooruitgang die het afgelopen jaar is geboekt op het gebied van kunstmatige intelligentie heeft de hele wereld, inclusief experts, verrast. Met de komst van welsprekende conversatiesoftwareapplicaties, in de volksmond chatbots genoemd, vanuit een esoterisch onderwerp, besproken door sci-fi-fans en de IT-industrie-elite uit Silicon Valley, veranderden discussies over AGI in een discussie Dit weerspiegelt de wijdverbreide publieke onvrede over het existentiële risico voor onze manier van leven en onze samenleving vriendelijk.

Chatbots zijn gebaseerd op enorme taalmodellen. De bekendste hiervan is een reeks bots die generatieve vooraf getrainde transformatoren of GPT's worden genoemd. Ze zijn gemaakt door OpenAI in San Francisco. Gezien de flexibiliteit, geletterdheid en competentie van de nieuwste versie, GPT-4, is het gemakkelijk te geloven dat deze over intelligentie en persoonlijkheid beschikt. Zelfs haar vreemde storingen, bekend als ‘hallucinaties’, passen in deze theorie.

GPT-4 en zijn concurrenten, zoals LaMDA en Google's Bard, zijn getraind in bibliotheken met gedigitaliseerde boeken en miljarden openbaar beschikbare webpagina's. Het geniale van het taalmodel is dat het zonder toezicht leert, woord voor woord verwerkt en probeert de ontbrekende uitdrukking te voorspellen. Ze doet dit keer op keer, miljarden keren, zonder tussenkomst van buitenaf.

Zodra het model kennis verkrijgt door de gedigitaliseerde gegevens van de mensheid op te nemen, geeft de gebruiker een onbekende zin weer: een of meer. Het model voorspelt het meest waarschijnlijke eerste woord, vervolgens het volgende, enzovoort. Dit eenvoudige principe heeft ongelooflijke resultaten opgeleverd in het Engels, Duits, Chinees, Hindi, Koreaans en andere talen, waaronder verschillende programmeertalen.

Wat is het verschil tussen intellect en bewustzijn

Het is veelbetekenend dat het baanbrekende essay over kunstmatige intelligentie, ‘Computing and Intelligence’, geschreven door Alan Turing vermeed in 1950 de vraag ‘Kunnen machines denken?’, dat wil zeggen de vraag of ze bewustzijn. Turing stelde het 'imitatiespel' voor: kan een waarnemer objectief de uitvoer die door een mens is afgedrukt onderscheiden van de uitvoer die door een machine is afgedrukt als de identiteit van beide verborgen is.

Tegenwoordig staat dit bekend als de Turing-test, en chatbots zijn er erg goed in, hoewel ze dit slim ontkennen als je het hen rechtstreeks vraagt. Turing's strategie was het begin van tientallen jaren van onverbiddelijke vooruitgang die leidde tot de creatie van GPT, maar negeerde het probleem.

Impliciet in het chatbotdebat is de veronderstelling dat kunstmatige intelligentie hetzelfde is als kunstmatig bewustzijn, dat slim zijn hetzelfde is als bewust zijn. En hoewel bij mensen en andere ontwikkelde organismen intelligentie en bewustzijn met elkaar verbonden zijn, gaan ze niet noodzakelijkerwijs altijd met elkaar gepaard.

Intelligentie gaat over denken en leren handelen en uit de acties van zichzelf en anderen, om de toekomst nauwkeuriger te voorspellen en zich er beter op voor te bereiden. Het maakt niet uit of dat de volgende paar seconden betekent ("Oh, die auto komt met hoge snelheid op mij af") of de komende paar jaar ("Ik moet leren coderen"). Intelligentie gaat uiteindelijk over actie.

Bewustzijn daarentegen wordt geassocieerd met zijnstoestanden: het zien van een blauwe lucht, het horen van vogels die zingen, het voelen van pijn, het zijn liefhebbers. Het maakt helemaal niet uit of een uit de hand gelopen kunstmatige intelligentie iets waarneemt. Het enige dat telt is dat hij een doel heeft dat niets te maken heeft met het welzijn van de mensheid op de lange termijn. En het maakt niet uit of hij wel of niet weet wat hij probeert te doen, wat mensen zelfbewustzijn noemen. Hij zal ‘gedachteloos’ zijn doel nastreven. Dus, althans conceptueel, zelfs als we een AGI bouwen, zal het ons niet veel vertellen over de vraag of het iets voelt.

Laten we, nu we dit allemaal weten, terugkeren naar de oorspronkelijke vraag hoe technologie bewust kan worden. Laten we beginnen met de eerste van twee theorieën.

Welke verklaring biedt de geïntegreerde informatietheorie?

Ze begint met het formuleren van vijf axiomatische eigenschappen van elke denkbare subjectieve ervaring. En stelt vervolgens de vraag wat een neuraal circuit nodig heeft om deze vijf eigenschappen te implementeren, waarbij sommige neuronen worden ingeschakeld en andere worden uitgeschakeld. Of, met andere woorden, wat heeft een computerchip nodig om sommige transistors in te schakelen en andere uit te schakelen.

Oorzaak-en-gevolg-interacties binnen een circuit in een bepaalde toestand of het feit dat er twee actief zijn neuron kan een ander neuron in- of uitschakelen, afhankelijk van de omstandigheden, kan worden ingezet in een multidimensionale causale structuur. Het is identiek aan de kwaliteit van de ervaring: hoe deze wordt ervaren, zoals hoe tijd en ruimte worden ervaren of hoe kleuren worden waargenomen.

Er is ook een hoeveelheid aan ervaring verbonden: de geïntegreerde informatie. Alleen een circuit met een maximum aan niet-nul geïntegreerde informatie bestaat als geheel en heeft bewustzijn. Hoe meer informatie er wordt geïntegreerd, hoe meer het circuit niet kan worden verkleind en hoe minder het simpelweg kan worden beschouwd als een superpositie van onafhankelijke subcircuits.

Geïntegreerde informatietheorie benadrukt de rijke aard van de menselijke ervaring. Kijk maar om je heen en de verbluffende zichtbare wereld met zijn talloze verschillen en verbindingen zal voor je verschijnen. Of kijk naar een schilderij van Pieter Bruegel de Oude, een 16e-eeuwse Vlaamse kunstenaar die religieuze onderwerpen en scènes uit het boerenleven afbeeldde.

Elk systeem dat dezelfde interne verbindingen en causale krachten heeft als het menselijk brein zal in principe net zo bewust zijn als de menselijke geest. Een dergelijk systeem kan echter niet worden gemodelleerd. Het moet ontworpen of gebouwd worden naar het beeld van de hersenen. Moderne digitale computers zijn gebaseerd op extreem losse koppeling (de uitgang van één transistor verbonden met de ingang van meerdere transistors). vergelijking met het centrale zenuwstelsel (corticale kolomneuron ontvangt invoergegevens en produceert uitvoergegevens voor tienduizenden anderen neuronen).

Moderne computers, inclusief cloudcomputers, zullen zich dus nergens van bewust zijn, hoewel ze na verloop van tijd alles zullen kunnen doen wat mensen ook kunnen doen. Vanuit dit oogpunt zal ChatGPT nooit speciaal aanvoelen. Merk op dat deze verklaring niets te maken heeft met het totale aantal componenten, of het nu neuronen of transistors zijn, maar eerder hoe ze met elkaar verbonden zijn. Het is de onderlinge verbondenheid die de algehele complexiteit van het circuit en het aantal mogelijke configuraties bepaalt.

Welke verklaring biedt de neurale globale werkruimtetheorie?

Het komt voort uit het psychologische inzicht dat intelligentie- zoals een theater waar acteurs optreden op een klein verlicht podium, dat bewustzijn is. De handelingen van de acteurs worden gadegeslagen door een publiek van verwerkers dat in het donker achter het podium zit.

Het podium is de centrale werkruimte van de geest, die een kleine geheugencapaciteit heeft voor het weergeven van een enkele perceptie, gedachte of herinnering. Verschillende verwerkingsmodules – gezichtsvermogen, gehoor, motorische vaardigheden van ogen en ledematen, planning, beoordelingsvermogen, taalbegrip en spreken – strijden om toegang tot deze centrale werkruimte. De winnaar verdringt de oude inhoud, die onbewust wordt.

Volgens de neurale globale werkruimtetheorie wordt de metaforische scène, samen met verwerkingsmodules, in kaart gebracht in de architectuur van de neocortex. De werkruimte is een netwerk van corticale neuronen aan de voorkant van de hersenen met langeafstandsprojecties soortgelijke neuronen verspreid over de neocortex in de prefrontale, parietotemporale en cingulaire associatiecortex.

Wanneer de activiteit in de sensorische cortex een bepaalde drempel overschrijdt, wordt er een globale gebeurtenis geactiveerd in de corticale gebieden en als gevolg daarvan wordt informatie naar de hele werkruimte verzonden. De mondiale verspreiding van informatie maakt het bewust. Gegevens die niet op deze manier worden overgedragen, zoals de precieze positie van de ogen of de syntactische regels voor het construeren van geletterde zinnen, kunnen gedrag beïnvloeden, maar niet bewust.

Vanuit het oogpunt van de neurale globale werkruimtetheorie is de ervaring zeer beperkt, vergelijkbaar met denken en doen abstract - vergelijkbaar met de schamele omschrijving die je in een museum onder een schilderij van Bruegel kunt vinden: “Scène in binnenshuis. Boeren in renaissancekleding drinken en eten op een bruiloft."

Door het bewustzijn te begrijpen vanuit het perspectief van de geïntegreerde informatietheorie, brengt de kunstenaar op briljante wijze de fenomenologie van de omringende wereld over op een tweedimensionaal canvas. In het begrip van de neurale mondiale werkruimtetheorie is deze schijnbare rijkdom een ​​illusie, een spook. En alles wat er objectief over kan worden gezegd, wordt aangegeven in de korte beschrijving.

De neurale globale werkruimtetheorie houdt volledig rekening met de mythen van ons computertijdperk, volgens welke alles kan worden herleid tot berekeningen. Goed geprogrammeerde computersimulaties van de hersenen, met enorme feedback en zoiets als een centrale werkruimte, zullen de wereld bewust waarnemen. Misschien niet nu, maar wel binnenkort.

Wat is het onverenigbare verschil tussen de theorieën?

In grote lijnen is de discussie als volgt. Volgens de neurale globale werkruimtetheorie en andere theorieën van computationeel functionaliteit (ze bewustzijn beschouwen als een vorm van berekenen), is bewustzijn niets meer dan een reeks slimme algoritmen die op een machine draaien Turing. Functies zijn belangrijk voor het bewustzijn brein, en niet de causale eigenschappen ervan. Als een geavanceerde versie van GPT dezelfde invoer- en uitvoerpatronen accepteert en produceert als mensen, zullen al onze inherente eigenschappen worden overgedragen aan de technologie. Inclusief onze kostbare schat: subjectieve ervaring.

Omgekeerd is voor de geïntegreerde informatietheorie de kern van het bewustzijn de interne causale kracht, en niet de berekening. Het is niet iets etherisch of ongrijpbaars. Het is specifiek en functioneel bepaald door de mate waarin het verleden van het systeem zijn heden bepaalt (de kracht van de oorzaak), en door de mate waarin het heden zijn toekomst bepaalt (de kracht van het gevolg). En hier zit het probleem: de oorzaak-en-gevolg-relatie zelf, het vermogen om een ​​systeem te dwingen een bepaalde actie uit te voeren, en niet veel alternatieve, kunnen niet worden gemodelleerd. Niet nu, niet in de toekomst. Dit moet in het systeem worden ingebouwd.

Beschouw een computercode die de veldvergelijkingen van Einsteins algemene relativiteitstheorie modelleert, die massa in verband brengen met de kromming van de ruimtetijd. De software modelleert het supermassief nauwkeurig zwart gat, dat zich in het centrum van onze Melkweg bevindt. Dit gat oefent zo'n sterke zwaartekrachtsinvloed uit op zijn omgeving dat niets, zelfs licht niet, aan zijn aantrekkingskracht kan ontsnappen.

Een astrofysicus die een zwart gat simuleert, zal echter niet door het gesimuleerde zwaartekrachtveld in een laptop worden gezogen. Deze ogenschijnlijk absurde observatie benadrukt het verschil tussen model en werkelijkheid: als het model volledig is overeenkomt met de werkelijkheid, moeten ruimte en tijd rond de laptop worden vervormd, waardoor een zwart gat ontstaat dat alles absorbeert rondom.

Natuurlijk is de zwaartekracht geen berekening. Het heeft een causale kracht die het mogelijk maakt het weefsel van ruimte-tijd te vervormen en alles aan te trekken dat massa heeft. Voor het simuleren van de causale krachten van een zwart gat is een echt superzwaar object nodig, niet alleen computercode. Causale macht kan niet worden gemodelleerd, maar moet worden gecreëerd. Het verschil tussen realiteit en model ligt in hun causale krachten.

Daarom regent het niet in een computer die een regenbui simuleert. Software is functioneel identiek aan het weer, maar mist de causale kracht om stoom vrij te geven en deze in waterdruppels om te zetten. Causale macht, het vermogen om op eigen kracht verandering te creëren of te accepteren, moet in het systeem worden ingebouwd. Het is mogelijk.

Een zogenaamde neuromorfe of bionische computer zou net zo bewust kunnen zijn als een mens. Maar dit is niet het geval met de standaard von Neumann-architectuur, die de basis vormt van alle moderne pc's. In laboratoria zijn kleine prototypes van neuromorfe computers gemaakt, zoals Intel's Loihi 2 neuromorfe chip van de tweede generatie. Maar een machine die geavanceerd genoeg is om iets te produceren dat lijkt op het menselijk bewustzijn, of op zijn minst het bewustzijn van een fruitvlieg, is nog steeds een ambitieuze droom voor de verre toekomst.

Merk op dat dit onverenigbare verschil tussen functionele en causale theorieën niets te maken heeft met natuurlijke of kunstmatige intelligentie. Zoals ik al eerder zei: intelligentie is gedrag. Alles wat menselijk vernuft kan voortbrengen, inclusief geweldige romans als Octavia Butlers Parable of the Sower en Leo Tolstoj's Oorlog en Vrede, kunnen algoritmische intelligentie reproduceren als er voldoende materiaal voor wordt gegeven opleiding. De komst van AGI is een doel dat in de niet al te verre toekomst haalbaar is.

Het debat gaat niet over kunstmatige intelligentie, maar over kunstmatig bewustzijn. En dit debat kan niet worden opgelost door grotere taalmodellen of geavanceerdere neurale netwerkalgoritmen te creëren. Om deze vraag te beantwoorden moeten we de enige subjectiviteit begrijpen waarvan we absoluut zeker zijn: die van onszelf. Zodra we een duidelijke uitleg van de mens hebben bewustzijn en de neurale onderbouwing ervan, zullen we ons begrip op een consistente, op wetenschap gebaseerde manier kunnen uitbreiden naar slimme technologieën.

Deze discussie heeft weinig invloed op de manier waarop chatbots door de samenleving als geheel zullen worden waargenomen. Hun taalvaardigheid, kennisbasis en sociale charme zullen spoedig onberispelijk worden. Zij zullen begiftigd zijn met een perfect geheugen, competentie, evenwicht, redenering en intelligentie. Sommigen beweren zelfs dat deze creaties van grote technologie de volgende stap in de evolutie zullen zijn, Nietzsches ‘superman’. Ik heb een donkerdere kijk en geloof dat zulke mensen de achteruitgang van onze soort voor de dageraad aanzien.

Voor veel, en misschien wel de meeste, mensen in een steeds meer geatomiseerde samenleving, losgekoppeld van de natuur en georganiseerd rond sociale netwerken, zal het emotioneel moeilijk zijn om weerstand te bieden aan de technologieën waarin we leven telefoons. En in verschillende situaties, gewone en serieuzere, zullen mensen zich gedragen alsof chatbots bewustzijn hebben, echt waar verlieft zijn, lijden, hoop en angst, ook al zijn het niets meer dan complexe opzoektabellen. Ze zullen onmisbaar voor ons worden, misschien zelfs belangrijker dan werkelijk intelligente wezens. Hoewel chatbots net zoveel waarnemen als een tv of een broodrooster: niets.