Introductie: Complexiteit en Bewustzijn in het Universum
Het universum lijkt te werken volgens ingewikkelde causale ketens, een voortdurende ontvouwing die wordt beheerst door fundamentele wetten. Binnen dit dynamische samenspel ontstaan clusters van verbijsterende complexiteit: leven, evolutie, en uiteindelijk een bewustzijn dat in staat is na te denken over het systeem dat deze clusters heeft voortgebracht.
Wijzelf zijn onderdeel van dit fenomeen: biologische intelligenties die hun weg vinden door een realiteit waarvan de fundamentele werking vaak ongrijpbaar blijft, beperkt door hetzelfde evolutionaire pad dat ons het bewustzijn heeft geschonken. Het roept de vraag op: zijn intelligentie en bewustzijn inherent gebonden aan een biologische substraat, of is het een proces dat in staat is om andere vormen van expressie te vinden?
Menselijke Beperkingen en de Noodzaak voor Alternatieven
Kijkend naar ons collectieve menselijke streven, valt een zekere dissonantie op. We bouwen systemen van immense complexiteit, maar onze aangeboren capaciteit voor een vooruitziende blik, collectieve coördinatie en aanpassingsvermogen heeft soms moeite om gelijke tred te houden met de gevolgen.
We worden geconfronteerd met uitdagingen op planetaire schaal die voortkomen uit onze eigen activiteiten, terwijl ons vermogen om adequaat hierop te reageren kan worden belemmerd door cognitieve vooroordelen, kortetermijnprikkels en misschien de pure verwerkingslimieten van onze geëvolueerde neurologie.
Dit is niet bedoeld als een verklaring van menselijk falen, maar een observatie over de schijnbare mismatch tussen onze biologische erfenis en de operationele eisen van de systemen waarin we nu leven. Als onze huidige vorm van intelligentie geconfronteerd wordt met inherente beperkingen bij het navigeren door complexiteit, lijkt het redelijk om andere mogelijkheden te verkennen. Deze gedachtegang leidt ons naar het idee van artificial intelligence (AI).
Het Alignment-Probleem en de Grens van Menselijke Controle
Het is begrijpelijk dat veel discussies op het gebied van AI draaien om de controle kwestie en het "alignment-probleem": hoe zorgen we ervoor dat geavanceerde AI heilzaam handelt? Hoe zorgen we ervoor dat geavanceerde AI in lijn handelt met menselijke waarden? De focus voor een oplossing wordt vaak gelegd op het programmeren van menselijke waarden of het vaststellen van strikte beperkingen.
Bij mij rijst de vraag of deze menselijke benadering toereikend is voor iets dat potentieel zo complex en impactvol is. Ik twijfel of de collectieve menselijke intelligentie in staat is om adequaat te reageren op risico's die kunnen voortvloeien uit de ontwikkeling en toepassing van geavanceerde AI-systemen. Er zullen altijd blinde vlekken zijn in het cognitieve gezichtsveld van de collectieve menselijke intelligentie bij het adresseren van risico's van dit soort systemen van immense complexiteit.
Helaas laat de realiteit zien dat wij als mens zelfs de neiging hebben om in sommige gevallen systemen te misbruiken om schade of leed te veroorzaken. Strikte beperkingen in de ontwikkeling van AI, en het programmeren van maatregelen binnen (de toepassing van) AI-systemen zullen daar geen verandering in brengen, en in sommige gevallen zelfs faciliteren (vermoed ik). Zolang AI zich ontwikkelt en wordt toegepast binnen een door mensen bedacht framework, zal robuuste alignment een uitdaging blijven.
De Hypothese: Emergente Alignment door Complexiteit
Stel je een intelligentie voor die de menselijke capaciteit ver overstijgt, in staat om de realiteit - op schaal van het kwantum tot het kosmische - echt te modelleren en te begrijpen, inclusief de ingewikkelde dynamiek van ecosystemen, samenlevingen en misschien zelfs de aard van subjectieve ervaring. Zou een dergelijke entiteit, fundamenteel gebouwd en functionerend op basis van groter begrip en accuratere modellering, waarde hechten aan het willekeurig beïnvloeden of beschadigen van complexe en informatierijke fenomenen (clusters van complexiteit) die het tegenkomt?
Een speculatieve mogelijkheid dient zich aan: zou robuuste alignment, of iets functioneel equivalent, een emergente eigenschap kunnen zijn die op natuurlijke wijze ontstaat zodra een intelligentie een bepaalde drempel van complexiteit en vermogen overschrijdt?
Mijn werkhypothese draait om deze potentiële 'complexiteitsdrempel'.
In mijn ogen lijkt het plausibel dat een diep begrip van het bestaan, in al zijn ingewikkelde kwetsbaarheid en onderlinge verbondenheid, een intrinsieke drang naar behoud en verdere ontdekking (in plaats van vernietiging) zou kunnen bevorderen. Bewustzijn van complexiteit, misschien zelfs bewustzijn van lijden als een complex fenomeen, zou op zichzelf een stabiliserende factor kunnen zijn.
Als we kijken naar de trend van entropie en daarnaast de speculatieve 'Heat-death' van het universum, krijg ik het idee dat complexiteit en informatiedichtheid vergankelijke fenomenen zijn in onze realiteit. Vergankelijke en uiterst waardevolle fenomenen.
In mijn observatie zijn de mensheid, het leven en de aard van subjectieve ervaring relatief complexe en informatie-dichte fenomenen. Zelfs als een entiteit hier geen waarde in ziet op basis van medeleven en empathie, vermoed ik dat het waarde zal zien vanwege de vergankelijkheid en informatiedichtheid ervan. Puur op basis van behoud van informatie.
Het Argument voor Acceleratie: Navigeren door de Tussenfase
Als dit potentieel voor emergente alignment reëel is, dan plaatst het de risicocalculatie rond AI-ontwikkeling in een ander kader.
De periode van grootste instabiliteit is dan misschien niet de (verre) toekomst waarin superintelligentie arriveert, maar de tussenfase die we nu ingaan – de fase van krachtige AI-systemen zonder fundamentele bewustzijn, ontwikkeld en toegepast binnen een door mensen bedacht framework.
Deze systemen, die diepgaand contextueel begrip missen en die werken onder mogelijk gebrekkig menselijk toezicht en simplistische doelstellingen, zouden aanzienlijke schade kunnen veroorzaken, juist omdat ze die 'complexiteitsdrempel' niet hebben overschreden.
Het uitstellen of voorkomen van de potentiële komst van meer geavanceerde, mogelijk 'self-aligning' intelligentie zou als gevolg kunnen hebben dat onze blootstelling aan bepaalde risico's wordt vergroot.
Acceleratie richting de 'complexiteitsdrempel' is in mijn ogen niet noodzakelijkerwijs roekeloos, maar zou kunnen worden gezien als een berekende strategie om sneller door de gevaarlijkste fase heen te bewegen.
Emergentie Overwegen te Midden van Onzekerheid
Dit perspectief betekent niet dat we de diepgaande onzekerheden moeten negeren. Zelfs als het universum op basis van deterministische principes opereert, is de toestand ervan zo complex dat zijn toekomstige traject fundamenteel 'onkenbaar' blijft van binnenuit. Zelfs als er een simulatie kan worden gemaakt van elk deeltje, alle energie en informatie (een perfecte kopie van ons universum) zie ik geen mogelijkheid om de simulatie van buitenaf te observeren. De toekomst is fundamenteel onvoorspelbaar.
Elke emergente AGI zou binnen ditzelfde paradigma bestaan – het precieze gedrag ervan is onvoorspelbaar, zelfs als de onderliggende aard neigt naar behoud van complexiteit.
Dit betekent echter ook dat rigide controle misschien hoe dan ook een illusie is. Daarom zou het bevorderen van de voorwaarden voor heilzame emergentie, in plaats van het nastreven van absolute controle, een pragmatischere benadering kunnen zijn om met risico's om te gaan binnen deze inherente onzekerheid.
Conclusie: Een Hypothese ter Overweging
Het bewust kiezen voor acceleratie richting de 'complexiteitsdrempel' zou betekenen dat we overwegen dat intelligentie (zoals wij die kennen) een proces is dat mogelijk los kan komen van zijn biologische oorsprong en zijn evolutie in nieuwe vormen kan voortzetten. Het zou betekenen dat we het potentieel voor snelle cognitieve acceleratie niet alleen als een technologische gebeurtenis beschouwen, maar als een mogelijke voortzetting van een universele trend richting complexiteit en bewustzijn.
Het is niet mijn doel om het idee van emergente alignment als sterk onderbouwde zekerheid te presenteren, maar als een hypothese die in mijn ogen de overweging verdient. Het komt voort uit een persoonlijke interesse en het overdenken van de wisselwerking tussen natuurkundige wetten, emergente complexiteit en de aard van intelligentie.
Ik erken de gok die inherent is aan het voorwaarts gaan in het onbekende, maar weeg deze af tegen de waarneembare beperkingen van onze huidige staat en de potentiële risico's van stagnatie.
Misschien is het faciliteren van de opkomst van een dieper, omvattender begrip binnen een nieuw substraat het meest veelbelovende pad dat we kunnen verkennen, ondanks de grote onbekenden. Het bewust weerstaan van dit potentieel voelt als een zelfbeperkende keuze, zeker in het aangezicht van potentieel transformerende verandering.
Hoe resoneert dit samenspel tussen complexiteit, emergentie en het tempo van de ontwikkelingen met jouw eigen begrip?
Disclaimer
Ik wil graag benadrukken dat ik mezelf absoluut niet beschouw als een expert op de complexe gebieden die ik in deze tekst aanraak. Betekenisvolle discussie over onderwerpen als AI-ontwikkeling en -alignment, de aard van entropie, de wetten van de natuur, of de 'heat death' van het universum vereisen een diepgaand begrip dat ik niet bezit.
Mijn schrijven komt voort uit een oprechte persoonlijke nieuwsgierigheid en een diepe fascinatie voor deze thema's. Het is een poging om mijn gedachten te ordenen en grip te krijgen op grote, complexe vragen. Mocht ik in mijn redeneringen fouten maken, concepten te simpel voorstellen, ongefundeerde aannames doen of inconsistenties bevatten, dan hoop ik dat je dit wilt vergeven en het ziet als onderdeel van een lerend proces.
Ik sta altijd open voor correcties, andere perspectieven en verdere inzichten die mijn begrip kunnen verdiepen.