‘Code is wet’: Should Software Developers Protect Our Freedoms?

Technology

De sociale overlap tussen mijn juridische vrienden en mijn blockchain-collega’s, zowel aan de zakelijke als aan de technische kant, is opmerkelijk klein. Dat is verrassend gezien de nauwe verwantschap tussen de twee vakgebieden. In feite kan ik me geen zinvol blockchain-gesprek voorstellen dat niet snel escaleert in een regelgevend of juridisch konijnenhol. Er is echter één gesprek dat in beide kringen betrouwbaar naar voren komt: code is wet.

Mijn blockchain-collega’s, vooral de meer technische, gebruiken de uitdrukking “code is wet” om te suggereren dat code – bijvoorbeeld een software die meestal ten grondslag ligt aan een smart contract – op een dag in de toekomst de wet zal vervangen. Zij geloven dat code op een dag de uiteindelijke autoriteit zal zijn. Dus als een code een onbedoelde fout maakt en op een onverwachte, misschien oneerlijke manier presteert, halen ze hun schouders op en antwoorden: “Welnu, code is wet.”

Ik heb nog geen advocaat of regelgever gevonden die deze mening deelt. In mijn juridische en regelgevende kringen heerst eerder een tegenovergestelde opvatting. Het zal geen verbazing wekken dat juristen en regelgevers boven alles in de regel geloven en zich geen wereld kunnen voorstellen waarin de omstandigheden en belangen worden genegeerd.

De CFTC-commissaris zei onlangs: “Ik heb sommigen horen zeggen dat ‘de code de wet is’, wat betekent dat als de softwarecode het toestaat, een actie is toegestaan. Ik ben het niet eens met deze fundamentele vooronderstelling. Jurisprudentie, statuten en verordeningen zijn de wet. Zij zijn van toepassing op de code, net zoals zij van toepassing zijn op andere activiteiten, contracten of overeenkomsten.” Hij legde uit: “Het is zeker mogelijk dat de softwarecode niet de volledige overeenkomst van de deelnemers vertegenwoordigt en moet worden geïnterpreteerd in samenhang met traditionele concepten van verbintenissenrecht zoals goede trouw en billijke behandeling.” Met andere woorden, de rechtsstaat gaat boven computergegenereerde code.

Het was Lawrence Lessig die in zijn gelijknamige artikel en het boek Code and Other Laws of Cyberspace de uitdrukking “code is law” bedacht. Maar toen Lessig de uitdrukking voor het eerst gebruikte, had hij niet het hedendaagse gebruik ervan voor ogen. Lessig beweert niet dat als softwarecode een handeling toestaat, die handeling ook noodzakelijkerwijs is toegestaan. En hij beweert al helemaal niet dat software de wet zal vervangen.

Toen hij schreef dat “code law is”, betoogde Lessig veeleer dat het internet grondwettelijke beginselen zou moeten bevatten. Lessig merkte al in een vroeg stadium scherp op dat de software die ten grondslag ligt aan de architectuur en infrastructuur van het internet, het internet als geheel bestuurt. Maar wie bepaalt wat de regels van de code zijn? Wie zijn de architecten achter deze op code gebaseerde structuren? Er is een duidelijk en verontrustend gebrek aan transparantie.

Er zijn manieren om dit ongedaan te maken. Open-source software, mits correct gebouwd, kan inhoudelijke bescherming bieden zoals vrijheid van meningsuiting op het internet. Net zoals de Amerikaanse grondwet ingebouwde controles op de macht heeft om verschillende vrijheden te garanderen, zou het internet ingebouwde transparantiemaatregelen moeten bevatten om de vrijheden van zijn gebruikers te beschermen.

Hoewel het toegegeven een beetje futuristisch klinkt, kan ik me zeker een toekomst voorstellen waarin computers, software, het internet, kunstmatige intelligentie en andere technologie het rechtssysteem van vandaag vervangen, althans sommige aspecten ervan. Zal software het recht – ons juridisch kader en onze juridische instellingen – volledig vervangen? Dat kan gebeuren, maar waarschijnlijk niet tijdens ons leven. Tot die tijd kan misschien een deel van het recht in de nabije toekomst door middel van code worden geautomatiseerd.

Nu recht en code naar elkaar toegroeien, wat is dan de verantwoordelijkheid van software-ontwikkelaars? Moeten zij stappen ondernemen om onze vrijheden meer opzettelijk te beschermen? Wat denkt u?

Olga V. Mack is een bekroonde general counsel, operations professional, startup-adviseur, openbaar spreker, adjunct-professor aan Berkeley Law, en ondernemer. Olga is oprichtster van de beweging Women Serve on Boards, die ervoor pleit dat vrouwen zitting nemen in de raad van bestuur van Fortune 500-bedrijven. Olga was ook medeoprichtster van SunLaw om vrouwelijke bedrijfsjuristen voor te bereiden op de functie van algemeen adviseur en juridisch leider, en van WISE om vrouwelijke partners in advocatenkantoren te helpen regenmakers te worden. Ze omarmt de huidige disruptie in de advocatuur. Olga houdt van deze verandering en is toegewijd aan het verbeteren en vormgeven van de toekomst van het recht. Ze is ervan overtuigd dat de advocatuur er nog sterker, veerkrachtiger en inclusiever uit zal komen dan voorheen. U kunt Olga e-mailen op [email protected] of haar volgen op Twitter @olgavmack.