Hersenscanners kunnen inmiddels zien aan welke plaatjes je denkt – de ontwikkelingen van breintechnologie doen steeds meer denken aan de dystopische Netflix sciencefictionserie Black Mirror. In Brussel discussieerden neurowetenschappers daarom over de ethische risico’s van hun werk. De Nijmeegse AI-hoogleraar Pim Haselager leidde het debat.

‘Ik zou er best mee kunnen leven wanneer de universiteit mij ontslaat omdat mijn werk overbodig is geworden.’ Met die uitspraak krijgt hoogleraar Pim Haselager de lachers op zijn hand deze donderdagochtend, in het grote auditorium van hotel Dolce la Hulpe. In dit chique hotel te midden van het Zoniënwoud nabij Brussel komen wetenschappers bijeen vanuit heel Europa en daarbuiten, voor het jaarlijkse zogeheten BCI-congres. Ze bespreken elkaars laatste bevindingen op het gebied van brein-computer-interfaces (BCI): het aflezen van hersenactiviteit om daarmee allerlei apparaten aan te sturen – van spraakcomputers tot robotarmen. Ideaal voor mensen die een dwarslaesie hebben of bijvoorbeeld een ledemaat missen.

Maar al deze neurotechnologie brengt ook allerlei ethische vragen met zich mee. Wat als iemand ongeoorloofd toegang krijgt tot jouw hersendata? Of als diegene met een hersenscanner straks je gedachten kan lezen? Zijn zelfs die niet meer vrij? Dat soort vragen zijn urgenter dan ooit, de ontwikkelingen gaan razendsnel. Zo kan een fMRI-scanner al verontrustend goed reconstrueren aan welke plaatjes je denkt, en onlangs leerde een Tilburgse man met een dwarslaesie weer lopen dankzij een BCI-apparaat.

Pim Haselager (links) in debat over ethiek.

Om over deze zaken na te denken is er de ethieksessie op het congres, geleid door Haselager, hoogleraar maatschappelijke implicaties van kunstmatige intelligentie bij het Donders Instituut van de Radboud Universiteit. ‘Als ik ontslagen word, dan is dat het teken dat nadenken over ethiek in de vezels van iedere neurowetenschapper zit’, licht hij zijn wat provocatieve uitspraak toe. Vaak wordt hij nu nog ingevlogen om het blokje ethiek af te dekken, in plaats van dat het denken hierover volledig geïntegreerd is in een project of opleiding.

Draadloze EEG-headsets

Het panel is een gevarieerd viertal, van een vertegenwoordiger van regelgevende instantie TÜV SÜD, een BCI-wetenschaper tot de directeur van ONWARD, het bedrijf dat onlangs hielp de verlamde Tilburger weer te laten lopen, in samenwerking met de Sint Maartenskliniek. De opvattingen van de panelleden blijken al even gevarieerd. De één (BCI-hoogleraar Nick Ramsey van het UMC Utrecht) vindt dat er nu al te veel regels zijn voor medische apparatuur: ‘Daardoor laten sommige bedrijven de Europese markt nu links liggen.’ De ander (ONWARD-directeur Dave Marver) denkt dat onderzoekers bij medisch-technologische bedrijven het hart ethisch gezien uit zichzelf al op de juiste plaats hebben, omdat ze patiënten willen helpen – iets waar niet iedereen uit het publiek het mee eens is.

Regelgeving – denk aan het veilig opslaan van data en beveiliging tegen hacken – moet ethische en privacyrisico’s allemaal prima in banen kunnen leiden, zijn de meeste panelleden het met elkaar eens. Ook als BCI-apparaten straks voor consumenten beschikbaar komen, bijvoorbeeld om met draadloze EEG-headsets (die hersengolven registreren) computergames te besturen. Panellid Elizabeth Waite (van bedrijf Blackrock): ‘De consumentenregels zullen afgeleid worden van de richtlijnen voor medische apparatuur, hoop ik.’ Jacek Eisler van TÜV SÜD wijst erop hoe de Europese Unie werkt aan een richtlijn voor het gebruik van kunstmatige intelligentie.

Regels zijn één ding, goede handhaving is een tweede

Haselager is echter kritisch, en noemt hoe een kunstenaar een tijdje terug alle gebruiksvoorwaardes uitprintte van grote techbedrijven. Hij brengt zijn hand naar borsthoogte. ‘Die stapel was zo hoog. En wij klikken allemaal binnen enkele tellen op akkoord! Dat noemen we dan informed consent, alsof we daadwerkelijk goed geïnformeerd zijn.’ Regels zijn één ding, goede handhaving is een tweede, wil hij maar zeggen.

Voor je het weet, vreest hij bovendien, lopen we allemaal achter de feiten aan, net als toen sociale media opkwamen. Bedrijven als Facebook en TikTok hebben ontzettend veel informatie over ons. Voor je het weet gaat het met NeuraLink precies hetzelfde. Dat nieuwe neurtotechbedrijf van Elon Musk wil met hersenimplantaten mensen onder meer makkelijker laten communiceren. Het motto van Silicon Valley voorspelt daarbij weinig goeds, zegt Haselager: ‘Move fast and break things.’

Betaalbaarheid

Aan het slot van het debat legt Ramsey de vinger nog nadrukkelijk op een andere zere ethische plek: toegankelijkheid van BCI-apparatuur. Straks kunnen we sommige patiënten in principe wel helpen met breinimplantaten, zegt hij, maar is de benodigde apparatuur veel te duur. ‘Een BCI-implantaat kost zo 100.000 euro, alleen al qua materiaal.’ Het is maar zeer de vraag of verzekeraars dit willen vergoeden. ‘Het zou goed zijn als er ook eenvoudigere, betaalbare varianten op de markt komen.’

Wat Haselager betreft, sluit hij de bijeenkomst af, mogen neurowetenschappers meer nadenken over de rol die ze willen spelen in het ethiekdebat. De vraag is wel of ze dat zelf wel willen, constateert de Zwitserse onderzoeker Ricardo Chavarriaga een sessie later in een presentatie over privacygevaren. Half ironisch: ‘De meesten van ons zijn toch vooral bezig met artikelen publiceren, of een vaste aanstelling krijgen.’  

Dit artikel waarderen?

Wil je dit artikel waarderen en daarmee mijn journalistieke werk rechtstreeks ondersteunen? Dat kan via een donatie: