Driekwart van reacties op Britse vape-consultatie kwam van AI-bots, blijkt uit studie

Volgens de onderzoekers van de universiteit van Edinburgh kwam driekwart van de reacties op een Britse overheidsconsultatie over strengere regels voor wegwerp-vapes van AI-bots. In 2023 kwamen 118.756 reacties binnen op het voorstel om de verkoop van wegwerp-vapes te beperken. Het Britse ministerie van Volksgezondheid (Department of Health and Social Care, DHSC) bestempelde daarvan 90.835 reacties als frauduleus, oftewel 76 procent. De onderzoekers kregen die cijfers via een beroep op de Freedom of Information Act, de Britse wet die burgers recht geeft op inzage in overheidsdocumenten. Hun bevindingen staan in het tijdschrift Tobacco Control.

De consultatie uit 2023 ging over het voorstel om de verkoop van wegwerp-vapes te beperken. Het was onderdeel van de bredere discussie in Engeland over roken en vapen onder jongeren. Die discussie leidde later tot de Tobacco and Vapes Bill. Bij zulke publieke consultaties kan iedereen schriftelijk reageren, voordat een minister een besluit voorlegt aan het parlement. Het DHSC organiseerde de consultatie en gebruikt de uitkomst normaal als signaal van steun voor een maatregel. De studie komt van Nason Maani, verbonden aan de universiteit van Edinburgh, en Anna Gilmore van de universiteit van Bath.

De bot-reacties richtten zich, volgens de onderzoekers, vrijwel allemaal tegen hetzelfde onderdeel van de consultatie: het voorstel om de verkoop van wegwerp-vapes aan banden te leggen. Pas na het verwijderen van de nepreacties kwam het beeld van de echte respondenten naar boven. Ongeveer acht op de tien van hen steunde juist strengere regels voor wegwerp-vapes. Zonder die schoning leek de publieke opinie dus vrijwel het tegenovergestelde van wat echte respondenten wilden, en een ongefilterde telling van de 118.756 reacties had tot een verkeerde conclusie geleid.

Dit is, volgens de onderzoekers, het eerste gedocumenteerde geval van grootschalige geautomatiseerde inmenging in een formele Britse consultatie over gezondheidsbeleid. Wie er achter de bot-golf zat en met welk doel, laten ze in het midden: hun studie richt zich op de omvang en de richting van de nepreacties, niet op de afzender van de berichten.

Voor wie in Engeland woont, laat de studie vooral zien hoe lastig het is om via een consultatie te meten wat mensen echt willen. Zonder het speurwerk van de onderzoekers naar de 90.835 verdachte reacties had het DHSC een vertekend beeld gehouden.