Politieke peilingen: het onbegrip regeert

Het ‘seizoen’ van politieke peilingen is volop losgebarsten. Joop van Holsteyn, bijzonder hoogleraar ‘kiezersonderzoek’, beziet het werk van journalisten en stelt vast dat dat ‘ver beneden peil’ is.

We schrijven maandag 11 september 2006. Inderdaad, vijf jaar later. Maar daar gaat het hier niet om. We hadden namelijk net zo goed zaterdag 9 september kunnen schrijven, vrijdag 8 of donderdag 7 september. Of een andere dag. Er gaat namelijk zo goed als geen dag voorbij of in de berichtgeving over de Nederlandse politiek wordt linksom of rechtsom verwezen naar opiniepeilingen. In de aanloop van de Tweede Kamerverkiezingen kijkt wellicht niemand daar echt heel erg van op, maar de schijnbaar onontkoombare aanwezigheid van peilingen roept toch een paar ernstige vragen op. Vragen aan journalisten.

Bos en Balkenende
Eerst enkele voorbeelden. Volgens de Volkskrant van maandag 11 september is het gat tussen CDA en PvdA verder verkleind en dan gaat het natuurlijk om het verschil in de electorale steun zoals die zou blijken uit opiniepeilingen. Over dezelfde peiling, waarin niet alleen naar de voorkeur voor politieke partijen werd gevraagd maar tevens naar kandidaten voor het premierschap, rapporteren diezelfde dag ook andere kranten. De Telegraaf doet dat onder de kop ‘Liever Balkenende premier dan Bos’ en Trouw met ‘Premier populairder dan oppositieleider Wouter Bos’. En dan heb ik de middagkranten nog niet onder ogen gehad.

In de landelijke kranten van de zaterdag ervoor komen nog meer verhalen over binnenlandse politiek voor waarin opiniepeilingen figureren of de hoofdrol spelen. Het Algemeen Dagblad presenteert resultaten van peilingen onder de kop ‘Verkiezingen: nog tien weken te gaan’. NRC Handelsblad publiceert een vraaggesprek met Laurens Jan Brinkhorst waarin zijn trots op de grote rol van D66 in het kabinet Balkenende II wordt geconfronteerd met het feit dat zijn partij kennelijk toch op slechts 1 of 2 zetels in de peilingen staat. De Telegraaf pepert dit de vrijzinnig-democraten in met een kort bericht over de stand in de peilingen onder de kop ‘Nog slechts een zetel D66’. En in het forse vergelijkende warenonderzoek dat de Volkskrant die dag presenteert onder de kop ‘Helpers weg, laatste ronde’ wordt het glunderen van de kopman der christen-democraten, Jan Peter Balkenende, toegeschreven aan het feit dat hij terugkomt in de peilingen, terwijl zijn sociaal-democratische tegenhanger Wouter Bos weerspreekt dat zijn partij als gevolg van de aow-perikelen een lichte terugval in die peilingen kende.

Ver bededen peil
Ik bedoel maar: peilingen, je kunt er niet meer omheen. Is dat erg? Valt dat te betreuren? Nee, dat hoeft niet. Of beter: het zou geen enkel probleem hoeven te zijn dat peilingen het politieke nieuws voortdurend kleuren zoal niet bepalen. Als althans het journalistieke gebruik van peilingen zorgvuldig en correct zou zijn. En daar zit hem de kneep. De manier waarop met peilingen wordt omgegaan door de Nederlandse (parlementaire) journalistiek, door de media, is ver beneden peil. Akkoord, ik doe misschien een enkeling enig onrecht met deze wilde bewering en forse generalisatie. Maar ik ben heel bang dat ik er niet zover naast zit.

Neem de peilingen van Maurice de Hond en zijn peil.nl als voorbeeld. Dan bedoel ik ook als voorbeeld; het gaat me niet om bepaalde peilers en hun peilingen maar om de manier waarop de journalistiek telkens weer laat zien niet te weten waarover men het heeft. De peilingen waarnaar hiervoor al werd verwezen zijn gehouden in opdracht van het NOS Journaal. En het begint direct fout. Zo opent dat NOS Journaal op haar webstek met de mededeling: ‘In de aanloop naar de Tweede-Kamerverkiezingen peilt Maurice de Hond in opdracht van de NOS elke week de politieke voorkeur van de Nederlandse bevolking’. Vervolgens wordt even zo vrolijk gemeld dat de peilingen van De Hond tot stand komen met behulp van een internetpanel.

Blijkbaar is er geen enkele journalist bij wie de alarmbellen dan hard gaan rinkelen. Of worden zelfs de meest elementaire beginselen van de steekproeftheorie en waarschijnlijkheidsleer niet aan beginnende journalisten bijgebracht?! Dat zou een groot gemis zijn, maar het zou in ieder geval wel verklaren dat kennelijk het NOS Journaal - een gezaghebbende bron en journalistieke autoriteit, misschien wel de meest gezaghebbende voor vele Nederlanders – weg komt met een bewering die zacht gezegd aanvechtbaar is.

Eisen
Hoe zat het ook alweer? Peilingen zijn gebaseerd op steekproeven. Het is ondoenlijk om alle Nederlanders week in week uit naar hun voorgenomen stemgedrag, of wat dan ook, te vragen, dus we ondervragen slechts een beperkt deel. Dat kan en mag. Als we echter op basis van die selectie uit het grotere geheel toch uitspraken over dat geheel willen doen, dan stelt dat bepaalde eisen aan de manier waarop die selectie tot stand komt.

Als we op basis van onze steekproef uitspraken over de populatie willen doen, dan dienen alle leden van die populatie een gelijke of althans bekende kans te hebben om in de steekproef te komen. Die steekproef moet, zoals dat heet, a-select of random zijn. Pas dan kan, met nog een paar slagen om de arm, de vertaalslag van steekproef naar populatie worden gemaakt. Pas dan kan de peiling een beeld geven van het electoraat of van de Nederlandse bevolking.

Als De Hond gebruik maakt van een internetpanel en als dat panel tot stand is gekomen door de vrijwillige aanmelding van deelnemers, dan is er op geen enkele manier sprake van een a-selecte steekproef uit bevolking of electoraat. Zo zijn mensen zonder internetaansluiting op voorhand uitgesloten en mensen die geen zin hebben om zich te melden blijven per definitie buiten beeld. Aldus is de steekproef niet a-select en is het wetenschappelijk onverantwoord om uitspraken te generaliseren naar de populatie. En dan kan er gewogen en ‘gecorrigeerd’ worden wat men wil, maar het zo gewilde en dan ook regelmatig misbruikte etiket ‘representatief’ is en blijft in dat geval een vlag op een stinkende modderschuit. Maar waarom zegt of schrijft geen enkele journalist dat?

Schijnbeweging
Bleef het daar bij, dan was het al erg genoeg. Maar het is nog veel erger. Zo is de permanente beweging die in de week na week gepresenteerde peilingen wordt gelezen zo goed als altijd niet meer dan een schijnbeweging, op geen enkele onderliggende werkelijkheid gebaseerd.

Op basis van steekproefonderzoek wordt een bepaald percentage gepeild en het idee is dat dit in de buurt zit van het ware percentage (dat normaal gesproken onbekend zal zijn en blijven). Stel dat dat ware percentage voor een bepaalde politieke partij een paar weken achtereen stabiel op 10 staat, dan is het goed mogelijk dat de ene week een percentage van 9, de erop volgende week 10 en nog een week later 11 wordt gemeten. Dat gebeurt, dat is de aard van het beestje dat steekproef heet. In de krant staat dan echter ongetwijfeld dat de partij een opgaande lijn vertoont, op winst staat en het goed doet. Maar ja, als de vierde week de partij in de peiling plots op 9 procent staat, is er sprake van ‘fors verlies’ en breekt bij die partij waarschijnlijk intern paniek uit. Terwijl er al die tijd niets maar dan ook niets aan de hand hoeft te zijn waar het de electorale steun onder het electoraat betreft.

De verschillen in percentages, die trouwens strikt genomen helemaal niet in Kamerzetels kunnen worden omgezet, vallen binnen de betrouwbaarheidsmarges die nu eenmaal gelden en dienen te worden aangehouden. Maar ja, geen verandering is geen nieuws, dus dan doen we maar net alsof er verandering en nieuws is – ook al zou elementaire kennis van steekproefonderzoek en de aard van opiniepeilingen tot andere (waarschijnlijk: geen) berichtgeving leiden.

Trouwens, het spiegelbeeld is net zo gek. Het is zo goed als uitgesloten dat juist kleine partijen bij opeenvolgende peilingen exact dezelfde aanhang zouden hebben. Dat moet vanwege de gehanteerde onderzoekstechniek schommelen. Dat de SGP in sommige peilingen rotsvast op 2 zetels zit, is dan ook niet de directe uitkomst van de peilingen, zoals gehouden. Daar wordt de hand van de peiler zichtbaar, die weegt en corrigeert. Dat manipuleren is op zichzelf niet verboden, maar waarom lees ik daar zo weinig over? Hoe gaat dat en wat heeft dat voor gevolgen voor de uitkomst? Waarom valt het kennelijk geen enkele journalist op dat zaken die op basis van de waarschijnlijkheidsleer zo goed als onmogelijk zijn zich in de peilingen week na week met hoge regelmaat voordoen?

Geen antwoorden
Nu ik toch bezig ben: ook meer in detail is de berichtgeving over peilingen ronduit belabberd. Richtlijnen over de presentatie van resultaten van peilingen lijken onbekend en worden in ieder geval nooit gehanteerd. Hoe zat de steekproef in elkaar? Wanneer precies is de peiling gehouden? Hoeveel mensen deden mee en hoe hoog was het responspercentage? Hoe zijn respondenten benaderd en ondervraagd? Welke vraag kregen zij voorgeschoteld en wat waren hun antwoordmogelijkheden? Stuk voor stuk vragen waarvan het antwoord van essentieel belang is voor een goed begrip van opiniepeilingen en hun resultaten. Maar ik lees die antwoorden nooit. Als lezer of kijker word ik volstrekt in de steek gelaten bij het interpreteren van de resultaten van peilingen. De journalist, die hier mijn gids en tolk/vertaler zou moeten zijn, geeft nooit thuis. Hij snapt het niet, hij weet niet beter, of hij vindt het ten onrechte niet belangrijk genoeg. In een tijd dat de berichtgeving rondom politiek en verkiezingen volstrekt doordrenkt is door opiniepeilingen, is dat een erg pijnlijke misser.

Nog niet zo lang geleden werd de stelling geponeerd dat de leugen zou regeren in journalistiek Nederland. Ik ben bang dat het, waar het de berichtgeving over en het gebruik van peilingen betreft, net iets anders ligt. Niet de leugen regeert, maar het onbegrip. Ik weet niet wat erger is.

14 reacties

  1. bvo schreef op 18 september 2006 om 20:44

    Of de meest elementaire beginselen van de steekproeftheorie en waarschijnlijkheidsleer aan beginnende journalisten wordt bijgebracht, weet ik niet, maar is een interessante vraag.

    Anderzijds zouden onderzoekers misschien minder ruimte moeten laten in hun persbericht bij een nieuwe peilingsresultaat?

    Zo mailde de onderzoeker van InSites Consulting mij het volgende antwoord naar aanleiding van de commentaren op de steekproefmethode, -resultaten en de daaraan gekoppelde conclusies in een stuk op De Nieuwe Reporter (http://www.denieuwereporter.nl/?p=531#comments):

    Wat betreft de persoonlijke relevantie van de informatiebron internet (“het eerst grijpen naar” hebben we niet op dergelijke manier bevraagd en is een verwoording die journalisten eraan gaven) is het zo dat die bij de groep niet-internetgebruikers in Belgie en Nederland wellicht niet op nummer een zal staan. Die vraag uit het onderzoek is dus idd eerder enkel te relateren aan de internettende gemeenschap in beide landen. De niet aan internet gerelateerde vragen zijn dat dan weer niet. In een volgend persbericht zullen we dat dan ook meer benadrukken zodat er geen vrije interpretatie mogelijk is.

  2. Pingback: Nooit meer slapen » De zin en onzin van peilingen

  3. Oobio schreef op 20 september 2006 om 15:18

    Een uiterst gedegen en gedurfd stuk. Hulde aan de schrijver. Leugen of onbegrip, het leidt in ieder geval niet tot objective berichtgeving. Een uitstekend voorbeeld van hoe in rap tempo als media je geloofwaardigheid te verliezen. Opgeklopte meuk wordt op de voorpagina gepleurd, en niemand durft hardop te vragen of het eigenlijk wel waar is. De krant is verworden tot een veredelde blog met een drukpers in de kelder, indien het haar objectiviteit niet waarborgt, of het nalaat transparant te zijn naar de lezer (=klant) toe.

  4. Daniëlle schreef op 20 september 2006 om 17:06

    De vragen die Joop stelt zijn terecht. Zou er nog een aan toe willen voegen:

    In hoeverre wordt het stemgedrag van de burger beïnvloed door de peilingen?

    Hopelijk wordt ook dit eens onderzocht, misschien iets voor Maurice de Hond… :)

    Vrees overigens dat er bar weinig hoofdredacteuren en journalisten zullen zijn die wakker zullen liggen van dit soort vragen. The show must go on.

  5. kunpal schreef op 20 september 2006 om 20:45

    Hulde! Het wordt tijd voor een herdruk van “how to lie with statistics” van Darrel Huff, verschenen in 1954 en vetaald in het Nederlands: Gebruik en misbruik van de statistiek 1960. Nog een onderzoek: hoeveel mensen vertrouwen het nieuws nog.

  6. Daniël Smit schreef op 21 september 2006 om 05:22

    Resultaten van opiniepeilingen geven gemakzuchtige journalisten gelegenheid om, zonder enig eigen onderzoek of intellectuele voorbeschouwing, de publieke opinie als uitgangspunt én leidraad te erkennen als zijnde basiskennis.

    Met name de TV-journalistiek maakt zich schuldig aan deze gemakzucht. Wat dat betreft zijn de nieuwtjes van RTL-Boulevard oorspronkelijker en daardoor meer te vertrouwen dan die van bijv. Netwerk en Nova!

    Met name in Hilversum bestaat de concensus om het vooral zo te houden, want échte journalistiek kost veel geld.
    Wil je tóch de diepte in en buiten je budget gaan, ja dan gaan we het hebben over “onderzoeksjournalistiek”.

    Stel je voor: een journalist die op onderzoek uit gaat!
    Lijkt me niet meer van deze tijd…..

  7. Tiny Romme schreef op 21 september 2006 om 10:49

    Een goed artikel en ik hoop oprecht dat veel journalisten hier kennis van nemen (en niet alleen zij). Een verplicht onderdeel voor de opleiding journalistiek zou statistiek moeten zijn, zodat duiding professioneler uitgevoerd wordt.

  8. Een heldere en rake uiteenzetting van Joop van Holsteyn. Het is inderdaad iedere dag meerdere malen per dag zuchten geblazen bij alweer een peiling. En wat dan wel niet te denken van al die peilingen naar een mening op al die weblogs. Ja, ook ik Brutus. En je dan maar afvragen van wie die meningen dan toch zijn.

    Maar OOBOIO, veredelde blog? Die discussie hebben we toch wel gehad? Bloggers vertellen hun eigen waarheid. Nu blijkt dat politiek journalisten dat dus ook doen. Verrast? Ik geloof dat die vaststelling niet alleen voor die groep geldt. Dat zou niet eens heel erg zijn als zij daar transparant in zijn. Maar dat verwijt dan weer wel maken aan bloggers. Ik stelde het zelf al ‘verstopt’ vast, journalisten bestaan niet! Ha.

  9. Duns schreef op 21 september 2006 om 22:15

    De methodiek van de diverse onderzoeksbureaux wordt afgeschermd als zijnde een ‘bedrijfsgeheim’. Je kunt de journalist in deze weinig verwijten. Dat verwijt zou gericht moeten zijn aan de bureaux.

    De betrouwbaarheid van peil.nl kunnen we zien door de voorlaatste peiling te vergelijken met de verkiezingsuitslag. Ik meen me te herinneren dat peil.nl het dan nogal goed doet. Dus blijkbaar kun je wel degelijk representatief meten via het net …

    Wel heeft de schrijver gelijk dat je van de NOS zou mogen verwachten dat tenminste de standaardafwijking wordt vermeld. En inderdaad, dat electorale bewegingen worden vermeld als “Balkenende loopt 2 x de standaardafwijking in op Bos.”

    Maar wie van de lezers/kijkers kan dat nog begrijpen? Het verval van het onderwijs heeft niet alleen zijn uitwerking op de journalistiek, maar ook op het publiek!

    In dezelfde trant verbaas ik me ook altijd over de economische berichtgeving. Daar worden percentages op maand-basis en jaar-basis lukraak geciteerd zonder dat duidelijk vermeld wordt wat wat is …

    Evenzo wordt de groep van het BNP nimmer vergeleken met de bevolkingsgroei, zodat in tijden van grote bevolkingsgroei de lezer van de krantenkoppen in de illusie komt dat hij in een land woont met sterke welvaartsgroei. (Dit was het geval in de 1990′s.)

    Was het niet Albert Plesman, die op 90-jarige leeftijd zei dat hij nog elke dag de krant las, maar dat hij de artikelen over luchtvaart oversloeg, want daar stond toch alleen onzin in?

  10. Daniëlle schreef op 22 september 2006 om 10:46

    “De methodiek van de diverse onderzoeksbureaux wordt afgeschermd als zijnde een ‘bedrijfsgeheim’. Je kunt de journalist in deze weinig verwijten”, schrijft Duns in de vorige reactie.

    Een van de basisregels voor een journalist is om zijn bronnen te checken. Ik besef dat dit niet altijd mogelijk is, maar indien je als persorgaan wekelijks melding maakt van de resultaten van onderzoeksbureaus, elk met met hun eigen invloed op de burger, dan dien je ervan overtuigd te zijn dat de gegevens kloppen. Dus heeft de journalist de plicht de werkwijze van de onderzoekbureaus te controleren.

    Indien het onderzoeksbureau onder het mom van bedrijfsgeheim deze controle niet toelaat, moet je er vanuit gaan dat het bureau waren van inferieure kwaliteit aanbiedt. Met andere woorden: indien controle niet mogelijk is, stop dan met de verspreiding van de onderzoeksresultaten want de kans is reëel dat je onjuiste informatie verstrekt.

  11. wat ook belangrijk is: de software die gebruikt wordt om te meten. deze software moet zelf geschreven worden wil deze echt betrouwbaar zijn. er even excel of zo bijhalen geeft al onbetrouwbare resultaten. misschien een klein punt, maar ik denk het niet. we gaan ons steeds vaker neerleggen bij de uitkomsten van software, of het nu Google is of Excel. maar software bevat fouten… stemcomputers; exact hetzelfde verhaal. ik hoop dat de overheid hier volledige controle op heeft anders holt de betrouwbaarheid achteruit en kunnen de gevolgen groot zijn.

  12. Pingback: De nieuwe reporter » Blog Archive » De werkelijkheid van de peilingen

  13. Pingback: Politieke peilingen: De Telegraaf vertrouwt blind op De Hond « – FHJ Factcheck –

  14. Pingback: De plank, het slaan en de spijker toch op de kop? « Met pels en luis

Geef een reactie

Je e-mailadres wordt niet gepubliceerd. Verplichte velden zijn gemarkeerd met *

*

De volgende HTML tags en attributen zijn toegestaan: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <strike> <strong>