x       xx       x        xxxx
>Who  x   >Artificial  
 Speaks?  Intelligence, Language,
         x     and Democracy
  xxxx           xx     x     xxx
 
         xx xxxx
  > SyRI     x
 x         x
  xxx
               x
       (Natalia 
 Sliwinska)
  xxx x       xx
x         x

Natalia Sliwinska’s video called SyRI illustrates the impact of AI on the digital welfare state by looking into the workings of the Dutch government’s digital fraud prevention system SyRI. Systeem Risico Indicatie (SyRI) is a risk calculation model that was developed by the Ministry of Social Affairs and Employment to predict the likelihood of engaging in benefits and tax fraud in low-income neighbourhoods. In February 2020 the District Court of the Hague ruled that the use of SyRI software is unlawful as privacy rights outweigh governmental measures against tax fraud.

Natalia Sliwinska’s video SyRI illustreert de impact van AI op de digitale verzorgingsstaat door te kijken naar de werking van het Nederlandse fraudepreventiesysteem SyRI. Systeem Risico Indicatie (SyRI) is een risicoberekeningsmodel dat is ontwikkeld door het Ministerie van Sociale Zaken en Werkgelegenheid om de waarschijnlijkheid van fraude met uitkeringen en belasting te voorspellen in wijken met lage inkomens. In februari 2020 oordeelde de rechtbank in Den Haag dat het gebruik van SyRI-software onrechtmatig is omdat privacyrechten zwaarder wegen dan overheidsmaatregelen tegen belastingfraude.

Institution

Royal Academy of Art,
The Hague (KABK)

Article of the Dutch Constitution

  • Article 10:

    1. Everyone shall have the right to respect for his privacy, without prejudice to restrictions laid down by or pursuant to Act of Parliament.
    2. Rules to protect privacy shall be laid down by Act of Parliament in connection with the recording and dissemination of personal data.
    3. Rules concerning the rights of persons to be informed of data recorded concerning them and of the use that is made thereof, and to have such data corrected shall be laid down by Act of Parliament.

Artikel van de Nederlandse grondwet

  • Artikel 10:

    1. Ieder heeft, behoudens bij of krachtens de wet te stellen beperkingen, recht op eerbiediging van zijn persoonlijke levenssfeer.
    2. De wet stelt regels ter bescherming van de persoonlijke levenssfeer in verband met het vastleggen en verstrekken van persoonsgegevens.
    3. De wet stelt regels inzake de aanspraken van personen op kennisneming van over hen vastgelegde gegevens en van het gebruik dat daarvan wordt gemaakt, alsmede op verbetering van zodanige gegevens.

References